iFlytek Trung Quốc Ra Mắt Spark X2.6 Được Huấn Luyện Hoàn Toàn Trên Chip Nội Địa

Công ty trí tuệ nhân tạo Trung Quốc iFlytek đã tổ chức Lễ hội Nhà phát triển 1024 thường niên vào thứ Năm để ra mắt Spark X2.6, một mô hình lớn end-cloud mà họ tuyên bố là mô hình đầu tiên đạt đột phá cả về khả năng lập trình và tác nhân trong khi được huấn luyện hoàn toàn trên sức mạnh tính toán nội địa. Chủ tịch Lưu Khánh Phong nói với khán giả rằng trong số các công ty xây dựng mô hình lớn, iFlytek là công ty duy nhất huấn luyện thuần túy trên chip do Trung Quốc sản xuất, trong khi gần như tất cả các công ty khác đều chạy trên phần cứng Nvidia. Ông nói thêm rằng các mô hình của họ cũng có kích thước nhỏ nhất trong số các đối thủ chính.

Nhãn end-cloud mô tả một kiến trúc trong đó tính toán nặng diễn ra tại trung tâm dữ liệu trong khi các tác vụ nhẹ hơn chạy trên thiết bị, một thiết kế nhằm giữ dịch vụ phản hồi nhanh và giảm chi phí phục vụ hàng triệu người dùng. Đối với iFlytek, điểm bán hàng không phải là quy mô thô mà là khai thác hiệu năng hữu ích từ phần cứng hạn chế.

Hạn chế đó có tên: băng thông bộ nhớ. Chip AI nội địa thường cung cấp ít băng thông hơn so với các bộ tăng tốc Nvidia hàng đầu, làm chậm các chuỗi suy luận dài mà các tác nhân hiện đại phụ thuộc vào. iFlytek cho biết Spark X2.6 được thiết kế xoay quanh hạn chế này, sử dụng các kỹ thuật tác vụ tầm xa để bù đắp cho đường truyền dữ liệu hẹp hơn. Công ty không tiết lộ điểm chuẩn hoặc số lượng tham số trong bài thuyết trình.

Lợi ích vượt ra ngoài một sản phẩm. Ngành AI Trung Quốc đã dành nhiều năm xây dựng các giải pháp thay thế cho hệ sinh thái phần mềm CUDA của Nvidia và chip của hãng, và một mô hình hoạt động tốt trên silicon nội địa cung cấp bằng chứng cho nỗ lực đó. Nếu trợ lý lập trình và tác nhân có thể chạy ổn định trên phần cứng Trung Quốc, lập luận rằng tiến bộ AI của nước này bị giới hạn bởi khả năng tiếp cận bộ xử lý nước ngoài sẽ yếu đi đáng kể.

Lễ hội Nhà phát triển 1024, được đặt tên theo 1.024 byte trong một kilobyte, là sự kiện thường niên của iFlytek và đã trở thành nơi để công ty có trụ sở tại Hợp Phì định vị mình là một đơn vị full-stack, từ chip và mô hình đến thiết bị tiêu dùng như máy phiên dịch và máy ghi âm. Sự kiện năm nay đặt tính toán nội địa lên hàng đầu.

Cạnh tranh rất gay gắt. DeepSeek, Alibaba và ByteDance đều có các mô hình mạnh, và một số đã nhấn mạnh hiệu quả và chi phí suy luận thấp hơn là kích thước thuần túy. Điểm khác biệt của iFlytek là tuyên bố về một ngăn xếp hoàn toàn nội địa, điều có sức nặng với người mua doanh nghiệp trong các lĩnh vực ưa chuộng công nghệ trong nước.

Điều còn chưa được chứng minh là hiệu năng. Công bố khả năng lập trình và tác nhân không giống như việc sánh ngang với các mô hình tốt nhất trong các bài kiểm tra độc lập, và iFlytek chưa công bố so sánh. Các nhà phát triển sẽ là người phán xét: sự đón nhận của mô hình đối với các tác vụ lập trình và quy trình tác nhân trong những tuần tới sẽ cho thấy liệu một mô hình chip nội địa có thể cạnh tranh bằng thực lực thay vì nguồn gốc hay không.