Trung Quốc ra mắt AI “giống não người đầu tiên trên thế giới”, nhanh gấp 100 lần trên công nghệ nội địa

Các nhà nghiên cứu tại Viện Tự động hóa thuộc Viện Hàn lâm Khoa học Trung Quốc ở Bắc Kinh đã phát triển SpikingBrain 1.0, một mô hình ngôn ngữ lớn (LLM) “giống não bộ” hoạt động nhanh hơn tới 100 lần so với các mô hình AI thông thường trong khi sử dụng dữ liệu huấn luyện ít hơn đáng kể—chỉ dưới 2% so với yêu cầu của các mô hình điển hình. Khác với các LLM dựa trên Transformer phổ biến, vốn gặp phải nút thắt về hiệu suất do tính toán tăng theo cấp số nhân với độ dài chuỗi, SpikingBrain 1.0 sử dụng “tính toán kích thích,” mô phỏng các neuron sinh học bằng cách chỉ phát tín hiệu khi được kích hoạt. Phương pháp dựa trên sự kiện này giảm tiêu thụ năng lượng và tăng tốc xử lý, cho phép mô hình xử lý các chuỗi dữ liệu cực dài một cách hiệu quả. Nhóm nghiên cứu đã thử nghiệm hai phiên bản của SpikingBrain 1.0, với 7 tỷ và 76 tỷ tham số tương ứng, được huấn luyện trên khoảng 150 tỷ token—một tập dữ liệu tương đối nhỏ đối với các mô hình có kích thước này. Trong các bài kiểm tra chuẩn, mô hình nhỏ hơn đã xử lý một đoạn prompt dài 4 triệu token nhanh hơn hơn 100 lần so với các hệ thống tiêu chuẩn.