Liquid AI phát hành mô hình nền tảng trên thiết bị LFM2 - The Robot Report

Nguồn: roboticsbusinessreview
Tác giả: @therobotreport
Ngày đăng: 14/7/2025
Để đọc nội dung đầy đủ, vui lòng truy cập vào bài viết gốc.
Đọc bài viết gốcLiquid AI đã ra mắt LFM2, Mô hình Nền Tảng Lỏng mới nhất được thiết kế để triển khai trên thiết bị, nhằm cân bằng giữa chất lượng, độ trễ và hiệu quả bộ nhớ phù hợp với các nhiệm vụ và phần cứng cụ thể. Bằng cách chuyển các mô hình sinh lớn từ máy chủ đám mây sang các thiết bị cục bộ như điện thoại, laptop, ô tô và robot, LFM2 mang lại độ trễ tính bằng mili giây, khả năng hoạt động ngoại tuyến và tăng cường bảo mật dữ liệu. Mô hình này có kiến trúc lai mới cung cấp tốc độ giải mã và điền trước gấp đôi trên CPU so với Qwen3 và vượt trội hơn các mô hình có kích thước tương tự trên các bài kiểm tra về kiến thức, toán học, theo dõi hướng dẫn và khả năng đa ngôn ngữ. Ngoài ra, LFM2 đạt hiệu quả đào tạo nhanh gấp ba lần so với phiên bản trước.
Kiến trúc của LFM2 bao gồm 16 khối kết hợp giữa tích chập ngắn phạm vi có cổng kép và chú ý truy vấn nhóm, cho phép vận hành hiệu quả trên CPU, GPU và NPU trên nhiều thiết bị khác nhau. Liquid AI cung cấp ba kích thước mô hình (0,35 tỷ, 0,7 tỷ và 1,2 tỷ tham số) có sẵn dưới dạng mã nguồn mở.
Thẻ
robotartificial-intelligenceon-device-AIedge-computingfoundation-modelsmachine-learningAI-deployment