Cognition ra mắt SWE-2 Flash, mô hình lập trình nhanh hơn, rẻ hơn, được xây dựng trên Inkling-Small của Thinking Machines

Cognition giới thiệu SWE-2 Flash, mô hình lập trình dựa trên Inkling-Small của Thinking Machines (tổng cộng 276B và 12B tham số hoạt động). Cognition cho biết mô hình này có chi phí thấp hơn 5 lần và chạy nhanh hơn 3 lần so với SWE-2, đồng thời vượt trội hơn mọi mô hình trọng số mở của Mỹ trong các bài đánh giá hàng đầu, kể cả những mô hình lớn gấp ba lần. Đây là những tuyên bố của chính Cognition.

Cognition cho biết lần đầu tiên họ bổ sung một giai đoạn huấn luyện giữa chừng trước khi học tăng cường, sử dụng vài nghìn tỷ token gồm mã nguồn, bài viết khoa học và blog, sau đó huấn luyện bằng học tăng cường quy mô lớn. Họ nói rằng phần lớn cải thiện so với SWE-2 đến từ các tác vụ học tăng cường đa dạng hơn, chất lượng cao hơn; các nhà nghiên cứu của họ đã kiểm tra chỉ dẫn, môi trường và bộ xác minh của những tác vụ này.

SWE-2 Flash miễn phí đến hết tháng 11 cho người dùng gói Pro, Max và Teams trong Devin Desktop và Devin CLI. Cognition cho biết họ đang xây dựng chương trình chia sẻ an toàn trọng số mô hình với các đối tác và nhà nghiên cứu, nhằm cân bằng giữa tính minh bạch và rủi ro an ninh mạng, đồng thời sẽ cung cấp thông tin chi tiết trong những tuần tới.