Cognition merilis SWE-2 Flash, model pemrograman yang lebih cepat dan murah, dibangun di atas Inkling-Small dari Thinking Machines

Cognition memperkenalkan SWE-2 Flash, model pemrograman yang didasarkan pada Inkling-Small dari Thinking Machines (276B parameter total dan 12B parameter aktif). Cognition menyatakan bahwa biayanya 5x lebih rendah dan berjalan 3x lebih cepat daripada SWE-2, serta bahwa model ini mengungguli semua model berbobot terbuka buatan Amerika pada tolok ukur evaluasi terkemuka, termasuk model yang ukurannya tiga kali lebih besar. Ini adalah klaim Cognition sendiri.

Cognition menyatakan bahwa untuk pertama kalinya, mereka menambahkan tahap pelatihan menengah sebelum pembelajaran penguatan, menggunakan beberapa triliun token dari kode, artikel ilmiah, dan blog, lalu melatih model dengan pembelajaran penguatan berskala besar. Mereka menyebutkan bahwa sebagian besar peningkatan dibandingkan SWE-2 berasal dari tugas pembelajaran penguatan yang lebih berkualitas dan beragam, yang instruksi, lingkungan, dan verifikatornya diaudit oleh para peneliti mereka.

SWE-2 Flash tersedia gratis hingga akhir November bagi pengguna Pro, Max, dan Teams di Devin Desktop dan Devin CLI. Cognition menyatakan bahwa mereka sedang menyiapkan program untuk membagikan bobot model secara aman kepada mitra dan peneliti, guna menyeimbangkan transparansi dengan risiko siber, dan akan memberikan detailnya dalam beberapa minggu mendatang.