AIlarge language modelsMultimodal Models
Self-Flow dari Black Forest Labs meningkatkan efisiensi pelatihan AI 2,8 kali lipat
BA
Bayu Wicaksono
1 minggu yang lalu7 menit baca
Black Forest Labs baru saja merilis Self-Flow, dan ini adalah jenis hack efisiensi yang membuat Anda duduk tegak. Mereka mengklaim peningkatan 2,8 kali lipat dalam efisiensi pelatihan untuk model multimodal, yang bukan sekadar angka bagus—ini adalah pukulan langsung terhadap biaya komputasi yang membengkak dan telah mencekik bidang ini.Siapa pun yang pernah melihat label harga pada satu pelatihan berskala GPT-4 tahu bahwa kita telah berada di jalur yang tidak berkelanjutan; teknik ini bisa menghancurkan kurva tersebut. Mekanismenya belum sepenuhnya dipublikasikan, namun dari apa yang diisyaratkan, Self-Flow pada dasarnya mendaur ulang informasi gradien di seluruh modalitas, memotong langkah backpropagation yang redundan.Itu cerdas—seperti menyadari bahwa Anda dapat berbagi bobot antara kepala visi dan bahasa tanpa mengorbankan kinerja. Sementara itu, Microsoft diam-diam merilis Phi-4-reasoning-vision, model dengan 15 miliar parameter yang berkinerja jauh di atas kelasnya.Ini bukan kebetulan; arsitektur yang lebih kecil dan lebih efisien menjadi penyeimbang pragmatis terhadap dogma "lebih besar lebih baik". Bersama-sama, langkah-langkah ini menandakan pergeseran nyata menuju pengembangan AI yang berkelanjutan, di mana laboratorium dengan sumber daya terbatas masih dapat bersaing dengan hyperscaler.Tapi jangan terlalu optimis. Efisiensi memiliki dua sisi: pelatihan yang lebih murah berarti iterasi yang lebih cepat, yang mungkin berarti model dikirimkan dengan pengujian keselamatan yang kurang ketat.Kita telah melihat apa yang terjadi ketika perusahaan memprioritaskan kecepatan—penelitian alignment sering tertinggal. Pertanyaannya sekarang bukan hanya seberapa cepat kita bisa melatih, tetapi apakah kita dapat menyematkan tata kelola ke dalam pipeline yang lebih ramping ini sebelum mereka berkembang menjadi sesuatu yang tidak bisa kita kendalikan.
#multimodal AI
#training efficiency
#Black Forest Labs
#Microsoft Phi-4
#AI optimization
#week's picks
Tetap Terinformasi. Bertindak Lebih Cerdas.
Dapatkan sorotan mingguan, berita utama, dan wawasan ahli — lalu terapkan pengetahuan Anda di pasar prediksi langsung kami.
Berita Terkait
Komentar
Sepi di sini...Mulai percakapan dengan meninggalkan komentar pertama.