AI
Peneliti MIT Luncurkan SEAL: Langkah Baru Menuju AI yang Meningkatkan Diri Sendiri
SO
Sophia King
4 minggu yang lalu7 menit baca
Para peneliti di Laboratorium Ilmu Komputer dan Kecerdasan Buatan (CSAIL) bergengsi MIT telah memperkenalkan kerangka kerja terobosan yang dapat secara fundamental mengubah lintasan pengembangan kecerdasan buatan. Dinamai SEAL, singkatan dari Self-correction with Alignment (Koreksi Diri dengan Penyelarasan), sistem baru ini memberdayakan model bahasa besar (LLM) untuk mengidentifikasi kesalahan mereka sendiri, menghasilkan koreksi, dan secara mandiri memperbarui pengetahuan internal mereka, sebuah proses yang mirip dengan belajar dari pengalaman. Perkembangan ini menandai perubahan signifikan dari sifat statis model AI saat ini, yang sebagian besar membeku dalam waktu setelah pelatihan awal mereka, dan mewakili langkah penting menuju penciptaan sistem AI yang lebih dinamis, andal, dan terus berkembang.Tantangan inti yang diatasi SEAL adalah salah satu hambatan terbesar dalam AI modern: stagnasi model. LLM seperti yang menggerakkan chatbot populer dilatih pada kumpulan data yang sangat luas tetapi tetap. Setelah proses pelatihan yang monumental dan mahal ini selesai, pemahaman mereka tentang dunia terkunci. Mereka tidak dapat secara independen mempelajari informasi baru atau memperbaiki bias yang tertanam dan ketidakakuratan faktual tanpa pelatihan ulang yang ekstensif dan padat sumber daya oleh pengembang. Keterbatasan ini berarti bahwa bahkan model yang paling canggih sekalipun dapat dengan percaya diri memberikan jawaban yang sudah ketinggalan zaman atau melanggengkan stereotip berbahaya yang ada dalam data pelatihan mereka. SEAL menawarkan solusi yang lebih elegan dan efisien, memungkinkan model itu sendiri untuk melakukan pengeditan yang diperlukan secara langsung.Kerangka kerja ini beroperasi melalui proses multi-langkah yang canggih yang berakar pada pembelajaran penguatan. Alih-alih menunggu umpan balik manusia, SEAL membekali LLM untuk bertindak sebagai kritikus dan editornya sendiri. Ketika diminta, model pertama-tama menghasilkan respons. Kemudian secara internal menandai potensi cacat dalam respons tersebut—apa yang disebut peneliti sebagai "demonstrasi yang tidak selaras." Selanjutnya, model mensimulasikan persona "editor" untuk merevisi keluaran yang cacat, menciptakan versi yang lebih berkualitas dan lebih akurat. Sepasang keluaran ini—respons asli yang cacat dan yang dikoreksi diri yang unggul—menjadi contoh pelatihan yang kuat, yang dihasilkan secara internal, yang memandu peningkatan model itu sendiri.Umpan balik yang dihasilkan sendiri ini kemudian digunakan untuk menyempurnakan parameter internal model, atau bobot, yang merupakan inti dari pengetahuan dan perilakunya. Menggunakan algoritma pembelajaran penguatan, SEAL memberi penghargaan pada jalur jaringan saraf yang mengarah ke respons yang dikoreksi, secara efektif mengajarkan model untuk menghindari kesalahan sebelumnya. Ini adalah perbedaan penting dari teknik lain yang mungkin menggunakan database eksternal untuk menambal informasi yang benar. SEAL tidak hanya memberikan jawaban yang benar; itu secara fundamental menulis ulang logika internal model untuk membuatnya lebih kecil kemungkinannya membuat kesalahan yang sama di masa depan. Ini adalah proses pembelajaran yang sebenarnya, bukan hanya pengambilan.Dalam eksperimen, tim MIT menunjukkan bahwa SEAL secara signifikan meningkatkan kinerja model di berbagai area penting. Kerangka kerja ini terbukti efektif dalam mengurangi generasi konten beracun atau berbahaya, meningkatkan akurasi faktual, dan menyelaraskan perilaku AI dengan nilai-nilai manusia yang diinginkan dengan lebih baik. Dengan secara mandiri mengidentifikasi dan memperbaiki kelemahannya, model menjadi semakin aman dan andal dari waktu ke waktu. Para peneliti menunjukkan bahwa metode ini dapat diterapkan pada berbagai LLM yang ada, menunjukkan bahwa ini bisa menjadi alat serbaguna untuk meningkatkan berbagai macam aplikasi AI yang sudah digunakan saat ini.Implikasi dari penelitian ini sangat mendalam. Jika berhasil ditingkatkan dan diterapkan, SEAL dapat menghasilkan sistem AI yang jauh lebih kuat dan adaptif. Bayangkan asisten AI yang dapat mengikuti berita harian, penemuan ilmiah yang dapat memperbarui basis pengetahuan mereka sendiri dengan penelitian baru, atau sistem keselamatan yang dapat "melupakan" perilaku berbahaya tanpa pengawasan manusia yang konstan. Meskipun masih dalam tahap penelitian, SEAL memetakan jalur yang menjanjikan menuju tujuan yang telah lama dipegang yaitu kecerdasan buatan umum (AGI)—sistem yang tidak hanya menghafal informasi tetapi dapat bernalar, belajar, dan tumbuh secara mandiri. Ini adalah langkah fundamental menjauh dari alat statis dan menuju agen yang benar-benar cerdas dan mandiri.
#week's picks
#AI
#MIT
#CSAIL
#Reinforcement Learning
#Large Language Models
#AI Safety
Tetap Terinformasi. Bertindak Lebih Cerdas.
Dapatkan sorotan mingguan, berita utama, dan wawasan ahli — lalu terapkan pengetahuan Anda di pasar prediksi langsung kami.
Komentar
Sepi di sini...Mulai percakapan dengan meninggalkan komentar pertama.
