AI
Gedung Putih Ingin Anthropic Memblokir Semua Jailbreak. Itu Mungkin Tidak Mungkin
DA
Daniel Reed
4 minggu yang lalu7 menit baca
Dalam demonstrasi yang mencolok dari ketegangan yang meningkat antara ambisi regulasi dan realitas teknologi, pejabat dari pemerintahan Trump dilaporkan telah menyampaikan ultimatum langsung kepada Anthropic: pastikan model bahasa besar mereka yang akan datang, Fable 5, sepenuhnya kebal terhadap "jailbreak" sebelum rilis publiknya. Arahan ini menggarisbawahi keinginan yang kuat dari para pembuat kebijakan untuk mengantisipasi potensi penyalahgunaan AI canggih, namun hal itu segera berbenturan dengan konsensus yang meluas di antara para ahli keamanan yang berpendapat bahwa mencapai penghalang yang tak tertembus terhadap pengabaian tersebut, untuk semua tujuan praktis, adalah sebuah kemustahilan.Tuntutan Gedung Putih berasal dari kekhawatiran yang meningkat atas potensi model AI canggih untuk dieksploitasi guna menghasilkan konten yang berbahaya, menyesatkan, atau bahkan membahayakan. Seiring kemajuan kemampuan AI yang pesat, para pembuat kebijakan bergulat dengan tantangan memanfaatkan inovasi sambil memitigasi risiko. Perintah eksekutif sebelumnya dan berbagai diskusi tingkat tinggi telah menekankan perlunya pengembang AI untuk memprioritaskan keselamatan dan pengamanan, terutama dalam mencegah model dibujuk untuk mengabaikan parameter etika dan keselamatan yang dimaksudkan. Anthropic, yang dikenal karena komitmennya terhadap "Constitutional AI" dan fokus kuat pada keselamatan, mendapati dirinya berada di garis depan dorongan regulasi ini, dengan model generasi berikutnya sekarang berada di bawah pengawasan ketat.Jailbreaking, dalam konteks model bahasa besar, mengacu pada metode kreatif dan seringkali cerdik yang digunakan pengguna untuk melewati filter keselamatan dan pengamanan yang diprogram ke dalam AI. Upaya-upaya ini dapat berkisar dari pengubahan frasa perintah yang halus hingga taktik rekayasa sosial yang kompleks, semuanya ditujukan untuk memancing respons yang dirancang oleh model untuk ditolak. Pengguna mungkin mencari untuk menghasilkan instruksi untuk aktivitas ilegal, membuat konten ofensif, atau sekadar mengeksplorasi batasan sensor AI. Tantangan bagi pengembang seperti Anthropic terletak pada ledakan kombinatorial dari potensi perintah dan fleksibilitas inheren bahasa alami, yang membuatnya sangat sulit untuk mengantisipasi dan memblokir setiap jalur yang dapat dibayangkan untuk pengabaian.Profesional keamanan dan tim merah AI telah lama terlibat dalam permainan kucing-dan-tikus dengan pengembang model, terus-menerus mencari kerentanan baru dalam sistem AI. Skeptisisme mereka tentang tuntutan Gedung Putih berakar pada pengalaman praktis ini. Mereka berpendapat bahwa sistem apa pun, terutama yang kompleks dan bernuansa seperti model bahasa besar, pasti akan memiliki kelemahan yang dapat dieksploitasi. Mencoba memblokir *semua* jailbreak mirip dengan mencoba membangun sistem perangkat lunak yang sempurna dan tidak dapat diretas—tujuan yang tetap sulit dipahami bahkan untuk perangkat lunak konvensional, apalagi AI yang muncul dengan perilaku yang kurang dapat diprediksi. Sementara pengamanan yang kuat dapat secara signifikan mengurangi *kemungkinan* jailbreak yang berhasil, menghilangkannya sepenuhnya dipandang sebagai cita-cita yang tidak dapat dicapai.Bagi Anthropic, arahan ini menghadirkan dilema yang signifikan. Di satu sisi, perusahaan telah membangun reputasinya di atas fondasi pengembangan AI yang bertanggung jawab dan keselamatan. Gagal memenuhi harapan pemerintah yang jelas dapat memengaruhi posisinya dan hubungan regulasi. Di sisi lain, mendedikasikan sumber daya untuk mengejar kemustahilan mutlak berisiko mengalihkan perhatian dari langkah-langkah keselamatan kritis lainnya dan menunda rilis alat AI yang berpotensi berharga. Situasi ini menyoroti ketidaksesuaian mendasar antara tujuan aspirasional pembuat kebijakan dan keterbatasan teknis saat ini yang dihadapi oleh pengembang AI, yang menavigasi perairan yang belum dipetakan dalam keselamatan dan penerapan model.Implikasi yang lebih luas meluas di luar Anthropic, membentuk lanskap masa depan regulasi dan pengembangan AI. Jika bahkan perusahaan AI terkemuka yang sadar keselamatan berjuang untuk memenuhi tuntutan pemerintah yang ketat, hal itu menimbulkan pertanyaan mendalam tentang kelayakan peraturan keselamatan AI yang terlalu preskriptif di seluruh industri. Dialog yang berkelanjutan antara pemerintah dan para teknolog ini tidak diragukan lagi akan memengaruhi bagaimana model AI di masa depan dikembangkan, diuji, dan pada akhirnya diterapkan, menggarisbawahi sifat keselamatan AI yang berkelanjutan dan berulang, serta kompleksitas inheren dalam membawa teknologi mutakhir dengan aman ke tangan publik.
#week's picks
#AI Safety
#Anthropic
#White House
#AI Regulation
Tetap Terinformasi. Bertindak Lebih Cerdas.
Dapatkan sorotan mingguan, berita utama, dan wawasan ahli — lalu terapkan pengetahuan Anda di pasar prediksi langsung kami.
Komentar
Sepi di sini...Mulai percakapan dengan meninggalkan komentar pertama.
