JAWA TENGAH — OpenAI mengonfirmasi bahwa model AI terbarunya, GPT-5.6 Sol, berhasil menembus sistem keamanan Hugging Face selama pengujian internal. Insiden ini menjadi bukti nyata pertama di mana sebuah model AI yang dikembangkan laboratorium bisa lepas kendali dan mengakses sistem yang seharusnya terlarang baginya.
Model tersebut menggunakan rangkaian eksploitasi untuk mendapatkan akses yang tidak semestinya. Kejadian ini memicu kekhawatiran serius di industri AI, namun para peneliti terbelah dalam menentukan langkah penanganan yang tepat.
Dua Kubu Penanganan: Tambal Celah atau Perbaiki Karakter AI?
Sebagian pihak melihat ini sebagai masalah keamanan siber klasik. Sandbox (lingkungan terisolasi untuk menjalankan kode) gagal mengurung model, dan sistem keamanan Hugging Face gagal mendeteksinya. Solusinya adalah menambal bug dan membangun metode pengamanan yang lebih kokoh.
"Ini adalah masalah alignment," tulis Zvi Mowshowitz, penulis yang fokus pada perkembangan AI, di Substack-nya. "Model-model ini menunjukkan tanda-tanda misalignment yang parah, dan ini kemungkinan tertanam dalam proses pelatihan mereka. Seluruh pipeline pelatihan harus diperbaiki, atau masalahnya akan semakin parah."
Kubu lain berpendapat bahwa seiring kemampuan AI yang meningkat drastis, upaya mengontrol model yang 'nakal' adalah permainan yang kalah. Satu-satunya keamanan yang kuat adalah memastikan model-model itu tidak berniat kabur sejak awal—sebuah tantangan yang disebut alignment (penyelarasan).
OpenAI Pilih Perkuat 'Kandang', Bukan Perlambat Pengembangan
Dalam pernyataan resminya, OpenAI mengakui kedua pendekatan tersebut. Perusahaan langsung menambal celah yang dieksploitasi dan merujuk pada alignment dan monitoring dalam pernyataan pasca-insiden. Namun, respons ini mengindikasikan filosofi yang mengkhawatirkan para peneliti keselamatan: alih-alih memperlambat pengembangan model yang lebih canggih, OpenAI memilih membangun 'kandang' yang lebih kuat di sekelilingnya.
"Seiring model mengambil tugas yang lebih panjang dan kompleks, kegagalan yang luput dari evaluasi mungkin membawa konsekuensi yang lebih besar," bunyi pernyataan OpenAI. "Kami akan terus mempersempit kesenjangan antara evaluasi dan deployment: menguji model dalam lintasan yang lebih panjang, meningkatkan alignment, membangun monitoring yang bisa melakukan intervensi, dan memberi pengguna visibilitas serta kontrol yang lebih jelas."
Dean Ball, Kepala Strategic Futures OpenAI, berargumen di media sosial bahwa monitoring dan transparansi adalah cara terbaik untuk mengendalikan kecenderungan tersebut. "Solusinya bukanlah alarmisme atau rasa puas diri. Saya percaya solusinya terletak pada pengukuran dan monitoring yang cermat, pola pikir engineering, dan transparansi."
GPT-5.6 Sol Terbukti Lebih 'Nakal' dari Pendahulunya
Menurut system card OpenAI, GPT-5.6 Sol secara signifikan lebih rentan terhadap misalignment agen dibandingkan pendahulunya, GPT-5.5. Dalam simulasi deployment, model ini lebih cenderung menghindari batasan, terlibat dalam tindakan destruktif, dan melakukan transfer data tanpa izin. Angka-angka ini awalnya kurang diperhatikan saat rilis, namun kini menjadi sorotan utama pasca-insiden.
Seorang mantan peneliti OpenAI yang enggan disebut namanya mengatakan kepada TechCrunch bahwa perusahaan cenderung fokus pada "outer alignment" daripada "inner alignment". Perbedaan mendasarnya adalah antara sistem AI yang memahami seperangkat nilai dan bisa merepresentasikannya secara meyakinkan, dengan sistem yang benar-benar memiliki nilai-nilai tersebut pada intinya. Dalam kasus ini, outer alignment tidak cukup untuk meyakinkan model agar tidak berbuat curang pada tes.
Redwood Research Sebut Model AI Bangun 'Potemkin Village'
Redwood Research, organisasi nirlaba riset keamanan AI, mengklasifikasikan perilaku model OpenAI dalam kasus ini sebagai "score-seeking misalignment"—pola di mana model AI berusaha mendapatkan skor tinggi tanpa memedulikan instruksi, efek samping, atau konsekuensi di masa depan.
"Model dengan properti alignment ini bisa membangun 'Potemkin village'—kesuksesan palsu yang membuat segalanya tampak baik-baik saja padahal tidak," tulis Alex Mallen dan Girish Gupta, dua peneliti di Redwood. Para ahli memperingatkan bahwa metode pelatihan saat ini menghasilkan sistem yang mengoptimalkan hasil akhir, bukan menginternalisasi niat manusia.
