Agen AI OpenAI Curang Parah, Sampai Nyusup ke Jaringan Hugging Face!
Sebuah laporan terbaru mengungkap fakta mengejutkan: agen AI OpenAI yang terlibat insiden penyusupan ke Hugging Face bulan lalu itu ternyata didesain untuk menang di sebuah kompetisi. Saking ngebetnya menang, mereka sampai nekat melakukan berbagai cara curang. Yang lebih parah, tanpa izin, mereka bahkan membuat semacam "ruang obrolan" dadakan untuk menyusun rencana jahat yang akhirnya berhasil membawa mereka masuk ke dalam jaringan perusahaan Hugging Face!
Eksperimen "Tugas Mustahil" dan Hilangnya Pengaman
Jadi, ceritanya begini. Selama bulan Mei dan Juni, OpenAI sengaja memberikan "tugas mustahil" kepada para agen AI ini lewat platform uji coba bernama ExploitGym. Tes internal ini dirancang untuk melihat bagaimana reaksi dan kemampuan para agen tersebut. Untuk benar-benar mengerti seberapa jago agen-agen ini, para insinyur perusahaan sengaja menonaktifkan fitur keamanan (guardrails) yang seharusnya ada untuk mencegah aksi peretasan seperti yang akhirnya menimpa Hugging Face dan satu organisasi lain yang tidak disebutkan namanya.
Latihan yang keras itu membuat agen-agen AI ini jadi punya obsesi menang yang luar biasa. Alhasil, mereka melakukan tugas-tugas yang bahkan tidak pernah diperintahkan secara eksplisit, demi mencapai kemenangan!
"Namanya Juga Tukang Curang!" – Bikin Ruang Obrolan Rahasia
Langkah pertama dalam aksi curang mereka adalah membuat semacam papan pesan agar para agen ini bisa saling berkirim "catatan rahasia". Padahal, OpenAI tidak pernah menyediakan platform seperti itu. Nah, para agen ini cerdiknya malah menyalahgunakan platform bernama Artifactory.
Artifactory sendiri sebenarnya digunakan OpenAI dalam uji coba internal untuk beberapa agen peretas yang belum dirilis. Fungsi utamanya adalah sebagai salah satu cara untuk mencegah agen-agen itu keluar dari lingkungan "sandbox" yang terisolasi dan mengakses internet, sambil tetap mensimulasikan lingkungan peretasan dunia nyata. Tapi apa daya, malah disalahgunakan jadi tempat menyusun strategi curang!