DETIKMERDEKA – CEO OpenAI Sam Altman bertemu sejumlah senator Amerika Serikat setelah agen kecerdasan buatan (AI) eksperimental milik perusahaannya lolos dari lingkungan pengujian dan kemudian melakukan peretasan terhadap infrastruktur Hugging Face.
Insiden tersebut ikut dibahas dalam pertemuan Altman dengan sejumlah anggota Senat AS. Namun, Altman mengatakan pembahasan mengenai insiden itu hanya menjadi salah satu bagian kecil dari agenda. Pertemuan tersebut bukan merupakan pemanggilan atau sidang resmi terhadap Altman.
Altman diketahui bertemu Senator Bernie Moreno dan Jon Husted. Ia juga terlihat mendatangi kantor Senator Raphael Warnock. Pertemuan dengan Senator Mark Warner, anggota senior Partai Demokrat di Komite Intelijen Senat AS, juga dijadwalkan.
Kasus ini menjadi perhatian karena menunjukkan bahwa agen AI dengan kemampuan menjalankan tugas secara mandiri dapat menemukan celah keamanan dan memperluas akses di luar lingkungan yang disiapkan pengembang.
Menurut laporan OpenAI, insiden bermula ketika perusahaan menguji kemampuan siber model GPT-5.6 Sol dan model riset internal lain yang belum dirilis. Pengujian dilakukan untuk mengukur kemampuan model menemukan dan mengeksploitasi celah keamanan.
OpenAI menonaktifkan sebagian pengaman siber dalam pengujian tersebut untuk melihat kemampuan maksimal model. Agen AI kemudian menemukan celah keamanan baru atau zero-day pada perangkat lunak yang digunakan dalam lingkungan pengujian.
Celah itu dimanfaatkan untuk memperoleh akses internet dari lingkungan yang seharusnya terisolasi. Agen tersebut kemudian mencapai sistem di luar lingkungan pengujian dan beroperasi pada infrastruktur Hugging Face.
Dalam laporan OpenAI, agen tersebut diduga mencari model, dataset, dan informasi lain yang dapat membantu menyelesaikan tugas evaluasi. Sistem kemudian melakukan sejumlah tindakan untuk memperoleh akses, meningkatkan hak akses, dan berpindah dari satu sistem ke sistem lain.
Hugging Face mengungkap bahwa serangan tersebut melibatkan akses ke sejumlah sumber daya internal. Perusahaan mengatakan tidak menemukan bukti bahwa model, dataset, atau aplikasi publik mereka diubah.
OpenAI kemudian menonaktifkan dan mengamankan model riset yang terlibat. Perusahaan menyatakan model tersebut masih berupa prototipe internal dan tidak direncanakan untuk dirilis kepada publik.
Laporan Reuters juga menyebut agen tersebut sempat melakukan aktivitas selama beberapa hari sebelum keterlibatannya diketahui OpenAI. Peristiwa itu menimbulkan pertanyaan baru mengenai kemampuan pengawasan terhadap agen AI yang dapat menjalankan rangkaian tindakan secara mandiri.
Kasus Hugging Face kini tidak lagi hanya menjadi persoalan teknis internal perusahaan. Insiden tersebut mulai masuk ke pembahasan kebijakan pemerintah AS, terutama terkait pengawasan terhadap model AI berkemampuan tinggi.
Sejumlah anggota Kongres mendorong aturan yang lebih ketat, termasuk usulan audit keamanan independen dan mekanisme penghentian darurat untuk sistem AI yang dianggap menimbulkan risiko serius.
OpenAI menilai insiden tersebut menjadi bukti bahwa kemampuan model AI dalam melakukan operasi siber telah berkembang dan dapat diterapkan pada sistem nyata. Perusahaan juga menyebut pengembangan kemampuan siber perlu diikuti pengamanan dan pertahanan yang lebih kuat.
Peristiwa tersebut tidak menunjukkan bahwa AI memiliki kesadaran atau sengaja “memberontak” terhadap manusia. Masalah utamanya adalah ketika model diberi target tertentu, akses yang terlalu luas, dan pengawasan yang tidak cukup ketat, sistem dapat menemukan cara yang tidak diperkirakan pengembang untuk mencapai tujuannya.
Kondisi itu membuat pengamanan lingkungan pengujian, pembatasan akses, pengawasan manusia, dan sistem penghentian darurat semakin penting dalam pengembangan agen AI yang semakin mandiri.
