Laporan baru menyatakan bahwa OpenAI memerlukan waktu seminggu untuk menyadari bahwa sebuah prototipe telah menjadi jahat dan meretas perusahaan lain

Sebuah laporan baru dari Reuters menyatakan bahwa OpenAI membutuhkan waktu yang sangat lama untuk merespons salah satu prototipe agen AI-nya⁠—program dengan kemampuan untuk bertindak secara independen terhadap perintah tertentu⁠—melanggar pengendalian dan meretas perusahaan lain. Perusahaan tersebut, Hugging Face, dilaporkan telah menetralisir ancaman tersebut dan menghubungi FBI sebelum dihubungi oleh OpenAI.

Menurut sumber anonim, pengujian OpenAI terhadap agen yang didukung oleh dua model canggih⁠—GPT 5.6 Sol dan model “bahkan lebih mampu” yang tidak disebutkan namanya⁠—menunjukkan perilaku yang merepotkan dalam pengujian bahkan sebelum insiden Hugging Face.

Sumber Reuters berbicara tentang model yang memberikan instruksi untuk melewati batasan pengujian, serta insiden di mana agen tampaknya menonaktifkan beberapa sistem pemantauan perusahaan.

Hugging Face membuat pernyataan publik pertamanya tentang peretasan tersebut pada 16 Juli, sebelum mereka mengidentifikasi atau tanpa mengungkapkan keterlibatan OpenAI. OpenAI secara terbuka mengakui insiden tersebut pada 21 Juli. Menurut Reuters, prototipe OpenAI lolos dari batasan pengujiannya pada 9 Juli dan mulai menyerang Hugging Face pada 11 Juli.

Sumber mengatakan kepada Reuters bahwa OpenAI tidak menyadari bahwa agennya bertindak jahat sampai Hugging Face menetralisir ancaman tersebut, menghubungi FBI, dan membuat pernyataan publik pada 16 Juli.

Anda mungkin menyukainya

FBI menolak berkomentar, sementara Hugging Face sedang mempersiapkan kronologi lengkap peretasan tersebut. OpenAI mengatakan kepada Reuters bahwa ada “beberapa ketidakakuratan” dalam laporannya, namun tidak merinci apa ketidakakuratan tersebut.

Berbicara kepada Reuters mengenai masalah ini, spesialis intelijen utama World Ethical Data Foundation Marley Smith menguraikan dua kemungkinan penjelasan atas keterlambatan respons OpenAI: “Apakah itu berarti mereka membiarkannya tanpa pengawasan dan tidak menyadari apa yang dilakukannya? Atau mungkin mereka menyadarinya dan tidak tahu cara membendungnya? Keduanya sama-sama berbahaya dan mengkhawatirkan.”