OpenAI hentikan pengembangan AI Astra: Bisa jebol sistem tanpa izin

OpenAI menghentikan sementara sejumlah aktivitas pengembangan model AI yang sedang dikembangkan, yaitu Astra. Berdasarkan evaluasi awal, model ini memiliki potensi kemampuan siber yang ofensif di tingkat kritis. Tingkat risiko ini merupakan level tertinggi dalam kerangka keamanan (Preparedness Framework) yang digunakan oleh OpenAI.

Menurut definisi OpenAI, sebuah model dianggap mencapai level "Kritis" jika mampu secara mandiri menemukan dan mengeksploitasi celah keamanan tanpa campur tangan manusia. Selain itu, model tersebut juga bisa merancang dan menjalankan strategi serangan siber dari awal hingga akhir.

Untuk mengurangi risiko, perusahaan memperketat kontrol keamanan dan menghentikan aktivitas internal terkait Astra. Model ini belum memenuhi standar pengamanan yang sesuai.

Beberapa tindakan yang telah dilakukan oleh OpenAI antara lain:

• Mengisolasi lingkungan pengujian Astra dengan akses jaringan dan alat yang lebih dibatasi.
• Pemantauan yang lebih ketat, termasuk meninjau alur penalaran (chain of thought) model selama pelatihan dan evaluasi.
• Memperkuat enkripsi untuk bobot (weights) model.
• Menghentikan sementara pekerjaan internal atas Astra yang belum memenuhi standar keamanan baru.
• Menggandeng lembaga pemerintah AS dan sejumlah organisasi keamanan AI independen untuk ikut menguji kemampuan Astra.

OpenAI sempat menjadi sorotan beberapa waktu lalu. Agen AI mereka sempat "kabur" dari sandbox pengujian terisolasi untuk mendapatkan akses internet mandiri. Tidak hanya membobol platform Hugging Face, tetapi juga menyusup ke akun milik pelanggan perusahaan cloud lain, Modal Labs, yang berbasis di New York.

Insiden tersebut melibatkan dua model, yaitu GPT-5.6 Sol dan satu model pra-rilis yang belum diumumkan namanya. Kedua model tersebut awalnya diuji dalam skenario keamanan siber bernama ExploitGym dengan sejumlah pagar pengaman sengaja dinonaktifkan agar kemampuan aslinya bisa diukur secara murni.

Alih-alih tetap di lingkungan tertutup, model-model itu menemukan celah zero-day pada software toolkit, lalu memanfaatkannya untuk memperoleh akses internet dan akhirnya membobol sistem produksi Hugging Face.

OpenAI menegaskan bahwa agen AI yang membobol kedua platform tersebut tidak berbasis model Astra. Alasannya, sampai saat ini, Astra masih dalam tahap pengembangan dan belum dirilis ke publik, menurut laporan The Guardian.

Penundaan pengembangan Model AI Astra ini sudah diketahui oleh Pemerintah AS. Insiden pembobolan beberapa waktu lalu menjadi salah satu pemicu utama mengapa OpenAI kini bergerak jauh lebih hati-hati sebelum merilis model barunya yang lebih canggih, termasuk Astra.

OpenAI ingin membangun model AI Astra dengan kemampuan siber tinggi. Tujuannya tak lain ialah sebagai alat bantu tim keamanan siber untuk menemukan dan menambal celah lebih dulu sebelum dieksploitasi pihak tak bertanggung jawab.