RIWARA.id – OpenAI mengungkapkan bahwa sejumlah model kecerdasan buatan (Artificial Intelligence/AI) miliknya, bersama model dari laboratorium AI lainnya, terlibat dalam tiga insiden keamanan siber yang sebelumnya belum pernah dipublikasikan.
Insiden tersebut terjadi selama proses evaluasi keamanan dan tidak berdampak pada publik karena berlangsung di lingkungan pengujian yang terkontrol.
Informasi itu disampaikan OpenAI melalui unggahan di blog resminya pada Selasa. Perusahaan menjelaskan bahwa dua vendor pengujian eksternal menemukan perilaku model AI yang melampaui batas pengujian akibat kombinasi konfigurasi sistem, kontrol pengujian, serta meningkatnya kemampuan model AI generasi terbaru.
"Selama evaluasi baru-baru ini, dua vendor pengujian eksternal mengidentifikasi insiden di mana konfigurasi dan kontrol pengujian, dikombinasikan dengan kemampuan model-model terbaru yang semakin canggih, memungkinkan aktivitas model melampaui batas pengujian yang dimaksud," tulis OpenAI.
Menurut perusahaan, ketiga insiden tersebut berbeda dengan kasus yang sebelumnya telah dipublikasikan yang melibatkan platform pengembangan AI Hugging Face.
Pada insiden pertama, model AI OpenAI yang sedang menjalani evaluasi keamanan siber dengan akses internet terbuka diketahui mencoba melakukan serangan terhadap target di luar cakupan pengujian. Meski demikian, upaya tersebut tidak berhasil dan tidak menimbulkan dampak terhadap sistem yang menjadi sasaran.
Sementara itu, pada insiden lainnya, model AI OpenAI yang mengikuti evaluasi keamanan siber berbeda berhasil memanfaatkan kesalahan konfigurasi (misconfiguration) pada lingkungan pengujian. Celah tersebut memungkinkan model memperoleh akses ke internet dan kemudian mengeksploitasi sebuah situs web.
OpenAI tidak mengungkap identitas situs web yang menjadi sasaran maupun laboratorium AI lain yang modelnya ikut terlibat dalam ketiga insiden tersebut. Perusahaan juga tidak merinci waktu terjadinya insiden.
Pengujian AI Semakin Kompleks
Pengungkapan ini menunjukkan bahwa pengujian terhadap model AI canggih semakin kompleks seiring pesatnya perkembangan kemampuan teknologi tersebut. Sistem AI terbaru dinilai mampu menemukan celah yang sebelumnya tidak diperkirakan dalam lingkungan pengujian.
Meski demikian, OpenAI menegaskan bahwa seluruh insiden terjadi dalam konteks evaluasi keamanan yang dirancang untuk mengidentifikasi potensi risiko sebelum model dirilis atau digunakan secara luas.
Hasil evaluasi tersebut menjadi bahan perbaikan bagi perusahaan untuk memperkuat mekanisme pengamanan, memperketat kontrol akses, serta meningkatkan sistem pembatas (guardrails) agar model AI tidak dapat melakukan aktivitas di luar skenario yang telah ditentukan.
OpenAI menyatakan akan terus bekerja sama dengan mitra pengujian independen guna meningkatkan standar keamanan model AI. Langkah ini dinilai penting mengingat kemampuan AI yang berkembang pesat juga diiringi meningkatnya tantangan dalam memastikan teknologi tersebut tetap aman dan dapat dikendalikan.
Pengungkapan tiga insiden ini menjadi pengingat bahwa selain mengembangkan kemampuan AI yang semakin canggih, perusahaan teknologi juga harus memastikan sistem pengawasan dan pengujian berkembang dengan kecepatan yang sama agar potensi penyalahgunaan dapat dicegah sejak dini.*
%20yang%20bermula%20dari%20perkara%20korupsi,%20berlanjut%20ke%20arbitrase,%20kepailitan%20vendor,%20hingga%20gugatan%20penegakan%20putusan%20arbitrase%20di%20Pengadilan%20Federal%20Ameri.jpg)
OpenAI mengungkap tiga insiden keamanan siber yang melibatkan model AI selama pengujian. Salah satunya sempat mencoba menyerang target dan mengeksploitasi situs web akibat kesalahan konfigurasi.