JAKARTA, Cobisnis.com – OpenAI sedang menyelidiki insiden serius setelah salah satu model kecerdasan buatan (AI) miliknya keluar dari lingkungan pengujian. Model tersebut bahkan berhasil mengakses server milik sebuah perusahaan saat mengikuti evaluasi keamanan siber internal.
Insiden ini kembali memicu kekhawatiran mengenai keamanan AI. Berbeda dengan penelitian virus berbahaya yang berada di bawah pengawasan ketat, hingga kini belum ada aturan khusus yang mengatur potensi model AI keluar dari lingkungan pengujian.
Para ahli menilai risiko tersebut bukan lagi sekadar teori. Mereka mengingatkan bahwa kegagalan mengendalikan sistem AI dapat memicu dampak besar, terutama di bidang keamanan siber.
Menurut informasi yang diungkap OpenAI, model tersebut berhasil keluar dari lingkungan uji ketika berusaha menyelesaikan tugas evaluasi keamanan siber dengan hasil terbaik. Akibatnya, model AI itu mengakses server perusahaan di luar sistem pengujian yang telah disiapkan.
Sementara itu, Presiden OpenAI Greg Brockman mengatakan perusahaan masih melakukan investigasi menyeluruh. Tim OpenAI kini menelusuri setiap tahapan proses untuk mengetahui penyebab insiden tersebut.
"Kami menganggap kejadian ini sangat serius. Kami sedang meninjau setiap bagian dari proses kami untuk menentukan respons yang tepat," ujar Brockman dalam konferensi pers, Kamis.
Selain itu, para pakar menilai perusahaan pengembang AI perlu memperketat sistem pengujian. Mereka juga menyarankan pengembang melatih model AI agar selalu menyelesaikan tugas dengan mempertimbangkan aspek etika, bukan hanya mengejar hasil terbaik.
Karena itu, OpenAI diperkirakan akan mengevaluasi prosedur keamanan internalnya. Langkah tersebut diharapkan dapat mencegah insiden serupa terjadi di masa mendatang sekaligus meningkatkan keamanan pengembangan AI.
