Bos OpenAI Ungkap ChatGPT Digunakan untuk Rencana Penembakan

Meritagehighlands.com – CEO OpenAI, Sam Altman, mengakui adanya kesalahan serius terkait penyalahgunaan ChatGPT dalam perencanaan penembakan massal yang terjadi di Kanada. Dalam insiden yang berlangsung pada 10 Februari di Tumbler Ridge, seorang remaja berusia 18 tahun, Jesse Van Rootselaar, menembaki delapan orang, termasuk anggota keluarganya dan lima siswa dari sekolah setempat, sebelum akhirnya mengakhiri hidupnya sendiri.

Menurut pernyataan OpenAI, akun ChatGPT milik Rootselaar telah ditandai pada Juni tahun lalu karena diduga digunakan untuk mempromosikan kegiatan kekerasan. Namun, meski akun tersebut telah ditangguhkan, perusahaan menyatakan bahwa kejadian itu tidak dianggap sebagai ancaman yang mendesak saat itu, sehingga tidak ada pelaporan kepada pihak berwajib.

Dalam surat yang dirilis pada 24 April, Altman menyampaikan bahwa keputusan untuk tidak melaporkan penyalahgunaan tersebut merupakan kesalahan. Dia menekankan pentingnya tanggung jawab dalam penggunaan teknologi AI dan perlunya langkah-langkah untuk mencegah situasi serupa di masa depan.

Pernyataan ini muncul setelah mendapat perhatian luas dari masyarakat dan pemerintah setempat, serta kritik atas kelemahan dalam sistem pemantauan penggunaan alat AI. Langkah selanjutnya dari OpenAI akan melibatkan evaluasi lebih mendalam mengenai kebijakan keamanan dan pencegahan agar teknologi ini tidak disalahgunakan.

Sementara itu, insiden ini membuka wacana lebih luas tentang tanggung jawab perusahaan teknologi dalam mengawasi dan mengendalikan penggunaannya serta dampak sosial yang mungkin ditimbulkannya. Diskusi tentang regulasi teknologi juga semakin mendesak seiring dengan meningkatnya kekhawatiran akan penyalahgunaan AI dalam konteks yang berbahaya.