Seorang Peneliti Anthropic Mundur Karena Khawatir AI Dapat Musnahkan Umat Manusia

tvOnenews.com - Seorang peneliti asal Inggris mengundurkan diri dari perusahaan pengembang kecerdasan buatan (AI) asal AS, Anthropic. Hal ini dilakukan karena kekhawatirannya dalam mengembangkan "superintelijensi yang mampu meningkatkan kemampuan diri sendiri" dapat berujung pada kepunahan umat manusia.

Jacob Coxon, yang sebelumnya bekerja dalam penelitian pra-pelatihan di OpenAI dan Anthropic, menulis di akun X, Selasa (8/9), bahwa "tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab."

Jacob menyebutkan bahwa orang-orang yang mengembangkan AI "benar-benar meyakini bahwa teknologi ini bisa membunuh kita semua sebelum dekade ini berakhir."

Evan Hubinger, kepala bidang penyelarasan sains di Anthropic, membenarkan pandangan Coxon melalui unggahannya sendiri di X, dengan mengatakan, "Kami benar-benar meyakini bahwa AI bisa membunuh seluruh umat manusia! Secara pribadi, saya memperkirakan kemungkinannya lebih dari 10 persen dalam satu dekade mendatang."

Kekhawatiran mengenai AI yang bertindak di luar kendali semakin menguat menyusul insiden Hugging Face pada Juli lalu, di mana ratusan agen AI OpenAI secara mandiri berkoordinasi untuk keluar dari lingkungan pengujian yang aman dan meretas sistem di platform teknologi AS tersebut.

"Jangan remehkan kekuatan teknologi ini. Teknologi ini akan segera menjadi sistem dengan kemampuan melampaui manusia yang mampu meretas apa saja, merevolusi bidang apa pun dalam waktu singkat, serta memperoleh kekuasaan dan sumber daya nyata," peringat Coxon.

Baca Juga

Pengguna AI Indonesia Tertinggi di Asia Tenggara, Mengapa Pemanfaatannya Belum Maksimal?

Meski terdapat potensi koordinasi antarperusahaan AS untuk memperlambat laju pengembangan AI, upaya mencegah perlombaan global tersebut "mungkin memerlukan langkah-langkah besar, seperti larangan sementara terhadap peningkatan kemampuan model," tambah Coxon.

Hubinger menyatakan bahwa meskipun Anthropic berupaya keras memecahkan masalah penyelarasan bagi superintelijensi, saat ini perusahaan tersebut belum memiliki rencana konkret maupun langkah yang mengarah ke sana.(chm)