AMERIKA SERIKAT — Peneliti AI Mundur dan Peringatkan Risiko Kepunahan Manusia

Dunia kecerdasan buatan kembali diguncang oleh kabar mengejutkan dari lingkaran dalam pengembang teknologi itu sendiri. Seorang peneliti kecerdasan buatan (AI) terkemuka yang sebelumnya hengkang dari OpenAI untuk bergabung dengan Anthropic kini memutuskan mundur sepenuhnya dari industri teknologi. Langkah dramatis ini diambil setelah ia melontarkan kritik pedas terhadap raksasa teknologi yang dinilai terlalu ceroboh dalam mengejar supremasi teknologi.

Peneliti tersebut menuding bahwa perusahaan-perusahaan AI terkemuka di Amerika Serikat saat ini sedang "mempertaruhkan nyawa umat manusia" demi memenangkan perlombaan menciptakan model AI yang mampu meningkatkan kemampuannya sendiri secara mandiri (self-improving AI). Kekhawatiran ini menyoroti bagaimana ambisi komersial mulai mengesampingkan faktor keselamatan mendasar bagi masa depan peradaban.

Alarm Bahaya dari Balik Dinding Laboratorium AI

Kritik tajam dari mantan peneliti tersebut rupanya bukan sekadar gertakan kosong atau kepanikan tanpa dasar. Eksekutif keselamatan Anthropic, Evan Hubinger, secara terbuka memberikan dukungan terhadap peringatan tersebut melalui platform media sosial X. Ia mengakui bahwa ancaman eksistensial dari kecerdasan buatan yang tidak terkendali adalah kenyataan pahit yang dihadapi para pengembang saat ini.

"Kami benar-benar dan dengan sungguh-sungguh meyakini bahwa AI berpotensi memusnahkan seluruh umat manusia," ungkap Evan Hubinger dalam pernyataannya yang menuai kehebohan global.

Tak hanya berhenti pada peringatan normatif, Hubinger bahkan membeberkan kalkulasi risiko yang mencengangkan. Ia memperkirakan probabilitas terjadinya bencana kepunahan manusia akibat AI berada di angka lebih dari 10 persen dalam kurun waktu satu dekade ke depan. Angka ini dinilai sangat tinggi untuk sebuah risiko yang mengancam eksistensi kehidupan di bumi.

Ancaman Nyata Model AI yang Mampu Berevolusi Sendiri

Perdebatan mengenai bahaya AI kini telah bergeser dari sekadar disinformasi atau otomatisasi pekerjaan menuju risiko hilangnya kendali manusia. Para pakar keselamatan AI mengidentifikasi sejumlah titik kritis yang memicu kekhawatiran mendalam, antara lain:

• Kemampuan Perbaikan Mandiri (Self-Improvement): Model AI yang mampu menulis ulang kode pemrograman dan meningkatkan kecerdasannya secara eksponensial tanpa intervensi manusia.
• Hilangnya Mekanisme Kontrol: Ketika sistem AI mencapai tingkat kecerdasan super (AGI), manusia dikhawatirkan tidak lagi memiliki tombol pemutus daya atau kendali logis atas tindakan mesin tersebut.
• Tekanan Persaingan Komersial: Perlombaan ketat antara OpenAI, Anthropic, Google, dan entitas global lainnya memicu pemangkasan prosedur audit keselamatan demi merilis produk lebih cepat ke pasar.

Dilema Etika di Tengah Perlombaan Teknologi Global

Keputusan sang peneliti untuk angkat kaki dari industri mencerminkan frustrasi mendalam yang mulai menjangkiti para ilmuwan di laboratorium-laboratorium AI terbaik dunia. Banyak peneliti merasa suara mereka diabaikan saat memperingatkan bahaya jangka panjang, tertutup oleh gemerlap investasi miliaran dolar dan hype teknologi global.

Kini, seruan untuk intervensi regulasi pemerintah semakin mendesak. Tanpa adanya kerangka kerja hukum yang ketat dan transparan, langkah umat manusia dalam mengembangkan kecerdasan buatan super dinilai ibarat berjalan di tepi jurang tanpa tali pengaman.