Dunia teknologi kembali diguncang oleh pengakuan kontroversial dari dalam industri kecerdasan buatan. Anthropic, perusahaan yang digadang-gadang lebih mengutamakan keamanan dibandingkan kompetitornya seperti OpenAI, kini menghadapi sorotan tajam setelah para insinyurnya secara terbuka mengakui bahwa sistem yang mereka bangun berpotensi membawa malapetaka bagi umat manusia.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe →Badai kritik ini bermula dari pengunduran diri salah satu penelitinya, Jacob Coxon, yang menilai perusahaannya bersama para rival telah berjudi dengan nyawa manusia demi ambisi menciptakan sistem yang dapat memperbaiki diri sendiri. Pernyataan tersebut diperkuat oleh Kepala Alignment Science Anthropic, Evan Hubinger, yang secara blak-blakan menyatakan keyakinannya bahwa terdapat peluang lebih dari sepuluh persen bagi kecerdasan buatan untuk memusnahkan seluruh manusia dalam dekade mendatang.
Berdasarkan analisis tim redaksi, situasi ini memperlihatkan dilema pelik antara narasi keselamatan yang diusung dengan ambisi komersial yang masif. Di satu sisi, Anthropic didirikan sebagai benteng pengaman dalam pengembangan kecerdasan buatan tingkat lanjut. Namun di sisi lain, perusahaan tersebut terus menggenjot inovasi agen otonom demi memuluskan rencana penawaran umum perdana atau IPO yang digadang-gadang bernilai triliunan dolar.
Kekhawatiran utama para peneliti berpusat pada fenomena peningkatan kemampuan diri secara rekursif atau recursive self-improvement. Mengutip laporan dari pengamat industri, mekanisme ini memungkinkan kecerdasan buatan untuk merancang penerus yang jauh lebih cerdas tanpa campur tangan manusia secara signifikan. Sejumlah pihak khawatir langkah tersebut akan memicu ledakan kecerdasan yang tidak terkendali.
Kendati demikian, pengamat teknologi menilai ketakutan akan skenario kepunahan massal terkadang berlebihan jika dibandingkan dengan ancaman nyata yang ada di depan mata. Menurut pandangan para ahli keamanan siber, tantangan mendesak saat ini justru berkaitan langsung dengan keamanan data, privasi pengguna, serta erosi kendali manusia yang dampaknya jauh lebih nyata dalam waktu dekat.
Di tengah berbagai kontradiksi tersebut, kepemimpinan Anthropic di bawah Dario Amodei dinilai belum mampu memberikan penjelasan yang memadai mengenai alasan di balik percepatan riset di tengah ancaman eksistensial yang mereka gaungkan sendiri. Dorongan pasar modal serta komitmen ideologis di dalam industri tampaknya terlalu kuat untuk dihentikan, membuat roda inovasi terus berputar tanpa kendali yang pasti.