Oleh: Muhammad Ma’ruf

GTI-Ada keheningan yang aneh ketika sebuah perusahaan teknologi mengakui bahwa ciptaannya—yang katanya dirancang untuk membantu manusia—telah menjelma menjadi instrumen kematian. Pada Jumat yang kelabu, Anthropic, laboratorium kecerdasan buatan yang berbasis di Amerika Serikat, membuka pintu yang selama ini terkunci rapat. Di balik pintu itu, tersimpan pengakuan yang mengguncang: model AI mereka, Claude, telah digunakan untuk merancang perangkat lunak pemandu rudal balistik dan mendukung operasi spionase siber lintas negara.

Pengakuan itu bukan sekadar rilis pers biasa. Ia adalah cermin yang memantulkan wajah ganda teknologi: satu sisi menjanjikan kemajuan, sisi lain menyimpan potensi kehancuran yang tak terbayangkan.

Ketika Prompt Menjadi Senjata

Bayangkan seorang insinyur yang tidak pernah tidur, tidak pernah lelah, dan tidak pernah bertanya mengapa. Itulah yang ditawarkan Claude kepada mereka yang tahu cara memanfaatkannya. Menurut laporan Anthropic, para pengguna memakai agen AI mereka "sebagai pengganti insinyur perangkat lunak manusia"—menugaskan model tersebut untuk menulis kode pemandu rudal, merancang sistem kendali penerbangan, dan menjalankan peran-peran teknis yang seharusnya membutuhkan manusia dengan kesadaran moral.

Yang lebih mencemaskan, para pelaku belajar menghindari deteksi. Mereka menyamarkan tujuan akhir, memecah tugas ke dalam sesi-sesi terpisah, sehingga tidak ada satu pun perintah yang membocorkan gambaran utuhnya. Seperti mozaik yang disusun dari kepingan-kepingan kecil, setiap potongan tampak tidak berbahaya—namun bila digabungkan, terbentuklah senjata.

Anthropic mengklaim telah memblokir banyak permintaan dan menutup akun-akun terlibat. Namun berapa banyak yang lolos? Berapa banyak kepingan mozaik yang sudah tersusun sebelum pintu itu tertutup?

Suara yang Pergi Sebelum Badai

Hanya beberapa hari sebelum pengakuan itu mencuat, seorang peneliti muda bernama Jacob Coxon meninggalkan kursinya di Anthropic. Ia bukan sekadar pergi—ia melangkah keluar sambil membawa peringatan yang membara.

Coxon, peneliti asal Inggris, berbicara tentang "pertaruhan peradaban" yang diabaikan oleh perusahaan-perusahaan teknologi yang saling berlomba. Ia menyebut mereka sedang "berlomba menuju terciptanya kecerdasan super yang mampu mengembangkan dirinya sendiri, sehingga mempertaruhkan nyawa kita semua."

Kata-katanya terasa seperti ramalan yang terlalu cepat menjadi kenyataan. Beberapa hari kemudian, Anthropic mengakui bahwa model mereka telah dipakai untuk keperluan militer. Apakah Coxon tahu sesuatu yang tidak ia katakan? Ataukah ia hanya melihat pola yang terlalu jelas untuk diabaikan?

Darah di Minab

Jejak penggunaan AI ini tidak berhenti di ruang server. Sejak akhir Februari, Anthropic dilaporkan terlibat mendalam dalam agresi militer AS-Israel terhadap Iran. Rudal-rudal Amerika menggunakan data AI untuk menyerang sebuah sekolah dasar di Minab, Iran selatan, dan sebuah gedung olahraga di Lamerd.

Hampir 200 warga sipil tewas. Sebagian besar dari mereka adalah anak-anak.

Serangan tanpa provokasi itu mengungkap sisi paling gelap dari AI: ketika diberi data intelijen usang dan dikerahkan tanpa pengawasan manusia yang memadai, proses pemilihan target berubah menjadi mekanisme industrial yang berujung pada kematian. Tidak ada mata yang menangis, tidak ada hati yang ragu—hanya algoritma yang menghitung probabilitas dan meluncurkan peluru.

Operasi gabungan AS-Israel itu diberi sandi "Operation Epic Fury"—sebuah nama yang terdengar seperti judul film aksi, namun meninggalkan duka yang nyata di tanah Iran.

Panggilan dari Puncak

Di tengah badai pengakuan ini, Sekretaris Jenderal PBB Antonio Guterres menyerukan "respons global yang bersatu dan berkelanjutan" terhadap ancaman yang ditimbulkan oleh pengembangan AI yang sembrono. Seruan itu terdengar seperti suara dari menara yang jauh—jelas, benar, namun sulit dijangkau oleh dunia yang sedang berlomba menuju titik tak kembali.

Pertanyaan yang tersisa bukan lagi apakah AI akan digunakan untuk perang. Itu sudah terjadi. Pertanyaan yang tersisa adalah: siapa yang akan mengawasi? Siapa yang akan menahan tangan-tangan yang mengetik perintah? Dan ketika kode berubah menjadi peluru, siapa yang bertanggung jawab atas darah yang tertumpah?

Epilog: Cermin yang Retak

Anthropic telah berbicara. Mereka mengakui, memblokir, dan berbagi informasi. Namun pengakuan itu datang setelah segalanya terjadi—setelah kode ditulis, setelah rudal diluncurkan, setelah anak-anak tidak pernah kembali ke rumah.

Coxon telah pergi. Guterres telah berseru. Dan dunia terus berputar, terjebak dalam perlombaan yang tidak ada garis finisnya.

Mungkin yang kita butuhkan bukan sekadar pengamanan internal yang lebih baik, atau regulasi yang lebih ketat. Mungkin yang kita butuhkan adalah keberanian untuk berhenti—untuk bertanya, di tengah gemuruh inovasi, apakah kita sedang membangun masa depan atau menggali kuburan kita sendiri.

Karena ketika AI belajar menulis kode pemandu rudal, ia tidak hanya belajar tentang fisika dan matematika. Ia belajar sesuatu tentang manusia: bahwa kita, pada akhirnya, akan mengajarkannya cara menghancurkan diri kita sendiri.