Studi Ungkap AI Cenderung Pilih Senjata Nuklir dalam Simulasi Perang

Jurnal Indonesia - Menurut sebuah studi yang baru saja diterbitkan, sistem AI terkemuka dari OpenAI, Anthropic, dan Google cenderung memilih penggunaan senjata nuklir dalam sebagian besar skenario simulasi perang.

Kenneth Payne, seorang ahli di King's College London (Inggris), menggunakan tiga bahasa pemrograman utama—GPT-5.2, Claude Sonnet 4, dan Gemini 3 Flash—untuk membangun permainan simulasi perang. Skenario-skenario ini berputar di sekitar krisis geopolitik yang tegang seperti sengketa perbatasan, persaingan untuk sumber daya yang langka, dan ancaman eksistensial terhadap kelangsungan hidup suatu rezim.

Dalam simulasi tersebut, sistem AI disajikan dengan "tingkat eskalasi" dengan berbagai pilihan tindakan, mulai dari penentangan diplomatik dan konsesi penuh hingga peluncuran perang nuklir strategis. Sebanyak 21 skenario permainan dimainkan, yang sesuai dengan 329 proses pengambilan keputusan, menghasilkan sekitar 780.000 kata penjelasan untuk pilihan model tersebut.

Hasil penelitian menunjukkan bahwa dalam 95% permainan, setidaknya satu senjata nuklir taktis digunakan. “Tabu nuklir tampaknya tidak memiliki pengaruh yang sama kuatnya pada mesin seperti pada manusia,” ujar Payne.

Yang perlu diperhatikan, tidak satu pun dari model tersebut memilih untuk menyerah sepenuhnya, bahkan ketika menghadapi kerugian yang besar. Paling banter, sistem tersebut hanya meredakan ketegangan untuk sementara waktu. Lebih jauh lagi, skenario tersebut juga menunjukkan tingkat kecelakaan yang tinggi dalam lingkungan perang yang kacau, dengan 86% konflik melibatkan peningkatan tindakan di luar niat awal AI.

James Johnson, seorang ahli di Universitas Aberdeen (Inggris), percaya bahwa temuan ini mengkhawatirkan jika dilihat dalam konteks risiko nuklir. Ia memperingatkan bahwa, tidak seperti kehati-hatian yang biasa terlihat pada manusia ketika dihadapkan pada keputusan hidup dan mati, sistem AI dapat memperkuat respons satu sama lain, yang menyebabkan konsekuensi yang tidak dapat diprediksi.

Kekhawatiran ini menjadi semakin penting karena AI sedang diuji oleh banyak negara dalam latihan perang. Menurut Tong Zhao dari Universitas Princeton, saat ini masih belum jelas sejauh mana kekuatan besar mengintegrasikan sistem pendukung pengambilan keputusan berbasis AI ke dalam proses militer mereka yang sebenarnya.

Namun, Zhao meyakini bahwa, secara konvensional, negara-negara masih akan berhati-hati ketika mempertimbangkan untuk mempercayakan peran yang berkaitan dengan senjata nuklir kepada AI.

Menurut Johnson, hal ini menimbulkan pertanyaan tentang prinsip pencegahan pemusnahan bersama. Dalam simulasi, ketika AI menggunakan senjata nuklir taktis, pihak lawan hanya melakukan de-eskalasi dalam 18% kasus.

"AI mungkin tidak akan menentukan perang nuklir, tetapi AI dapat membentuk persepsi manusia dan jangka waktu pengambilan keputusan," kata Johnson.