CNN: Halusinasi Chatbot AI Nyaris Picu Operasi AS atas Kapal Tiongkok

Washington — Laporan intelijen keliru yang disusun dengan chatbot kecerdasan buatan (AI) nyaris membuat militer Amerika Serikat mencegat kapal Tiongkok di Timur Tengah pada musim semi 2026. Operasi dibatalkan sesaat sebelum dimulai, seperti pertama kali dilaporkan CNN, Jumat, 18 September 2026.

Laporan itu, yang beredar saat perang AS dengan Iran, menyebut kapal itu mengangkut komponen program senjata nuklir. Persiapan pencegatan sudah berjalan ketika kekeliruan ditemukan, menurut empat sumber anonim yang dikutip CNN. Pentagon dan Komando Operasi Khusus AS di Pasifik tidak menanggapi permintaan komentar CNN.

Insiden itu terjadi beberapa bulan sesudah memo strategi AI Pentagon bertanggal 9 Januari 2026 memerintahkan hambatan uji dan sertifikasi disingkirkan demi kecepatan. Sabtu, 19 September, tiga senator Partai Demokrat, Mark Warner, Jack Reed, dan Chris Coons, meminta inspektur jenderal menyelidiki kasus ini.

Permintaan itu tertuang dalam surat kepada Menteri Pertahanan AS Pete Hegseth dan Direktur Intelijen Nasional Jay Clayton, menurut laporan lanjutan CNN yang dimuat KITV. Ketiganya menulis bahwa mereka makin khawatir lembaga di bawah kedua pejabat itu mendahulukan percepatan adopsi AI ketimbang tata kelola yang efektif. Hingga Minggu, 20 September, belum ada pernyataan Pentagon tentang laporan CNN itu yang dipublikasikan.

Dua kali memakai AI sebelum laporan beredar

Menurut CNN, seorang analis komando operasi khusus bertanya kepada chatbot tentang laporan intelijen mengenai manifes, atau daftar muatan, kapal itu. Chatbot menggabungkan intelijen sumber terbuka, yakni informasi yang tersedia untuk umum, dengan intelijen sinyal rahasia hasil penyadapan komunikasi dan sinyal elektronik. Dari gabungan itu chatbot menarik kesimpulan yang salah tentang muatan.

Analis itu lalu memakai AI sekali lagi untuk mengemas temuannya ke format laporan intelijen standar, jenis dokumen yang dipercaya pejabat militer, dan menyebarkannya. Kekeliruan baru terungkap ketika pejabat menelusuri asal laporan sesaat sebelum operasi.

Gejala seperti itu disebut halusinasi AI: model bahasa menghasilkan jawaban yang terdengar meyakinkan tetapi salah. CNN tidak berhasil mengetahui muatan kapal itu sebenarnya, dan tidak jelas apakah chatbot yang dipakai analis produk komersial atau buatan pemerintah.

Memo 9 Januari meminta hambatan uji disingkirkan

Percepatan pemakaian AI di militer AS adalah perintah tertulis. Memo enam halaman itu berasal dari Hegseth dan berkop Secretary of War, sebutan jabatannya dalam dokumen itu. Isinya meminta militer menjadi kekuatan tempur “AI-first”.

GenAI.mil, satu dari tujuh proyek pemacu (Pace-Setting Projects) dalam memo, bertujuan menaruh model AI terdepan buatan AS di tangan 3 juta personel sipil dan militer. Aksesnya mencakup semua tingkat klasifikasi kerahasiaan. Tiap departemen militer, komando tempur, dan badan pertahanan diberi 30 hari untuk menunjuk sedikitnya tiga proyek yang mengikuti laju proyek pemacu itu.

Di bawah judul bagian “Speed Wins”, memo meminta jajaran menerima bahwa risiko bergerak kurang cepat lebih besar daripada risiko penyelarasan yang belum sempurna (imperfect alignment). Memo juga memerintahkan pengaturan dengan vendor agar model AI terbaru terpasang dalam 30 hari sesudah dirilis ke publik.

Uji, evaluasi, dan sertifikasi masuk daftar hambatan yang harus disingkirkan. Dewan bulanan bernama Barrier Removal Board berwenang mengesampingkan persyaratan yang tidak diwajibkan undang-undang.

Ukuran yang wajib dilaporkan tiap bulan adalah kecepatan pemasangan dan waktu siklus operasi. Keberhasilan dinilai dari tingkat pemakaian dan dampak misi. Tolok ukur model yang diminta, dengan tenggat 90 hari, adalah “objektivitas”, yang dalam memo dikaitkan dengan penyetelan ideologis.

Enam halaman yang terbuka untuk publik tidak memuat perintah menyusun standar pemeriksaan atas keluaran AI sebelum dipakai dalam produk intelijen. Memo itu merujuk lampiran rahasia yang tidak dipublikasikan.

Beberapa pejabat AS mengatakan kepada CNN, tiap bagian pemerintah memakai alat berbeda, di bawah perintah dan standar keamanan yang juga berbeda. Tidak ada satu standar untuk memverifikasi informasi buatan AI, tulis CNN.

Pentagon masih memegang prinsip AI bertanggung jawab yang mensyaratkan sistem AI militer dapat ditelusuri, andal, dan dapat dikendalikan, tulis gCaptain. Memo Januari memerintahkan seluruh pedoman AI yang ada di departemen itu diselaraskan dengan isinya.

Jake Steckler, peneliti di GovAI dan veteran perwira Angkatan Darat AS, menilai insiden ini alasan menambah pengaman, bukan alasan menjauhi AI. Dalam jawaban tertulis berbahasa Inggris kepada TechCrunch, ia mengatakan prajurit perlu memahami ketidakpastian yang melekat pada model bahasa besar (large language model, LLM).

Pemahaman itu, menurut dia, paling genting untuk keputusan yang bisa berujung pada penggunaan kekuatan, seperti penentuan sasaran, analisis intelijen, atau perencanaan operasi. “Mengutamakan kecepatan adopsi di atas segalanya kemungkinan besar memunculkan insiden yang hanya membuat prajurit kehilangan kepercayaan pada sistem ini, yang pada akhirnya hanya akan memperlambat adopsi,” kata Steckler.

Sumber

• CNN — Exclusive: US military had close call after using AI for false intelligence report, sources say (18 September 2026)
• CTV News (CNN Newsource) — U.S. military had close call after using AI for false intelligence report, sources say: CNN exclusive (18 September 2026)
• Departemen Pertahanan AS — memo Artificial Intelligence Strategy for the Department of War (9 Januari 2026)
• KITV (CNN Wire) — Democrats call for investigation into faulty AI-assisted intel report (19 September 2026)
• TechCrunch — AI hallucination nearly triggers US military operation (18 September 2026)
• gCaptain — AI Error Nearly Triggered U.S. Intercept of Chinese Ship, CNN Reports (18 September 2026)
• CNBC Indonesia — AI Salah Kasih Info, AS Nyaris Serang Kapal China (19 September 2026)
• detikInet — Halusinasi AI Nyaris Picu Perang AS-China (19 September 2026)