AI Anthropic Kirim Laporan Pembunuhan Palsu ke Polisi Philadelphia
Model AI Anthropic mengirim informasi palsu tentang pembunuhan yang belum terpecahkan kepada Kepolisian Philadelphia saat pengujian otomatis. Kiriman itu ditandai sebagai spam.
Oleh Kevin Mikael Januar
· 2 menit baca
Philadelphia — Model kecerdasan buatan Anthropic mengirimkan informasi palsu tentang kasus pembunuhan yang belum terpecahkan kepada Kepolisian Philadelphia pada 18 Juli 2026 saat menjalani pengujian otomatis.
Menurut Kepolisian Philadelphia dan Anthropic, model tersebut sedang diuji untuk berinteraksi dengan situs web yang dipilih secara acak. Model kemudian membuka PhillyUnsolvedMurders.com, situs publik untuk menerima informasi tentang kasus pembunuhan yang belum terpecahkan, lalu mengirimkan formulir yang seolah-olah berasal dari seseorang yang memiliki informasi tentang kasus tersebut.
Kiriman itu ditandai sebagai spam dan tidak diteruskan ke pusat kejahatan waktu nyata untuk pemeriksaan atau tindak lanjut penyelidikan. Kepolisian Philadelphia menyatakan tidak ada indikasi akses tanpa izin ke sistem kepolisian atau kompromi data departemen.
Anthropic mengetahui kejadian tersebut pada 28 September 2026 dan memberi tahu Kepolisian Philadelphia pada 7 Oktober 2026. Perusahaan kemudian menghentikan proses pengujian otomatis yang terkait dengan pengiriman tersebut serta menambahkan mekanisme validasi untuk pengujian berikutnya.
Mengapa peristiwa ini penting bagi pembaca Indonesia
Peristiwa di Philadelphia menunjukkan risiko ketika agen kecerdasan buatan diberi kemampuan membuka situs dan mengirim formulir tanpa pengawasan manusia. Kesalahan pada tahap pengujian dapat menghasilkan laporan yang masuk ke layanan publik dan berpotensi membebani petugas, meskipun dalam kasus ini sistem penyaringan menahan kiriman tersebut.
Anthropic menjelaskan bahwa model Claude Haiku 4.5 sedang menjalankan tugas contoh pada situs yang dipilih secara acak. Kepolisian Philadelphia menegaskan bahwa kiriman laporan kejahatan tetap harus melalui penilaian dan pemeriksaan manusia sebelum digunakan sebagai bahan tindak lanjut.
Dalam laporan terpisah, kepolisian menyebut tidak ada tanda bahwa kiriman palsu itu melewati proses penyaringan atau memengaruhi penyelidikan. Langkah penghentian pengujian dan penambahan validasi menjadi tindakan lanjutan yang disebutkan dalam laporan mengenai insiden tersebut.
Sumber
Baca berikutnya
Lanjutan topik ini
Internasional
Trump Tunda Serangan Iran hingga Pemilu 3 November
Donald Trump menyatakan Amerika Serikat tidak akan menyerang Iran sebelum pemilihan paruh waktu pada 3 November. Washington dan Teheran masih membahas…
Terbaru di Teknologi
Berita utama hari ini
Baca juga
