Opini Redaksi: Keputusan Digital Perlu Jejak, Bukan Sekadar Skor

Jawaban digital yang rapi dapat membantu pekerjaan, tetapi tampilan meyakinkan tidak boleh menjadi pengganti alasan yang dapat diperiksa. Menurut Redaksi Kabar18, kemampuan menelusuri keputusan perlu tumbuh bersama kecepatan menghasilkan jawaban.

Prinsip kecerdasan buatan OECD menekankan transparansi, penjelasan kemampuan serta keterbatasan sistem, dan pertanggungjawaban. Prinsip tersebut juga memuat pentingnya keterlacakan data, proses, serta keputusan dalam pengelolaan risiko. Ini memberi dasar yang berguna untuk menilai alat digital melalui cara kerjanya, bukan hanya janji kecerdasannya.

NIST di Amerika Serikat mengembangkan AI Risk Management Framework untuk membantu pengelolaan risiko terhadap individu, organisasi, dan masyarakat. Kerangka yang pertama kali dirilis pada 26 Januari 2023 itu bersifat sukarela. Tujuannya mencakup pertimbangan keterpercayaan dalam perancangan, penggunaan, dan evaluasi sistem AI; bukan sertifikat bahwa setiap jawaban sebuah aplikasi sudah benar.

Dari pijakan itu, redaksi memandang pertanyaan praktisnya sederhana: sumber apa yang dipakai, kapan diperiksa, bagian mana yang belum diketahui, dan siapa yang dapat memperbaiki keputusan jika muncul bukti baru? Catatan singkat yang menjawab pertanyaan tersebut lebih berguna daripada angka keyakinan yang tidak dijelaskan asalnya.

Misalnya, sebuah ringkasan dapat memisahkan fakta yang bersumber, perhitungan, dan saran. Pembaca lalu memiliki kesempatan memeriksa bahan yang mendasarinya. Jika sumber berubah, perbaikannya dapat terlihat tanpa harus berpura-pura bahwa jawaban awal tidak pernah keliru. Ini usulan kebiasaan kerja, bukan laporan tentang kesalahan lembaga tertentu.

Tanggung jawab juga perlu tetap jelas ketika alat membantu manusia. Menurut redaksi, keberhasilan otomasi patut dinilai dari manfaat yang dapat dibuktikan dan kemudahan mengoreksi kekeliruan, selain waktu yang dihemat. Teknologi menjadi lebih berguna ketika penggunanya tahu kapan mempercayai hasil, kapan memeriksa kembali, dan kapan menunda kesimpulan.

Sumber: OECD — AI principles; NIST — AI Risk Management Framework.

Foto arsip: bohed/Pixabay; via Océanos y dados, CC0 1.0. Ilustrasi penggunaan ponsel dalam foto arsip 2015. Bukan dokumentasi pengujian produk kecerdasan buatan tertentu.

Sumber

• OECD — AI principles
• NIST — AI Risk Management Framework