Verifikasi, Bias, dan Deepfake

6.4 Verifikasi jawaban AI

AI bisa membantu mencari, tetapi kamu tetap perlu menilai sumber.

Metode SIFT yang disederhanakan

1. Stop. Jangan langsung percaya atau membagikan.
2. Investigate the source. Siapa penerbitnya? Apa keahliannya? Ada kepentingan apa?
3. Find better coverage. Cari sumber lain yang lebih kuat atau beragam.
4. Trace to the original. Kembali ke dokumen, data, kutipan, foto, atau video asli.

Minta sumber dengan cara yang lebih berguna

Untuk setiap klaim faktual yang dapat berubah, beri sumber primer yang bisa dibuka.
Tulis tanggal sumber dan kutip bagian yang mendukung klaim.
Pisahkan fakta, inferensi, dan rekomendasi.
Jika sumber tidak cukup, katakan tidak tahu.

Setelah itu:

• buka link;
• cek halaman benar-benar ada;
• cari kutipan atau angka di halaman;
• cek tanggal dan versi;
• lihat apakah klaim memiliki konteks atau syarat;
• bandingkan dengan sumber lain.

Kapan harus sangat ketat

• kesehatan;
• hukum;
• keuangan;
• keselamatan;
• keputusan tentang karyawan, siswa, pelanggan, atau warga;
• statistik publik;
• kutipan dan referensi akademik;
• kebijakan, harga, dan fitur produk.

Jangan menjadikan AI pengganti profesional atau sumber primer.

Untuk keputusan yang berdampak pada seseorang, label “human-in-the-loop” saja tidak cukup. Ikuti prosedur dan kewenangan domain, dokumentasikan dasar keputusan, sediakan cara koreksi atau keberatan jika relevan, dan pastikan manusia yang berwenang tetap bertanggung jawab.

6.5 Bias: pola data bisa membawa pola ketidakadilan

AI belajar dari data dan feedback manusia. Data itu dapat memuat stereotip, ketimpangan, atau representasi yang tidak seimbang.

Contoh:

• semua contoh pemimpin digambarkan laki-laki;
• nama dari kelompok tertentu dinilai berbeda;
• saran karier mengasumsikan kondisi ekonomi yang sama;
• standar bahasa menganggap dialek tertentu “tidak profesional”;
• rekomendasi mengabaikan aksesibilitas.

Mengurangi risiko bias

• jangan minta AI membuat keputusan final tentang orang;
• gunakan kriteria yang relevan dan dapat dijelaskan;
• hilangkan atribut sensitif yang tidak dibutuhkan;
• minta beberapa perspektif, tetapi jangan menganggap itu cukup;
• uji output dengan kasus yang beragam;
• libatkan orang yang memahami konteks;
• dokumentasikan keputusan manusia.

Prompt review:

Audit draft rekomendasi ini untuk asumsi tersembunyi dan potensi bias.
Periksa representasi gender, usia, disabilitas, latar ekonomi, wilayah, dan akses teknologi hanya jika relevan.
Jangan menebak identitas individu.
Berikan pertanyaan yang perlu dijawab manusia sebelum keputusan dibuat.

AI juga bisa bias saat mengaudit bias. Review manusia tetap wajib.

6.6 Deepfake dan misinformasi

Generative AI dapat membuat atau mengubah wajah, suara, gambar, dan video. Tanda seperti jari aneh, bibir tidak sinkron, atau bayangan janggal kadang membantu, tetapi tidak lagi cukup sebagai metode utama.

Kalau menerima konten sensasional

1. Jangan langsung forward.
2. Cari sumber pertama yang mengunggah.
3. Cek akun dan kanal resmi pihak terkait.
4. Cari liputan dari sumber tepercaya lain.
5. Lakukan reverse image search jika relevan.
6. Cari versi video lebih panjang atau konteks awal.
7. Periksa apakah ada label provenance atau content credentials, tetapi jangan menganggap ketiadaan label sebagai bukti palsu.

Kalau menerima telepon atau video yang meminta uang

• hentikan komunikasi;
• jangan mengikuti instruksi transfer atau OTP;
• hubungi orang tersebut lewat nomor yang sudah kamu simpan sebelumnya;
• gunakan pertanyaan atau kode keluarga yang tidak diketahui publik;
• verifikasi ke anggota keluarga atau institusi lain;
• laporkan kanal penipuan.

Kualitas wajah atau suara bukan identitas. Kanal verifikasi terpisah jauh lebih kuat.