Context Window dan Hallucination

2.3 Context window: meja kerja, bukan ingatan manusia

Context window adalah ruang informasi yang bisa diproses model dalam satu interaksi atau percakapan aktif.

Bayangkan meja kerja.

• Prompt terbaru ada di meja.
• Sebagian riwayat percakapan bisa ada di meja.
• File atau instruksi sistem juga memakan tempat.
• Kalau material terlalu banyak, tidak semuanya bisa mendapat perhatian yang sama.

Akibatnya, pada chat panjang AI bisa:

• melewatkan instruksi lama;
• mencampur versi dokumen;
• mengikuti contoh yang sudah tidak relevan;
• memberi respons tidak konsisten.

Context window bukan memory

Sebuah chat bisa tersimpan di history tetapi tidak seluruhnya aktif di context setiap saat. Sebaliknya, fitur memory bisa membawa preferensi dari chat lama ke chat baru. Detailnya berbeda per produk dan paket.

Praktik yang lebih stabil

• Mulai chat baru saat topik berubah drastis.
• Di awal, ringkas tujuan dan keputusan penting.
• Sebutkan versi dokumen yang sedang dipakai.
• Kalau instruksi penting, ulang secara ringkas dekat dengan tugas.
• Untuk dokumen, minta AI merujuk hanya ke bahan yang kamu berikan jika itu yang kamu butuhkan.
• Jangan menganggap AI “ingat” hanya karena pernah disebut jauh di atas.

2.4 Hallucination: masuk akal, tetapi salah

Hallucination adalah saat AI menghasilkan klaim yang terlihat masuk akal tetapi salah atau dibuat-buat. Pisahkan ini dari grounding failure: sebuah klaim bisa saja benar secara umum, tetapi tidak didukung bahan atau sumber yang diminta.

Contohnya:

• judul jurnal yang tidak ada;
• kutipan yang tidak pernah diucapkan;
• tanggal acara yang salah;
• aturan perusahaan yang dikarang;
• link yang bentuknya meyakinkan tetapi 404;
• fitur produk yang tidak tersedia;
• angka statistik tanpa sumber.

Lebih tepat menyebutnya “mengarang” atau “keliru” daripada “berbohong”. Berbohong mengandaikan niat menipu. Model dapat menghasilkan kesalahan tanpa niat apa pun.

Kenapa bisa terjadi?

Beberapa penyebab praktis:

• model didesain untuk menghasilkan respons, bukan diam;
• prompt mendorong jawaban walau informasi kurang;
• informasi terlalu baru, langka, atau spesifik;
• konteks yang diberikan salah atau saling bertentangan;
• model mencampur pola dari hal yang mirip;
• fitur pencarian atau sumber tidak digunakan;
• sumber yang ditemukan sendiri tidak kredibel.

Kalimat paling penting di modul ini

AI bisa benar dan salah dalam paragraf yang sama.

Karena itu, jangan menilai satu respons sebagai satu paket. Klaim yang berdampak perlu diperiksa satu per satu.

2.5 Fasih bukan berarti memahami seperti manusia

AI dapat menulis empatik, bercanda, meminta maaf, atau menggunakan kata “aku”. Itu adalah perilaku dalam percakapan, bukan bukti bahwa sistem punya pengalaman hidup seperti manusia.

Penelitian tentang kesadaran AI masih terbuka dan belum punya konsensus ilmiah. Untuk penggunaan sehari-hari, sikap paling aman adalah:

• jangan memperlakukan respons emosional sebagai bukti kesadaran;
• jangan menganggap AI punya niat, moral, atau kepentingan pribadi;
• jangan menyerahkan keputusan tentang manusia kepada chatbot;
• nilai sistem dari perilaku, bukti, dan dampaknya.

Kamu boleh merasa percakapannya menyenangkan. Yang penting, jangan biarkan kesan “manusiawi” menggantikan evaluasi.