LLM Limitations
Setelah lesson ini, kamu bisa membedakan tugas yang aman dikasih ke AI dan tugas yang hasilnya wajib dicek
5 menit bacaKebanyakan kekecewaan sama AI datang dari satu hal: ngasih dia tugas yang emang di luar kemampuannya, terus nyalahin hasilnya.
Bagian ini bukan buat bikin kamu takut pakai. Justru sebaliknya — begitu kamu tau batasnya, kamu bisa pakai dengan lebih berani di area yang emang kuat.
Dia nggak tau kejadian terbaru
Pengetahuannya berhenti di titik waktu tertentu, dan dia nggak selalu ngaku kalau ditanya soal setelah titik itu. Sebagian alat sekarang bisa nyari di internet, tapi jangan diasumsikan — cek apakah fitur itu aktif.
Aturan praktis: kalau jawabannya menyangkut sesuatu yang bisa berubah, cari sendiri sumbernya.
Contoh
Ditanya soal aturan kampus yang berubah bulan lalu, dia tetap jawab yakin pakai informasi lama.
Kapan dipakai: Topik apa pun yang menyangkut kejadian, harga, aturan, atau terbitan terbaru.
Grounding: dia cuma tau apa yang kamu kasih
Ini kedengeran jelas, tapi sering kelupaan dalam bentuk halus. Misalnya minta "ringkas jurnal yang tadi aku sebut judulnya" — dia nggak punya jurnalnya, cuma judulnya. Yang keluar bakal karangan yang kedengeran masuk akal.
Kalau kamu mau dia ngolah sesuatu, tempel isinya, bukan namanya.
Contoh
Dia nggak bisa buka file di laptop kamu, nggak bisa baca email kamu, dan nggak tau nilai kamu semester lalu.
Kapan dipakai: Waktu kamu minta dia ngolah sesuatu yang belum kamu tempel.
Angka, nama, dan kutipan itu titik paling rawan
Kalau ada satu hal yang perlu kamu inget dari kelas ini, ini dia. Dia bisa nyusun kalimat akademik yang sempurna bentuknya, lengkap dengan sitasi yang formatnya bener, dan sitasinya nggak pernah ada.
Cara ngecek dan cara nyuruh dia jujur soal ketidakpastian dibahas di kelas lanjutan. Buat sekarang, cukup tau bahwa empat hal itu selalu perlu diverifikasi.
Contoh
Nama peneliti, tahun terbit, jumlah persen, judul jurnal — empat hal yang paling sering dikarang.
Kapan dipakai: Tiap kali hasilnya bakal masuk ke tugas yang dinilai.
Contoh utuh
Ubah tugas rawan jadi tugas aman
Rawan: Kasih 3 jurnal yang bahas perilaku belanja Gen Zdia nggak punya daftar jurnal, bakal ngarangAman: Aku tempel abstrak 3 jurnal di bawah. Ringkas tiap satu jadi 2 kalimat.bahannya kamu yang sediainRawan: Berapa persen Gen Z belanja online tahun lalu?angka terbaru, rawan dikarangAman: Dari data yang aku tempel ini, hitung persentasenya dan tulis caranya.datanya ada, tinggal diolah
Polanya sama di kedua contoh: pindahin beban "tau fakta" dari AI ke kamu, sisain beban "nyusun kalimat" ke AI. Itu pembagian kerja yang paling aman.
Giliran kamu
Ambil satu tugas kamu yang rawan, terus tulis ulang jadi versi aman dengan cara nyediain bahannya sendiri.
Versi rawan: ______ Versi aman: Aku tempel ______ di bawah. ______ tiap satu jadi ______. === [tempel bahan kamu]
Yang sering keliru
Minta AI nyebut sumber, terus dipakai tanpa dicek
Penyebabnya: Judul dan nama penulis termasuk yang paling sering dikarang
Perbaikannya: Cari judulnya di mesin pencari dulu; kalau nggak ketemu, jangan dipakai
Nyebut nama dokumen tanpa nempel isinya
Penyebabnya: Dia cuma punya namanya, jadi isinya dia karang
Perbaikannya: Tempel isinya, bukan judulnya
Nanya hal yang baru kejadian dan percaya jawabannya
Penyebabnya: Pengetahuannya berhenti di titik tertentu
Perbaikannya: Cek ke sumber aslinya buat apa pun yang bisa berubah
Kenapa dia ngarang, bukan bilang nggak tau?
Karena dia nyusun lanjutan yang paling masuk akal, bukan ngecek kebenaran. Waktu ditanya judul jurnal, bentuk jawaban yang paling masuk akal adalah sesuatu yang mirip judul jurnal — lengkap dengan nama penulis dan tahun. Dia bukan bohong dalam arti sengaja; dia nerusin pola. Makanya nyuruh dia bilang nggak yakin itu harus diminta eksplisit, karena bukan perilaku bawaannya.
Cek sendiri
Jawab di kepala dulu, baru buka jawabannya. Nggak ada nilai, nggak ada penalti.
Empat hal apa yang paling rawan dikarang AI?
Apa bedanya nyebut judul dokumen sama nempel isinya?
Dari lesson sebelumnya: kenapa perlu nempel blok konteks tiap chat baru?
Rangkuman
- Pengetahuannya berhenti di titik waktu tertentu, dan dia nggak selalu ngaku.
- Dia cuma punya apa yang kamu tempel, bukan apa yang kamu sebut namanya.
- Nama, angka, kutipan, dan tahun selalu perlu diverifikasi sendiri.