LLM, token, context window, dan multimodal
LLM membaca input sebagai token dan bekerja di dalam batas context window. Materi ini membantu kamu memahami kenapa konteks yang rapi sering lebih penting daripada prompt yang panjang.
- Menjelaskan fungsi LLM
- Mengenali batas context window
- Memakai konteks yang lebih rapi saat memberi tugas ke AI
Sebelum mulai
- Pernah mencoba chatbot AI minimal sekali.
- Punya satu contoh prompt pendek yang hasilnya kurang bagus.
Konsep utama
01LLM sebagai model bahasa besar
LLM adalah model yang dilatih untuk memproses dan menghasilkan bahasa dengan memprediksi kelanjutan token berdasarkan konteks.
Kenapa penting: LLM kuat untuk menulis, merangkum, menerjemahkan, dan membantu reasoning awal, tetapi tetap perlu arahan dan review.
Contoh: Model bisa mengubah brief produk menjadi draft landing page karena ia mengenali pola tulisan dan struktur pesan.
Yang sering keliru: Mengira LLM memahami dunia persis seperti manusia.
02Token dan context window
Token adalah potongan teks yang dibaca model. Context window adalah batas jumlah token yang bisa diproses dalam satu percakapan atau request.
Kenapa penting: Jika konteks terlalu panjang atau berantakan, informasi penting bisa tenggelam dan jawaban menjadi lemah.
Contoh: Saat memasukkan PDF panjang, bagian yang relevan perlu diringkas atau ditandai agar model tidak tersesat.
Yang sering keliru: Memasukkan semua dokumen tanpa struktur lalu berharap hasilnya otomatis akurat.
03Multimodal
Multimodal berarti model bisa memproses lebih dari teks, misalnya gambar, audio, file, atau screenshot.
Kenapa penting: Banyak pekerjaan nyata melibatkan tabel, desain, PDF, dan visual, bukan hanya paragraf.
Contoh: Kamu bisa meminta model membaca screenshot dashboard lalu menjelaskan tren yang terlihat.
Yang sering keliru: Menganggap semua model punya kemampuan multimodal yang sama.
Cara kerjanya
Large Language Model atau LLM adalah model AI yang dilatih untuk memproses dan menghasilkan bahasa. Model seperti ini bisa menjawab pertanyaan, menulis, merangkum, menerjemahkan, membuat kode, dan membantu reasoning. LLM membaca input sebagai token, bukan huruf persis seperti manusia.
Token adalah potongan teks. Satu kata bisa menjadi satu token atau beberapa token tergantung bahasa dan model. Context window adalah kapasitas informasi yang bisa “dilihat” model dalam satu percakapan atau satu request. Semakin besar context window, semakin banyak dokumen atau instruksi yang bisa dimasukkan, tapi kualitas tetap bergantung pada struktur konteks.
Multimodal berarti model bisa bekerja dengan lebih dari satu jenis input/output: teks, gambar, audio, video, file, layar komputer, atau kode. Ini penting karena pekerjaan nyata jarang hanya teks. Banyak task perlu membaca screenshot, memahami tabel, menilai desain, atau mengekstrak informasi dari PDF.
Contoh nyata
Coba sendiri
- 1
Coba satu prompt pendek tanpa konteks.
- 2
Lalu ulangi dengan konteks lengkap: tujuan, audience, format, contoh, batasan.
- 3
Bandingkan kualitas output.
Prompt yang bisa dipakai
Cek pemahaman
Jawab dengan bahasa sendiri. Kalau masih muter-muter, baca ulang bagian yang paling nyangkut.
- 1
Apa itu token?
- 2
Apa fungsi context window?
- 3
Apa arti multimodal?
- 4
Kenapa context besar tidak otomatis membuat output bagus?