M10.L05 · Lanjutan · 45-60 menit

Agent di Production: Safety dan Deployment

Kita bongkar agent di production: safety dan deployment: konsep dasarnya, contoh nyatanya, lalu langsung coba.

KALAU LESSON INI BERES3/3

Paham production readiness checklist
Paham guardrails dan safety layers
Paham rate limiting dan cost control

Sebelum mulai

Baca ringkasan modul dan siapkan satu contoh pekerjaan nyata.
Selesaikan modul sebelumnya atau pahami konsep dasarnya dulu.

Target belajar: Setelah lesson ini, kamu bisa menjelaskan agent di production: safety dan deployment, menerapkannya pada contoh Indonesia yang sederhana, dan tahu bagian mana yang harus dicek manusia.

Yang perlu kamu tangkap

01Production readiness checklist

Production readiness checklist perlu dipahami sebagai bagian dari agent anatomy. Agent yang bekerja di lab belum tentu siap production. Production意味着 agent harus bisa menangani error tanpa crash, tidak menghabiskan budget tak terbatas, tidak menghasilkan output berbahaya, dan bisa dipulihkan jika gagal.

Kenapa penting: Ini penting karena lesson M10.L05 bukan cuma mengejar istilah. Kamu perlu tahu kapan production readiness checklist membantu kerja nyata, kapan harus diverifikasi, dan batas apa yang tetap perlu dijaga manusia.

Contoh: Contoh production agent: Lead qualification agent menerima form submission → validate data → score lead → jika skor > 80, kirim ke CRM dan notifikasi sales via Slack → jika skor < 40, archive → jika 40-80, queue untuk review manusia. Guardrails: max 100 leads/hari, blocked jika data mengandung PII tanpa consent, retry 3x jika API gagal.

Kesalahan pemula: Kesalahan umum: menganggap production readiness checklist otomatis membuat hasil benar tanpa contoh, sumber, atau checklist evaluasi.

02Guardrails dan safety layers

Guardrails dan safety layers perlu dipahami sebagai bagian dari goals, tools, memory, dan state. Guardrails adalah batasan yang mencegah agent melakukan hal yang tidak diinginkan. Contoh: membatasi akses hanya ke tool tertentu, memblokir output yang mengandung data sensitif, membatasi jumlah tool call per task, dan memerlukan approval manusia untuk aksi berisiko tinggi.

Kenapa penting: Ini penting karena lesson M10.L05 bukan cuma mengejar istilah. Kamu perlu tahu kapan guardrails dan safety layers membantu kerja nyata, kapan harus diverifikasi, dan batas apa yang tetap perlu dijaga manusia.

Kesalahan pemula: Kesalahan umum: menganggap guardrails dan safety layers otomatis membuat hasil benar tanpa contoh, sumber, atau checklist evaluasi.

03Rate limiting dan cost control

Rate limiting dan cost control perlu dipahami sebagai bagian dari permissions dan stopping conditions. Graceful degradation adalah kemampuan agent tetap berfungsi meski beberapa komponen gagal. Jika LLM utama down, fallback ke LLM cadangan. Jika tool tertentu error, beri tau user dan skip langkah itu. Jangan biarkan seluruh agent mati karena satu kegagalan.

Kenapa penting: Ini penting karena lesson M10.L05 bukan cuma mengejar istilah. Kamu perlu tahu kapan rate limiting dan cost control membantu kerja nyata, kapan harus diverifikasi, dan batas apa yang tetap perlu dijaga manusia.

Kesalahan pemula: Kesalahan umum: menganggap rate limiting dan cost control otomatis membuat hasil benar tanpa contoh, sumber, atau checklist evaluasi.

04Graceful degradation

Graceful degradation perlu dipahami sebagai bagian dari cost budget. Human-in-the-loop berarti agent meminta persetujuan manusia di titik-titik kritis. Contoh: sebelum mengirim email ke klien, sebelum menghapus data, sebelum melakukan pembayaran. Ini menambah sedikit latency tapi mencegah kerusakan besar.

Kenapa penting: Ini penting karena lesson M10.L05 bukan cuma mengejar istilah. Kamu perlu tahu kapan graceful degradation membantu kerja nyata, kapan harus diverifikasi, dan batas apa yang tetap perlu dijaga manusia.

Kesalahan pemula: Kesalahan umum: menganggap graceful degradation otomatis membuat hasil benar tanpa contoh, sumber, atau checklist evaluasi.

05Human-in-the-loop design

Human-in-the-loop design perlu dipahami sebagai bagian dari Human-in-the-loop design. Agent yang bekerja di lab belum tentu siap production. Production意味着 agent harus bisa menangani error tanpa crash, tidak menghabiskan budget tak terbatas, tidak menghasilkan output berbahaya, dan bisa dipulihkan jika gagal.

Kenapa penting: Ini penting karena lesson M10.L05 bukan cuma mengejar istilah. Kamu perlu tahu kapan human-in-the-loop design membantu kerja nyata, kapan harus diverifikasi, dan batas apa yang tetap perlu dijaga manusia.

Kesalahan pemula: Kesalahan umum: menganggap human-in-the-loop design otomatis membuat hasil benar tanpa contoh, sumber, atau checklist evaluasi.

06Rollback strategy

Rollback strategy perlu dipahami sebagai bagian dari Rollback strategy. Guardrails adalah batasan yang mencegah agent melakukan hal yang tidak diinginkan. Contoh: membatasi akses hanya ke tool tertentu, memblokir output yang mengandung data sensitif, membatasi jumlah tool call per task, dan memerlukan approval manusia untuk aksi berisiko tinggi.

Kenapa penting: Ini penting karena lesson M10.L05 bukan cuma mengejar istilah. Kamu perlu tahu kapan rollback strategy membantu kerja nyata, kapan harus diverifikasi, dan batas apa yang tetap perlu dijaga manusia.

Kesalahan pemula: Kesalahan umum: menganggap rollback strategy otomatis membuat hasil benar tanpa contoh, sumber, atau checklist evaluasi.

07Monitoring alert

Monitoring alert perlu dipahami sebagai bagian dari Monitoring alert. Graceful degradation adalah kemampuan agent tetap berfungsi meski beberapa komponen gagal. Jika LLM utama down, fallback ke LLM cadangan. Jika tool tertentu error, beri tau user dan skip langkah itu. Jangan biarkan seluruh agent mati karena satu kegagalan.

Kenapa penting: Ini penting karena lesson M10.L05 bukan cuma mengejar istilah. Kamu perlu tahu kapan monitoring alert membantu kerja nyata, kapan harus diverifikasi, dan batas apa yang tetap perlu dijaga manusia.

Kesalahan pemula: Kesalahan umum: menganggap monitoring alert otomatis membuat hasil benar tanpa contoh, sumber, atau checklist evaluasi.

Oke, sekarang kita bongkar

Agent yang bekerja di lab belum tentu siap production. Production意味着 agent harus bisa menangani error tanpa crash, tidak menghabiskan budget tak terbatas, tidak menghasilkan output berbahaya, dan bisa dipulihkan jika gagal.

Guardrails adalah batasan yang mencegah agent melakukan hal yang tidak diinginkan. Contoh: membatasi akses hanya ke tool tertentu, memblokir output yang mengandung data sensitif, membatasi jumlah tool call per task, dan memerlukan approval manusia untuk aksi berisiko tinggi.

Graceful degradation adalah kemampuan agent tetap berfungsi meski beberapa komponen gagal. Jika LLM utama down, fallback ke LLM cadangan. Jika tool tertentu error, beri tau user dan skip langkah itu. Jangan biarkan seluruh agent mati karena satu kegagalan.

Human-in-the-loop berarti agent meminta persetujuan manusia di titik-titik kritis. Contoh: sebelum mengirim email ke klien, sebelum menghapus data, sebelum melakukan pembayaran. Ini menambah sedikit latency tapi mencegah kerusakan besar.

Contoh biar kebayang

Contoh production agent: Lead qualification agent menerima form submission → validate data → score lead → jika skor > 80, kirim ke CRM dan notifikasi sales via Slack → jika skor < 40, archive → jika 40-80, queue untuk review manusia. Guardrails: max 100 leads/hari, blocked jika data mengandung PII tanpa consent, retry 3x jika API gagal.

Coba praktik

Buat production readiness checklist untuk agent kamu.
Identifikasi semua kemungkinan failure mode.
Tentukan guardrails: akses, output, rate limit.
Desain graceful degradation untuk 3 skenario.
Tentukan titik-titik human-in-the-loop.

Prompt yang bisa kamu coba

Saya ingin deploy agent ke production. Agent ini: [DESKRIPSI]. Bantu saya buat: 1) Readiness checklist, 2) Failure mode analysis, 3) Guardrails design, 4) Degradation plan, 5) Human approval points, 6) Rollback strategy.

Beneran paham, atau cuma terasa familiar?

Jawab pakai bahasamu sendiri. Kalau masih muter-muter, bagian atasnya perlu dibaca sekali lagi.

1
Apa itu graceful degradation dan kenapa penting?
2
Kapan human-in-the-loop wajib dibutuhkan?
3
Bagaimana cara mencegah agent menghabiskan budget tak terbatas?

Bikin sesuatu dari lesson ini

Buat production deployment plan untuk agent. Sertakan: readiness checklist, failure modes, guardrails, degradation plan, monitoring setup, dan rollback procedure.

Catatan dan batasan

Jangan deploy agent tanpa minimal: error handling, rate limiting, dan logging.
Mulai dengan shadow mode (agent jalan tapi output tidak dipakai production) sebelum fully live.
Checklist tambahan: agent anatomy.
Checklist tambahan: goals, tools, memory, dan state.
Checklist tambahan: permissions dan stopping conditions.
Checklist tambahan: cost budget.

Langkah berikutnya

Simpan hasil latihan, cek kembali dengan rubric sederhana, lalu lanjut ke lesson berikutnya saat output sudah bisa dijelaskan ulang.

generative ai llm token context window

Lanjut ke Safety, Privacy & Eval