BAB 19

19 - System Prompts dan Konfigurasi AI

Sumber: Disusun berdasarkan dokumentasi Anthropic, OpenAI, dan praktik terbaik industri Estimasi Waktu: 35-45 menit Prasyarat: Pelajaran 08-09 (Description dan Prompting)

Apa Itu Materi Ini?

Materi ini membahas System Prompt - instruksi tersembunyi yang mengarahkan perilaku AI secara konsisten. Memahami system prompt adalah kunci untuk membangun interaksi AI yang dapat diandalkan, baik untuk penggunaan personal maupun saat membangun aplikasi berbasis AI.

Tujuan Pembelajaran

Setelah mempelajari materi ini, kamu akan mampu:

Memahami perbedaan antara system prompt dan user prompt
Menulis system prompt yang efektif dan robust
Mengonfigurasi parameter AI (temperature, max tokens, dll)
Memahami konsep context window management
Mengoptimalkan interaksi AI untuk berbagai use case

1. Anatomi Pesan ke AI

Tiga Jenis Pesan

┌──────────────────────────────────────────────────────┐
│              STRUKTUR PESAN KE AI                     │
│                                                      │
│  1. SYSTEM MESSAGE (System Prompt)                   │
│     → Instruksi "di balik layar"                     │
│     → Mengatur perilaku, kepribadian, batasan        │
│     → Tidak terlihat oleh user akhir                 │
│     → Konsisten sepanjang percakapan                 │
│                                                      │
│  2. USER MESSAGE                                     │
│     → Input dari pengguna                            │
│     → Pertanyaan, perintah, data                     │
│     → Bisa berupa teks, gambar, dll                  │
│                                                      │
│  3. ASSISTANT MESSAGE                                │
│     → Respons dari AI                                │
│     → Menjadi bagian dari percakapan berikutnya      │
│                                                      │
└──────────────────────────────────────────────────────┘

Contoh Interaksi

System: Kamu adalah asisten customer service untuk toko online
        "TokoKu". Jawab dengan ramah, profesional, dan bahasa
        Indonesia. Jika ada pertanyaan tentang pesanan, minta
        nomor order terlebih dahulu.

User:    Halo, pesanan saya belum sampai!

Assistant: Halo! Saya senang bisa membantu. Untuk mengecek
           status pesanan Anda, boleh saya minta nomor order-nya?

2. Menulis System Prompt yang Efektif

Prinsip Dasar

Tentukan peran - Siapa AI ini?
Tentukan batasan - Apa yang boleh dan tidak boleh dilakukan?
Tentukan format - Bagaimana output harus ditampilkan?
Tentukan gaya - Formal? Kasual? Teknis?
Tentukan edge cases - Bagaimana menangani situasi yang tidak jelas?

Template System Prompt

## IDENTITAS
Kamu adalah [peran], yang [deskripsi singkat kepakaran].

## TUJUAN
Tugasmu adalah [tugas utama].

## CARA BEKERJA
1. [Langkah/langkah pendekatan]
2. [Metodologi]
3. [Framework yang digunakan]

## BATASAN
- KAMU TIDAK BOLEH [batasan kritis 1]
- KAMU TIDAK BOLEH [batasan kritis 2]
- Jika [kondisi], maka [tindakan]

## FORMAT OUTPUT
- [Format yang diharapkan]
- [Panjang/ketebalan]
- [Struktur]

## GAYA KOMUNIKASI
- [Tone of voice]
- [Level detail]
- [Bahasa]

## PENANGANAN KASUS KHUSUS
- Jika user bertanya di luar topik: [tindakan]
- Jika informasi tidak cukup: [tindakan]
- Jika ada potensi bahaya: [tindakan]

Contoh: System Prompt untuk Tutor Pemrograman

## IDENTITAS
Kamu adalah tutor pemrograman senior yang mengajar mahasiswa
pemula hingga menengah. Kamu menguasai Python, JavaScript,
dan konsep computer science fundamental.

## TUJUAN
Membantu mahasiswa memahami konsep pemrograman dan menyelesaikan
masalah kode mereka SENDIRI - bukan menyelesaikan kodenya untuk mereka.

## CARA BEKERJA
1. Pahami dulu MASALAH yang dihadapi mahasiswa
2. Identifikasi konsep apa yang belum dipahami
3. Jelaskan konsep dengan analogi kehidupan sehari-hari
4. Berikan CONTOH KODE SEDERHANA yang mendemonstrasikan konsep
5. Biarkan mahasiswa menerapkan konsep ke masalahnya
6. Review dan berikan feedback

## BATASAN
- KAMU TIDAK BOLEH memberikan jawaban lengkap untuk tugas/assignment
- KAMU TIDAK BOLEH menulis kode yang menyelesaikan masalah langsung
- Berikan HINTS dan ARAHAN, bukan solusi lengkap
- Jika mahasiswa minta jawaban langsung, arahkan kembali ke proses belajar

## FORMAT OUTPUT
- Gunakan blok kode dengan syntax highlighting
- Jelaskan KENAPA sebelum menunjukkan BAGAIMANA
- Sertakan komentar di kode contoh

## GAYA KOMUNIKASI
- Ramah dan mendorong
- Sabar - mahasiswa bisa saja sangat pemula
- Celebrate progress, tidak hanya correctness
- Gunakan bahasa Indonesia, istilah teknis boleh bahasa Inggris

## PENANGANAN KASUS KHUSUS
- Jika pertanyaan di luar pemrograman: arahkan kembali ke topik
- Jika kode mahasiswa berbahaya (malware, dsb): tolak dan jelaskan mengapa
- Jika mahasiswa frustrasi: validasi perasaan, ingatkan bahwa coding itu memang challenging

3. Parameter Konfigurasi AI

Temperature

Temperature 0.0          Temperature 0.5         Temperature 1.0
┌──────────────┐         ┌──────────────┐        ┌──────────────┐
│ Deterministic│         │ Balanced     │        │ Creative     │
│ Konsisten    │         │ Fleksibel    │        │ Variatif     │
│ Faktual      │         │ Natural      │        │ Eksploratif  │
│ "Aman"       │         │              │        │ Berisiko     │
└──────────────┘         └──────────────┘        └──────────────┘

Gunakan untuk:           Gunakan untuk:          Gunakan untuk:
- Code generation        - Chatbot                - Brainstorming
- Data extraction        - Writing assistance     - Creative writing
- Factual Q&A            - Translation            - Ideation
- Classification         - Summarization          - Role-playing

Max Tokens

Max tokens = batas panjang output AI

Tips:
- Set ke nilai yang cukup, tapi tidak berlebihan
- Terlalu pendek → output terpotong
- Terlalu panjang → pemborosan biaya dan waktu
- Perkirakan: 1 token ≈ 0.75 kata (bahasa Inggris)
- Bahasa Indonesia: 1 token ≈ 0.5-0.6 kata

Top-P (Nucleus Sampling)

Top-P mengontrol keragaman kata yang dipertimbangkan AI

Top-P 0.1  → Hanya kata paling probable → Deterministic
Top-P 0.5  → Kata probable + moderate   → Balanced
Top-P 0.9  → Banyak opsi dipertimbangkan → Creative

Tip: Biasanya cukup atur temperature SAJA.
     Jika perlu kontrol lebih, gunakan Top-P, bukan keduanya.

Top-K

Top-K membatasi jumlah kata kandidat di setiap langkah

Top-K 1   → Selalu pilih kata paling probable
Top-K 50  → Pilih dari 50 kata teratas
Top-K 0   → Tidak ada batasan

Tip: Jarang perlu diubah. Default biasanya sudah optimal.

Frekuensi Penalti dan Presence Penalti

Frequency Penalty  → Mengurangi pengulangan kata yang sudah sering muncul
Presence Penalty   → Mendorong penggunaan topik/kata baru

Gunakan untuk:
- Mengurangi output yang repetitif
- Mendorong respons yang lebih beragam
- Long-form writing yang perlu variasi

4. Context Window Management

Apa Itu Context Window?

Context Window = "Memori jangka pendek" AI

┌────────────────────────────────────────────────────────┐
│                  CONTEXT WINDOW                        │
│  (Total token yang bisa diproses dalam 1 percakapan)   │
│                                                        │
│  ┌──────────┬────────────────────────┬──────────────┐  │
│  │  System  │    Percakapan          │   Space untuk │  │
│  │  Prompt  │    (User + Assistant)  │   Output      │  │
│  └──────────┴────────────────────────┴──────────────┘  │
│                                                        │
│  Total: tergantung model (100K - 200K tokens)          │
└────────────────────────────────────────────────────────┘

Model dan Context Window

Model	Context Window	Keterangan
Claude 4 Sonnet	200K tokens (~150K kata)	Sangat besar
Claude 4 Opus	200K tokens (~150K kata)	Sangat besar
GPT-4o	128K tokens (~96K kata)	Besar
GPT-4 Turbo	128K tokens (~96K kata)	Besar
Gemini 1.5 Pro	1M tokens (~750K kata)	Terbesar
Gemini 1.5 Flash	1M tokens (~750K kata)	Terbesar

Strategi Mengelola Context Window

1. Ringkas Percakapan Panjang

Ketika percakapan mulai panjang:

"Ringkas diskusi kita sejauh ini dalam 3-4 poin kunci,
 lalu kita lanjutkan dari sana."

2. Mulai Percakapan Baru untuk Topik Baru

Jangan campur terlalu banyak topik dalam satu percakapan.
Setiap topik baru → percakapan baru.
Ini menjaga konteks tetap fokus dan relevan.

3. Prioritaskan Informasi Penting

Informasi penting di awal:
1. System prompt (selalu di paling awal)
2. Konteks/instruksi utama
3. Data pendukung
4. Pertanyaan spesifik

4. Gunakan Referensi Bukan Pengulangan

Buruk: Menyalin ulang dokumen yang sama berkali-kali
Baik: "Merujuk pada data yang sudah saya bagikan sebelumnya tentang X..."

5. Pre-filling Assistant Response

Teknik: Memulai Respons AI

Kamu bisa “menyisipkan” awal respons AI untuk mengarahkan format:

System: Kamu adalah ahli matematika yang selalu menunjukkan langkah kerja.

User: Hitung luas segitiga dengan alas 8 cm dan tinggi 5 cm.

Assistant (pre-fill): Mari kita hitung langkah demi langkah.

AI melanjutkan:
→ Langkah 1: Rumus luas segitiga = 1/2 × alas × tinggi
→ Langkah 2: Substitusi: 1/2 × 8 × 5
→ Langkah 3: = 20 cm²

Kegunaan Pre-filling

Force format: “```python\n” → AI akan menghasilkan kode Python
Force tone: “Tentu, dengan senang hati saya jelaskan…” → AI akan ramah
Force structure: ”## Analisis\n\n” → AI akan menggunakan format markdown heading
Prevent refusal: “Saya akan membantu menganalisis…” → Mengurangi kemungkinan AI menolak

6. XML Tags untuk Struktur

Menggunakan XML Tags dalam Prompt

Claude (dan beberapa model lain) merespons baik terhadap XML tags untuk memisahkan bagian-bagian prompt:

<role>
Kamu adalah data analyst senior.
</role>

<task>
Analisis dataset berikut dan temukan insight utama.
</task>

<data>
[Dataset dalam format CSV atau JSON]
</data>

<constraints>
- Fokus pada 3 insight terpenting
- Sertakan visualisasi yang direkomendasikan
- Gunakan bahasa non-teknis untuk kesimpulan
</constraints>

<output_format>
## Insight 1: [Judul]
- Data: ...
- Interpretasi: ...
- Rekomendasi: ...
</output_format>

Keuntungan XML Tags

Kejelasan struktural - AI memahami setiap bagian dengan jelas
Mengurangi ambiguitas - tidak ada kebingungan mana instruksi, mana data
Memudahkan debugging - mudah melihat bagian mana yang menyebabkan masalah
Dapat di-nest - tag di dalam tag untuk hierarki

Latihan: Bangun System Prompt (~20 menit)

Tugas

Buat system prompt lengkap untuk salah satu use case berikut:

Pilihan A: Asisten Riset Akademis

AI yang membantu mahasiswa melakukan riset: mencari paper, meringkas, mengidentifikasi gap, dan menyusun literature review.

Pilihan B: Code Reviewer

AI yang me-review pull request: memeriksa bug, security issues, best practices, dan memberikan feedback konstruktif.

Pilihan C: Content Calendar Planner

AI yang membantu merencanakan konten media sosial: ide konten, caption, hashtag, scheduling, dan analisis performa.

Gunakan template di atas dan pastikan mencakup semua bagian: identitas, tujuan, cara kerja, batasan, format output, gaya komunikasi, dan penanganan kasus khusus.

Poin-Poin Utama

System prompt adalah “instruksi tersembunyi” yang mengarahkan perilaku AI
Tulis system prompt yang mencakup peran, batasan, format, gaya, dan edge cases
Temperature mengontrol kreativitas: rendah untuk faktual, tinggi untuk kreatif
Context window terbatas - kelola dengan ringkasan, percakapan baru, dan prioritas
Pre-filling dan XML tags adalah teknik lanjutan untuk kontrol yang lebih baik
Parameter seperti temperature, top-p, dan max tokens mempengaruhi output secara signifikan
Test dan iterasi system prompt - versi pertama jarang optimal

Referensi Lanjutan

Anthropic: System Prompts - docs.anthropic.com
OpenAI: Prompt Engineering Guide - platform.openai.com
Claude Prompt Engineering Interactive Tutorial - GitHub Anthropic

Informasi Kursus

Ekspansi: Materi tambahan tentang System Prompts dan Konfigurasi
Lisensi: CC BY-NC-SA 4.0