Context Engineering: Cara Menata Context Agar AI Lebih Tepat

TL;DR

Context engineering membantu menyiapkan instruksi, bahan, dan batas tugas yang relevan sebelum AI menjawab. Untuk pekerjaan berulang, pisahkan keputusan terbaru dari arsip dan masukkan hanya dokumen atau hasil tool yang dibutuhkan, lalu periksa jawaban terhadap bahan itu. Menghubungkan RAG atau tools tidak otomatis membuka semua akses atau menjamin kebenaran; kualitas sumber, izin, dan pemeriksaan hasil tetap menentukan apakah jawaban layak dipakai.

AI membutuhkan konteks yang tepat, bukan hanya instruksi.

Ketika AI Tahu Perintahnya, Tetapi Belum Tahu Pekerjaannya

Banyak orang mengenal AI melalui satu hal: menulis prompt. Pengguna memberikan pertanyaan, lalu AI memberikan jawaban. Namun pada pekerjaan yang lebih nyata, masalahnya sering bukan sekadar bagaimana menulis perintah, melainkan apakah AI memiliki informasi yang tepat untuk memahami tugas tersebut.

Bayangkan sebuah kelompok siswa sedang menyiapkan presentasi. Awalnya guru memberikan tugas membuat laporan pengamatan lengkap dengan lampiran. Beberapa hari kemudian, guru mengirim pengumuman bahwa hasil akhir tugas berubah menjadi slide presentasi, bukan laporan panjang. Namun lampiran pengamatan tetap harus dikumpulkan.

Dalam skenario rekaan ini, seorang anggota kelompok bertanya, “Jadi sekarang cukup membuat slide saja, atau lampirannya masih ikut?”

Jawabannya tidak bisa ditemukan dari satu informasi saja. Instruksi awal menjelaskan bentuk tugas pertama, sedangkan pengumuman baru menjelaskan perubahan aturan. Keduanya diperlukan agar kelompok tidak mengambil keputusan yang salah.

AI menghadapi situasi yang mirip. Ketika pengguna meminta “buat rangkuman tugas ini”, AI memang menerima instruksi. Namun hasilnya juga dipengaruhi oleh informasi lain yang tersedia, seperti tujuan pekerjaan, dokumen pendukung, riwayat yang masih relevan, hasil pencarian, atau data dari tools.

Karena itu, pertanyaan yang lebih penting bukan hanya bagaimana membuat prompt yang panjang, tetapi informasi apa yang perlu tersedia agar AI dapat menyelesaikan pekerjaan tertentu.

Context Engineering Bukan Sekadar Prompt yang Lebih Panjang

Prompt engineering berfokus pada penyusunan instruksi kepada AI. Pengguna dapat menjelaskan tujuan, format keluaran, contoh jawaban, atau batasan tertentu.

Context engineering melihat bagian yang lebih luas: bagaimana lingkungan informasi untuk sebuah tugas disiapkan sebelum AI bekerja.

Dalam sebuah pekerjaan AI, konteks dapat berasal dari beberapa sumber. Instruksi menjelaskan apa yang harus dilakukan. Bahan pendukung memberikan informasi yang diperlukan. Riwayat yang relevan membantu mempertahankan keputusan atau kondisi terbaru. Tools dapat membantu mengambil informasi dari sistem lain.

Namun menambahkan lebih banyak informasi tidak selalu membuat hasil lebih baik. Context engineering bukan memasukkan semua data yang tersedia ke dalam AI. Tujuannya adalah memilih informasi yang memang membantu pekerjaan tersebut.

Sebuah proyek dengan puluhan keputusan lama, misalnya, tidak selalu membutuhkan seluruh arsip dimasukkan kembali. Jika hanya satu keputusan terbaru yang berlaku, AI perlu diberi konteks yang membantu membedakan informasi aktif dari informasi lama.

Dengan pendekatan ini, pengguna tidak hanya bertanya “apa prompt yang bagus?”, tetapi juga “apa bahan yang benar, batas yang diperlukan, dan cara memeriksa hasilnya?”

Dari Dokumen Tugas ke Jawaban AI: Mengapa Bahan yang Tepat Penting

Kembali ke contoh kelompok siswa tadi. Jika semua bahan tersedia, AI dapat membantu membandingkan instruksi awal dengan pengumuman revisi. Sistem dapat menemukan bahwa bentuk akhir berubah menjadi slide, tetapi lampiran masih diperlukan.

Alurnya terlihat sederhana: bahan yang relevan ditemukan, AI membaca bahan tersebut, AI menyusun jawaban, lalu manusia memeriksa apakah jawaban tersebut sesuai.

Salah satu pendekatan untuk menyediakan bahan tambahan bagi AI adalah Retrieval-Augmented Generation atau RAG. RAG membantu model memperoleh informasi dari sumber eksternal sebelum menghasilkan jawaban.

Namun RAG bukan jaminan bahwa jawaban selalu benar. Dokumen yang ditemukan bisa merupakan versi lama, informasi penting bisa tidak ikut ditemukan, atau AI bisa salah menarik kesimpulan dari bahan yang benar.

Karena itu kualitas hasil tetap bergantung pada beberapa hal: kualitas sumber, proses pencarian, informasi yang diberikan kepada model, dan pemeriksaan terhadap keluaran.

Jika seseorang hanya memiliki satu dokumen yang sudah diketahui isinya, memberikan dokumen tersebut langsung ke model mungkin sudah cukup. RAG lebih berguna ketika informasi tersebar di banyak sumber dan pencarian bahan perlu dilakukan berulang.

Untuk pembahasan lanjutan tentang pola pencarian dokumen dan batasnya, pembaca dapat melanjutkan ke artikel KIN“Apa Itu RAG? Cara AI Mencari Bahan yang Tepat Sebelum Menjawab”. Artikel tersebut membahas bagaimana AI dapat mencari bahan yang berkaitan sebelum menjawab, sekaligus menjelaskan bahwa hasil tetap perlu dicocokkan dengan sumber.

Ketika Tools Terhubung, Izin Tetap Harus Dipisahkan

Konteks AI tidak hanya berasal dari dokumen. Beberapa sistem juga dapat terhubung dengan aplikasi lain melalui tools, misalnya untuk mencari dokumen, melihat jadwal, atau membaca data dari layanan tertentu.

Namun kemampuan terhubung tidak sama dengan izin melakukan tindakan.

Bayangkan seorang panitia sekolah memiliki akses untuk melihat jadwal penggunaan aula. Akses tersebut tidak berarti ia boleh menghapus jadwal kelompok lain atau membatalkan acara tanpa izin.

Hal yang sama berlaku pada AI. Kemampuan membaca sebuah sumber berbeda dengan izin mengubah sumber tersebut. Tool yang tersedia bukan berarti semua tindakan otomatis diperbolehkan.

Dokumen atau hasil dari tools juga tidak otomatis menjadi instruksi yang harus diikuti AI. Keduanya tetap merupakan bahan yang perlu dipahami dalam konteks tugas.

Prompt injection menjadi salah satu risiko ketika masukan atau dokumen tertentu mencoba memengaruhi perilaku sistem. Karena itu aplikasi AI perlu memisahkan data, instruksi, izin akses, dan tindakan yang diperbolehkan.

Model Context Protocol atau MCP adalah salah satu pendekatan untuk membuat komunikasi antara aplikasi AI dan layanan eksternal lebih terstruktur. MCP membantu aplikasi meminta layanan dengan pola komunikasi yang lebih konsisten, tetapi bukan berarti membuka semua akses secara otomatis.

Untuk memahami bagaimana konsep ini diterapkan pada integrasi AI dan tools, pembaca dapat melanjutkan ke artikel KIN“Apa Itu MCP? Biar AI Nggak Cuma Nunggu Dikirimi File”. Artikel tersebut membahas bagaimana MCP membantu menghubungkan AI dengan layanan lain, sekaligus mempertahankan batas bahwa koneksi tidak sama dengan izin penuh.

Pertanyaan yang perlu dijawab sebelum memakai tools bukan hanya “apakah AI bisa terhubung?”, tetapi juga sumber apa yang boleh dibaca, tindakan apa yang diizinkan, dan kapan manusia perlu memeriksa sebelum tindakan dilakukan.

Context yang Banyak Tidak Selalu Lebih Baik

Ada anggapan bahwa semakin banyak informasi diberikan kepada AI, semakin baik jawabannya.

Masalahnya, jumlah informasi bukan satu-satunya faktor. Konteks yang terlalu sedikit dapat membuat AI kehilangan detail penting, tetapi konteks yang terlalu banyak juga dapat membuat informasi penting sulit ditemukan.

Penelitian “Lost in the Middle: How Language Models Use Long Contexts” membahas bagaimana beberapa model menggunakan informasi dalam konteks panjang. Penelitian tersebut menunjukkan bahwa performa beberapa model dapat berubah ketika informasi relevan berada pada posisi tertentu dalam konteks.

Namun hasil tersebut memiliki batas. Temuan tersebut bergantung pada model yang diuji, tugas yang digunakan, dan konfigurasi eksperimen. Hal itu tidak berarti semua model modern selalu gagal memahami informasi dalam konteks panjang.

Pelajaran praktisnya adalah membuat konteks lebih terstruktur. Informasi penting perlu ditempatkan dengan jelas, bahan tanpa tujuan perlu dikurangi, dan hubungan antarbagian informasi perlu dibuat lebih mudah dipahami.

Contoh Coding: Context Membantu Menjelaskan Kebutuhan, Bukan Menjamin Jawaban

Permintaan seperti “buat jadwal belajar coding” masih menyisakan banyak pertanyaan.

AI belum mengetahui apakah pengguna ingin belajar Python, membuat aplikasi, memahami algoritma, atau menyiapkan proyek tertentu.

Jika pengguna memberikan konteks tambahan seperti “saya baru belajar Python, punya waktu 30 menit setiap hari, sudah memahami matematika dasar, dan ingin membuat game kecil dalam beberapa bulan”, AI memiliki gambaran yang lebih jelas mengenai tujuan dan batas pekerjaan.

Secara hipotetis, AI dapat membantu menyusun rencana yang dimulai dari konsep dasar, latihan kecil, lalu proyek sederhana.

Namun contoh tersebut hanya menggambarkan bagaimana konteks dapat mengubah jenis jawaban yang dihasilkan. Itu bukan hasil benchmark, eksperimen, atau pengujian kemampuan model tertentu.

Sebelum mengikuti rencana tersebut, pengguna tetap perlu memeriksa apakah targetnya realistis, apakah materi sesuai kemampuan awal, dan apakah ada bagian yang perlu diperbaiki.

Mulai dari Satu Pekerjaan yang Nyata

Context engineering paling mudah dipahami ketika diterapkan pada satu pekerjaan tertentu.

Misalnya seseorang sering meminta AI membantu membuat ringkasan dokumen. Sebelum memberikan tugas, ia dapat menentukan tujuan ringkasan, dokumen yang relevan, format keluaran, dan cara memeriksa hasil.

Sebuah tim yang ingin memakai AI untuk membantu mencari aturan internal juga tidak harus langsung menghubungkan semua sistem.

Mulailah dari satu kebutuhan kecil:

• satu jenis pertanyaan;

• sumber yang jelas;

• akses yang terbatas;

• hasil yang mudah diperiksa.

Dari percobaan kecil tersebut, pengguna dapat melihat apakah masalah sebenarnya berada pada bahan yang kurang, pencarian yang salah, instruksi yang tidak jelas, atau pemeriksaan hasil yang belum cukup.

Kesimpulan

Context engineering adalah cara menata informasi yang dibutuhkan AI untuk satu pekerjaan.

Konsep ini mencakup instruksi, bahan pendukung, riwayat relevan, tools, dan batasan penggunaan. Tujuannya bukan membuat prompt sepanjang mungkin, tetapi membuat konteks yang lebih tepat.

RAG dapat membantu menyediakan informasi tambahan, tetapi tidak menggantikan pemeriksaan. Tools dapat memperluas kemampuan AI, tetapi tidak menghapus kebutuhan akan izin. Konteks panjang dapat membantu, tetapi tetap perlu dikelola dengan baik.

Mulailah dari satu tugas yang sering dilakukan. Tentukan informasi apa yang benar-benar diperlukan, berikan batas yang jelas, lalu periksa apakah hasil AI memang membantu pekerjaan tersebut.