Context engineering adalah prompt engineering yang baru
Selama dua tahun sarannya adalah menulis prompt yang lebih baik. Saran itu berhenti membuahkan hasil kira-kira saat model sudah andal mengikuti instruksi. Yang masih tidak bisa dilakukannya: menyimpulkan informasi yang tidak pernah Anda berikan.
Apa yang berubah
Prompt engineering mengoptimasi permintaannya. Context engineering mengoptimasi apa yang ada di ruangan saat permintaan itu datang. Begitu model bisa mengikuti instruksi dengan andal, kegagalan yang tersisa bukan soal pilihan kata, melainkan ketiadaan: file relevan tidak dimuat, output tool terpotong, keputusan dari dua puluh giliran lalu sudah tidak ada di window.
Mengapa ini penting bagi tim deployment
Context adalah anggaran dengan plafon keras, dan satu-satunya anggaran di stack yang terpakai secara tidak sengaja. Tidak ada yang sengaja menulis kode yang membocorkan token; mereka menulis kode yang menambahkan satu hasil tool lagi, lalu satu lagi, sampai separuh window yang berguna tergusur. Kegagalan yang dihasilkannya adalah jenis terburuk: bukan error, hanya jawaban yang perlahan memburuk.
Apa yang harus dilakukan
Mulailah dengan mengukur. Catat token masuk per permintaan dengan rincian per sumber: system prompt, chunk hasil retrieval, output tool, riwayat. Kebanyakan tim mendapati satu kategori mendominasi, dan itu bukan kategori yang mereka kira. Lalu pakai tiga tuas secara berurutan. Pertama, berhenti mengirim yang tidak perlu — sandbox output tool yang bertele-tele dan kembalikan referensi, bukan isinya. Kedua, kompres yang memang harus dikirim — ringkas giliran lama, hapus duplikasi chunk yang tumpang tindih. Ketiga, barulah pertimbangkan membayar window yang lebih panjang, yang merupakan yang paling mahal dan paling tidak efektif dari ketiganya.
Bagian yang sering dilewatkan
Simpan memori di luar window. Sesi yang mati bersama context-nya adalah sesi yang harus dibangun ulang pengguna dengan tangan. Tulis state persisten ke store yang bisa dikueri agent, dan berikan model sebuah pointer, bukan muatannya. Ini ide yang sama dengan pagination, dan inilah yang membedakan demo dari sesuatu yang mau dipakai rekan kerja dua kali.