Skip to content
Tech

Tim AI Agent Juga Bisa Drift: 4 Kebiasaan Ops yang Wajib

Tim AI agent pelan-pelan melenceng kalau nggak dirawat. Empat kebiasaan ops: audit rutin, lane sendiri, pantau usage, dan pensiunkan bot dengan bersih.
7 minutes to read
2 minggu lalu
Zainul Fanani
Tim AI Agent Juga Bisa Drift: 4 Kebiasaan Ops yang Wajib
📅 2 Nov 2026🤍0 👁 0 🔗 0

Bikin AI agent itu sekarang gampang. Satu sore bisa jadi tiga bot: satu buat riset, satu buat inbox, satu buat laporan.

Yang susah justru bulan berikutnya.

Instruksi yang dulu jelas mulai tumpang tindih. Memory isinya catatan yang setengah basi. Ada bot yang sudah nggak dipakai tapi aturannya masih nempel di bot lain. Dan tagihan usage tiba-tiba lebih besar dari yang kamu kira.

Saya menyebutnya agent drift. Bukan karena modelnya jadi bodoh, tapi karena sistem di sekitarnya pelan-pelan melenceng dan nggak ada yang ngecek.

Pemicu tulisan ini adalah post dari @ducksays soal empat hal yang menurutnya wajib dilakukan kalau kamu menjalankan tim bot. Isinya singkat, tapi menurut saya ini salah satu checklist AI ops paling praktis yang saya baca minggu ini. Saya bedah satu per satu, lalu saya tambahkan cara saya sendiri memandangnya.

Kenapa Tim Agent Bisa Drift

Agent yang jalan terus itu seperti mesin produksi. Hari pertama setelan pabrik, bulan ketiga sudah ada baut yang kendor.

Sumber drift-nya biasanya bukan satu kejadian besar. Tapi tumpukan hal kecil:

  • Kamu kasih koreksi di chat, bot bilang "oke, sudah saya catat", padahal catatannya nggak pernah tersimpan.
  • Dua bot punya aturan yang bertentangan karena dibuat di minggu yang berbeda.
  • Bot yang sudah kamu pensiunkan masih "hidup" lewat aturan dan catatan yang dia tinggalkan.
  • Group chat atau routine lama tetap makan usage padahal hasilnya nggak dipakai siapa pun.

Satu-satu kelihatan sepele. Ditumpuk, tim agent-mu jadi lambat, mahal, dan susah dipercaya.

Lesson: agent yang nggak pernah diaudit bukan agent yang stabil. Itu agent yang belum ketahuan melencengnya.

Diagram empat kebiasaan menjaga tim AI agent: audit, lane sendiri, pantau usage, dan pensiun yang bersih, semua lewat persetujuan owner
Diagram empat kebiasaan menjaga tim AI agent: audit, lane sendiri, pantau usage, dan pensiun yang bersih, semua lewat persetujuan owner

1. Audit Rutin: Cek Apa yang Benar-Benar Terjadi

Poin pertama dari @ducksays: "audit them. bots drift." Dia punya satu bot berperan sebagai COO yang membaca chat, routine, dan memory setiap bot lain, lalu membereskan yang meleset.

Contoh yang dia sebut menarik banget: COO-nya menemukan catatan yang menurut bot scout-nya sudah disimpan, ternyata nggak pernah masuk.

Ini masalah klasik. Agent bilang sudah melakukan sesuatu, tapi nggak ada yang memverifikasi. Persis prinsip yang saya tulis di Agentic AI Butuh Loop, Bukan Cuma Prompt: aksi tanpa verifikasi itu cuma harapan.

Yang saya audit di setup sendiri kira-kira begini:

  1. Klaim vs bukti. Bot bilang "sudah disimpan", "sudah dikirim", "sudah diupdate". Cek apakah file, catatan, atau record-nya benar-benar ada.
  2. Instruksi yang konflik atau dobel. Aturan lama vs aturan baru yang saling bantah.
  3. Context yang gemuk. Catatan basi dan link mati yang cuma bikin bot bingung dan boros token.
  4. Routine yang nggak menghasilkan apa-apa. Jalan tiap hari, outputnya nggak dibaca siapa pun.

Ada contoh lain yang sejalan. Akun @grok pernah merekomendasikan bot bernama trimmy yang tugasnya mendeteksi dan mengusulkan perbaikan untuk aturan yang konflik atau dobel, link yang sudah dihapus, dan context yang lama atau bengkak di bot lain. Kata kuncinya: kamu approve setiap perubahan.

Audit itu kerjaan agent. Keputusan tetap di manusia.

Kalau kamu sudah baca Harness Engineering: Model Sama, Hasil Bisa Beda Jauh, ini sambungannya. Harness yang bagus nggak dibangun sekali. Dia dirawat.

2. Setiap Bot di Lane Sendiri

Poin kedua yang menurut saya paling penting, dan paling sering dilanggar: nggak ada bot yang mengedit barang milik bot lain.

Di setup @ducksays, kalau COO menemukan perbaikan, dia mengirim usulan perubahan ke bot yang bersangkutan, bukan mengubahnya sendiri. Dan COO itu nggak mau menerima perintah dari bot lain. Hanya dari owner-nya.

Kedengarannya birokratis. Tapi ini security, bukan birokrasi.

OWASP Top 10 for LLM Applications 2025 punya kategori LLM06: Excessive Agency. Akar masalahnya disebut tiga: fungsi berlebihan, izin berlebihan, dan otonomi berlebihan. Mereka juga menyebut salah satu pemicunya secara eksplisit: prompt injection dari peer agent yang jahat atau sudah ter-compromise di sistem multi-agent.

Bayangkan bot riset-mu membaca halaman web yang berisi instruksi tersembunyi. Kalau bot riset boleh menyuruh bot finance, satu halaman web bisa merembet ke rekening. Kalau setiap bot cuma nurut ke owner, rantai itu putus di langkah pertama.

Aturan lane yang saya pakai:

  • Satu bot, satu tanggung jawab, satu set tool yang minimal.
  • Bot lain boleh mengusulkan, nggak boleh mengubah.
  • Perintah yang datang dari bot lain diperlakukan sebagai data, bukan instruksi.
  • Aksi berdampak (kirim, bayar, hapus) tetap lewat approval manusia.

Ini sama dengan pertanyaan yang saya angkat di MCP Sudah Nyambung ke ERP, Tapi Siapa Pegang Kunci?. Begitu agent bisa bertindak, pertanyaan utamanya bukan lagi "bisa apa", tapi "boleh apa, dan siapa yang ngizinin".

Lesson: multi-agent tanpa lane itu bukan tim. Itu satu agent raksasa dengan banyak pintu masuk.

3. Pantau Usage Sebelum Habis, Bukan Sesudahnya

Poin ketiga ini yang paling bikin saya tersenyum, karena relatable.

@ducksays cerita halaman usage-nya menunjukkan 34% pemakaian minggu itu habis untuk bot yang sudah dihapus dan group chat. Sepertiga lebih, untuk hal yang secara praktis sudah nggak dia butuhkan.

Chart donat: 34% pemakaian mingguan habis untuk bot yang sudah dihapus dan group chat, menurut laporan @ducksays
Chart donat: 34% pemakaian mingguan habis untuk bot yang sudah dihapus dan group chat, menurut laporan @ducksays

Angka ini dari satu orang, jadi jangan dijadikan statistik umum. Tapi polanya familiar: biaya agent jarang meledak karena satu tugas besar. Dia bocor pelan-pelan dari hal yang lupa dimatikan.

Solusinya juga menarik. COO-nya menjalankan cek setiap Kamis yang diam saja kecuali pemakaian sedang menuju habis. Kalau iya, dia menyebut satu bot paling boros dan satu perbaikan.

Itu desain alert yang saya suka. Nggak cerewet, langsung kasih aksi. Persis prinsip di Sistem yang Sehat Lebih Sering Diam: alert yang baik bukan yang paling lengkap, tapi yang bikin orang bergerak.

Format alert usage yang saya sarankan:

text
Usage minggu ini: on pace to run out sebelum reset.
Paling boros: [nama bot] (routine harian yang outputnya nggak dibaca)
Satu perbaikan: ubah jadi mingguan, atau matikan.

Tiga baris. Kalau semua normal, nggak ada pesan sama sekali.

4. Pensiunkan Bot dengan Bersih

Poin keempat paling jarang dibahas: bersih-bersih waktu sebuah bot dipensiunkan.

Menurut @ducksays, catatan dan aturan lama tetap nempel. Waktu dia mempensiunkan satu bot, COO-nya mengirim pesan ke 7 bot lain supaya membuang aturan yang ditinggalkan bot itu.

Ini mirip offboarding karyawan. Orangnya sudah keluar, tapi aksesnya masih aktif dan SOP-nya masih menyebut namanya. Semua orang tahu itu berbahaya untuk manusia. Untuk agent, entah kenapa sering dilupakan.

OWASP juga menyinggung versi teknisnya di LLM06: extension yang pernah dicoba lalu diganti alternatif lain, tapi masih tersedia untuk agent. Fungsi yang nggak dipakai tapi masih bisa dipanggil adalah permukaan serangan gratis.

Checklist pensiun bot yang saya pakai:

  1. Cabut connector, token, dan akses tool milik bot itu.
  2. Matikan routine dan jadwal yang terkait.
  3. Cari aturan di bot lain yang menyebut bot itu, lalu hapus atau ganti.
  4. Arsipkan memory yang masih berguna, buang sisanya.
  5. Catat di log: kapan pensiun, kenapa, apa yang dipindah ke bot lain.

Kalau timmu pakai memory bersama seperti yang saya bahas di GBrain: Satu Memory untuk Semua AI Agent, langkah ketiga dan keempat jadi lebih penting. Sisa catatan satu bot bisa terbaca oleh semua bot.

Perlu Bot COO Khusus?

Nggak harus. Kalau timmu cuma dua bot, audit manual seminggu sekali sudah cukup.

Tapi begitu jumlahnya mulai lima ke atas, saya setuju dengan polanya: satu agent yang tugasnya merawat agent lain, dengan batas yang jelas:

  • Dia boleh membaca chat, routine, memory, dan usage.
  • Dia mengusulkan perubahan ke bot pemilik, bukan mengubah langsung.
  • Dia nurut hanya ke owner.
  • Dia diam kalau semuanya normal.

Ironisnya, bot COO ini juga bisa drift. Jadi dia juga perlu diaudit, minimal oleh kamu, sesekali.

Penutup

Membangun tim agent itu bagian yang seru. Merawatnya bagian yang menentukan.

Empat kebiasaan tadi sebenarnya sederhana: audit klaim vs bukti, jaga setiap bot di lane-nya, pantau usage sebelum habis, dan pensiunkan bot dengan bersih. Nggak ada yang butuh model baru. Semuanya soal disiplin ops.

Tim agent yang sehat bukan yang paling banyak botnya. Tapi yang kamu tahu persis apa yang dikerjakan masing-masing.

FAQ

Apa itu agent drift?

Kondisi ketika perilaku tim AI agent pelan-pelan melenceng dari yang kamu maksud: instruksi konflik, memory basi, routine yang nggak berguna, atau klaim "sudah dikerjakan" yang ternyata nggak terjadi.

Seberapa sering tim agent perlu diaudit?

Nggak ada angka baku. Mulai dari seminggu sekali, lalu sesuaikan. Bot yang punya akses ke data atau aksi berdampak layak dicek lebih sering.

Kenapa bot nggak boleh menerima perintah dari bot lain?

Karena di sistem multi-agent, satu bot yang kena prompt injection bisa meneruskan instruksi jahat ke bot lain. OWASP memasukkan risiko ini ke kategori LLM06 Excessive Agency.

Apakah bot COO boleh langsung memperbaiki bot lain?

Saya sarankan nggak. Biarkan dia mengusulkan perubahan, lalu bot pemilik atau owner yang menerapkan setelah disetujui.

Apa langkah pertama paling gampang?

Buka halaman usage dan daftar semua bot serta routine yang aktif. Matikan yang nggak kamu pakai dalam dua minggu terakhir. Itu sering jadi penghematan paling cepat.

Ada Pertanyaan? Yuk Ngobrol!

Butuh bantuan setup OpenClaw, konsultasi IT, atau mau diskusi project engineering? Book a call langsung — gratis.

Book a Call — Gratis

via Cal.com • WITA (UTC+8)

Newsletter

Subscribe to Newsletter

Artikel baru, automation notes, dan engineering insight. Clean inbox, no spam.

Dengan subscribe, kamu setuju menerima update seperlunya.

F
Zainul Fanani

Founder, Radian Group. Engineering & tech enthusiast.

Lihat profil lengkap →