Asisten AI hosted memang lebih cepat diadopsi. Namun TREEO membangun sendiri: router di depan beberapa model, pustaka tool yang bisa dipakai model, memori dokumen, dan mesin riset yang menghasilkan dokumen bersitasi, bukan sekadar chat. Empat belas bulan kemudian, alasan untuk membangun daripada membeli terbukti tepat.
Sistem saat ini
193
modul Python
37.720
baris kode
690
commit
22
desain arsitektur tertulis
37
tool agen tersedia
186
file pengujian
Tiga Alasan Tidak Membeli
Langkah demi Langkah
Biaya
Beberapa model tersusun seperti tangga, dari yang termurah. Pekerjaan naik tingkat hanya saat model yang lebih murah gagal, bukan karena jawabannya sekadar tampak lemah. Pemakaian diukur per proses dan dilaporkan di hasil keluaran.
Akses
Sistem ini membaca sistem internal kami: log, dokumen, email dan kalender, serta pipeline data. Produk hosted tidak bisa diberi akses seperti itu, dan memang tidak seharusnya.
Kendali atas data
Percakapan, dokumen, dan memori tetap berada di infrastruktur yang kami jalankan. Data setiap orang dipisahkan dari data orang lain karena sistem menolak membaca di luar pool miliknya.
Dua Sistem, Satu Batas
Keputusan arsitektur yang paling jelas adalah membagi produk menjadi dua dan menjaga batasnya tetap tegas: server memegang model, tool, dan data; lapisan workspace memegang pengalaman desktop dan file milik tiap orang. Keduanya tidak saling menjangkau.
Identitas sengaja diletakkan di tempat lain. Siapa seseorang dan apa yang boleh digunakannya ditentukan oleh sistem identitas terpisah, bukan oleh server AI itu sendiri. Server memvalidasi token bertanda tangan, lalu menurunkan peran, izin tool, dan namespace data pribadi orang tersebut dari token itu. Menambah rekan kerja kini menjadi urusan administrasi, bukan rekayasa, dan setiap batas data dalam sistem bermuara pada satu fungsi, bukan tersebar di seluruh basis kode.
Satu tool loop yang sama melayani semua antarmuka: aplikasi desktop, chat tim, tool developer, dan aplikasi web internal. Antarmuka hanya berbeda pada hal yang boleh dilakukan. Ini butuh penulisan ulang yang disengaja: sebelumnya, setiap antarmuka punya loop sendiri, lengkap dengan bug-nya sendiri yang berbeda tipis.
Sebuah Tangga, Bukan Satu Model
Keputusan biaya yang paling efektif adalah menolak memilih satu model. Permintaan masuk di tingkat termurah dan naik hanya saat gagal, bukan karena jawabannya sekadar tampak lemah. Satu tingkat bisa dialihkan ke vendor lain dengan mengubah satu pengaturan; adapter penyedia dibuat sebagai plugin yang dapat diganti, bukan pilihan yang ditanam permanen.
Dua aturan baru kami pahami lewat insiden nyata. Eskalasi digerakkan oleh kegagalan, bukan kualitas. "Jawaban ini tampak lemah, coba model yang lebih baik" berarti anggaran tanpa batas, karena kegagalan adalah fakta sedangkan penilaian kualitas bukan. Selain itu, tingkat yang dipatok bersifat terkunci: jika pemanggil meminta tingkat tertentu, router menunggu backend itu pulih, bukan diam-diam menjawab dengan model lain. Penggantian diam-diam ternyata lebih buruk daripada jawaban yang lambat.
Akses diatur berdasarkan peran, bukan berdasarkan klaim permintaan itu sendiri. Setiap peran punya allowlist tool sendiri, yang dibatasi untuk peran tersebut dan antarmuka tertentu. Tool yang tidak tersedia akan menyatakannya beserta alasannya. Versi awal gagal tanpa penjelasan, dan model mengisi kekosongan itu dengan mengarang kemampuan yang sebenarnya tidak dimilikinya.
Riset Paralel yang Menghasilkan Dokumen
Kebanyakan tool AI menjawab pertanyaan sekali jalan. Sistem ini menerima brief, membaginya menjadi alur riset, menjalankannya secara paralel, memverifikasi hasilnya, mengulang yang gagal, dan menyerahkan satu folder dokumen bersitasi.
Keputusan yang membuatnya terjangkau: tidak ada model yang memutuskan untuk mencari. Lapisan terpisah mengumpulkan sumber, yaitu temuan sebelumnya, penyimpanan dokumen, pencarian web, dan jalur cadangan, dan model hanya membaca apa yang diberikan. Versi awal yang lebih agentik harus membayar katalog tool, keputusan mencari, bolak-balik permintaan, dan hasil yang masuk kembali ke konteks di setiap putaran, sehingga biayanya sekitar sepuluh kali lipat untuk keluaran yang sama.
Satu proses nyata dengan dua belas alur riset tercatat memakan waktu 8 menit, 13 panggilan model, 195.849 token, dan menghasilkan 11 dokumen, sekitar 110.000 karakter, masing-masing dengan sitasi. Tiap alur membaca sekitar enam sumber dan menulis satu kali. Sistem ini sengaja bukan agen riset berjam-jam dengan ratusan sumber, karena itu profil biaya yang berbeda dan sengaja dimatikan oleh tim. Menjelaskan cakupan ini secara terbuka mencegah banyak harapan yang kecewa.
Ada tiga hal dari desain ini yang layak ditiru di sistem serupa: rencana dibuat dari status proses yang sebenarnya, bukan ditulis oleh model, sehingga tidak pernah berbeda dari kejadian nyata; verifikasi berjalan sebagai kode biasa, yaitu field wajib, tautan valid, dan duplikat digabung, bukan opini AI kedua; dan setiap worker paralel hanya melihat tugasnya sendiri dan dependensi yang dideklarasikan, bukan seluruh proses, karena state yang berubah dan dibagi antarcabang paralel adalah sumber bug yang andal.
Enam Pelajaran Berharga
Langkah demi Langkah
Tulis desainnya, lalu tulis ringkasan penutupnya
Dua puluh dua desain dan belasan ringkasan penutup. Desain mencatat niat; ringkasan penutup mencatat apa yang benar-benar terjadi, termasuk kesimpulan yang kemudian dibalikkan oleh pekerjaan berikutnya. Ringkasan penutup jauh lebih sering dirujuk.
️ Jangan pernah menanam nama model secara permanen
Jangan di dokumentasi, konfigurasi klien, maupun identifier yang diiklankan. Klien menyimpan nama apa pun yang ditampilkan, lalu diam-diam terkunci pada model yang sudah dipensiunkan.
Dokumentasi menyimpang lebih cepat dari dugaan siapa pun
Sebuah file referensi inti menyebut 17 tool padahal yang terdaftar 37, dan menjelaskan tangga model yang sudah berbulan-bulan tidak ada. Kini sebuah skrip menggagalkan build saat angkanya menyimpang, dan skrip itu sudah dua kali menangkap penulisnya sendiri.
Tanyakan apa yang sudah ada dalam percakapan
Bug yang berulang muncul karena sistem bertanya "apakah ini tampak seperti permintaan riset?" tanpa bertanya "apa yang sudah ada di chat ini?" Akibatnya, pertanyaan lanjutan memulai proses riset yang sama sekali baru, termasuk satu kasus saat pengguna sudah menyatakan jangan.
Plugin yang termuat belum tentu berfungsi
Satu fitur dipasang pada titik ekstensi yang salah: ia membungkus panggilan yang bersifat streaming, menerima objek stream, dan tidak pernah melihat teks apa pun. Ia mencatat "loaded" di setiap start dan tidak melakukan apa-apa selama berhari-hari.
️ Murah dan deterministik mengalahkan yang canggih, sampai terukur sebaliknya
Setiap kali keputusan model diganti dengan kode biasa, yaitu verifikasi, pengumpulan sumber, dan pembuatan rencana, sistem menjadi lebih murah, lebih cepat, dan lebih mudah di-debug, tanpa kehilangan apa pun yang disadari pengguna.
Pertanyaan yang Sering Diajukan
Tiga alasan bertahan selama empat belas bulan: kendali biaya lewat routing model bertingkat yang naik hanya saat gagal, akses ke sistem internal yang tidak aman diberikan kepada produk hosted, dan data serta isolasi per orang tetap berada di infrastruktur yang dikendalikan langsung oleh tim.
Kami memperluasnya ke kepatuhan spasial
Platform yang sama di balik tulisan ini kini kami kembangkan untuk penalaran geospasial bagi EUDR dan dMRV karbon. Baca ke mana arahnya, atau hubungi kami jika Anda menghadapi masalah serupa.



