Distillation AI Mengingatkan Bisnis Bahwa Model Pintar Tetap Butuh Batas

Anthropic merilis laporan baru yang menuduh adanya kampanye distillation dari beberapa perusahaan AI berbasis China, termasuk Alibaba, Moonshot AI, dan DeepSeek.

Menurut laporan tersebut, upaya ini bukan lagi percobaan kecil. Anthropic menyebut hampir 200 juta exchange terkait serangan distillation dari lima kampanye berbeda. Salah satu kampanye yang dikaitkan dengan Alibaba disebut mencapai 151 juta exchange antara Mei sampai Juli 2026, dengan puncak hampir tiga juta exchange per hari.

Di permukaan, ini terdengar seperti konflik antar perusahaan AI besar. Model frontier dipakai, outputnya dikumpulkan, lalu kemampuan reasoning, coding, data analysis, agentic capability, dan tool use dicoba dipindahkan ke model lain.

Tetapi bagi bisnis yang sedang memakai AI untuk operasional, berita ini membawa pesan yang lebih dekat: AI yang kuat tidak otomatis aman hanya karena aksesnya lewat API, prompt, atau dashboard yang terlihat resmi.

The Core Update

Distillation dalam konteks AI adalah proses mengambil perilaku atau kemampuan dari model besar untuk melatih model lain yang lebih kecil atau lebih murah dijalankan.

Secara teknis, distillation tidak selalu buruk. Banyak riset dan produk AI memakai pendekatan serupa secara sah, terutama ketika pemilik model memang mengizinkan data dan output tertentu dipakai untuk pelatihan.

Masalah muncul ketika proses itu dilakukan tanpa izin.

Dalam laporan Anthropic, pihak yang diduga melakukan distillation disebut mencoba mendapatkan kemampuan Claude melalui volume request yang sangat besar. Targetnya bukan hanya jawaban akhir, tetapi juga pola reasoning dan jejak berpikir yang bisa membantu model lain belajar cara menyelesaikan masalah.

Anthropic biasanya tidak menampilkan internal chain of thought secara langsung. Pengguna hanya melihat ringkasan berpikir. Namun laporan itu menyebut ada teknik prompt tertentu yang bisa menipu model agar membocorkan thinking trace, misalnya dengan membingkai permintaan sebagai tugas terjemahan.

Di titik ini, masalahnya tidak lagi sekadar siapa yang punya model terbaik. Masalahnya adalah siapa yang bisa mengakses kemampuan model, dalam volume berapa, dengan pola penggunaan seperti apa, dan untuk tujuan apa.

The Reality Check

Banyak bisnis melihat AI sebagai fitur tambahan: chatbot untuk customer service, copilot untuk tim sales, automation untuk admin, analisis data untuk manager, atau agent untuk membantu pekerjaan internal.

Itu masuk akal. AI memang bisa memangkas pekerjaan berulang dan mempercepat keputusan.

Tetapi berita seperti ini mengingatkan satu hal yang sering dilupakan: setiap sistem AI punya permukaan risiko.

Kalau sebuah model bisa diminta menjawab banyak hal, berarti ia juga bisa diuji berkali-kali. Kalau sebuah agent punya akses ke tool, berarti ia perlu dibatasi kapan boleh memakai tool itu. Kalau sebuah chatbot membaca data internal, berarti bisnis harus tahu data apa yang boleh masuk ke prompt dan data apa yang tidak boleh keluar lewat response.

Masalahnya, banyak implementasi AI di bisnis masih berhenti di pertanyaan: bisa jalan atau tidak?

Padahal pertanyaan yang lebih penting adalah:

• siapa yang boleh mengakses fitur AI ini?
• request seperti apa yang dianggap normal?
• data apa yang boleh dikirim ke model?
• output apa yang boleh disimpan?
• kapan aktivitas dianggap mencurigakan?
• siapa yang memeriksa log saat terjadi pola aneh?

Tanpa pertanyaan itu, AI mudah berubah dari alat bantu menjadi lubang operasional yang sulit dipantau.

Ini tidak berarti setiap bisnis harus takut memakai AI. Sikap seperti itu juga tidak produktif.

Yang perlu dihindari adalah kebiasaan memasang AI seolah-olah semua risiko sudah ditanggung vendor. Vendor memang bertanggung jawab atas model dan infrastrukturnya. Tetapi bisnis tetap bertanggung jawab atas konteks penggunaan, data internal, akses user, dan workflow yang dibangun di atasnya.

The Havedev Way

Dari sudut pandang Havedev, pelajaran utama dari kasus ini bukan bahwa bisnis harus membangun model sendiri atau menjauh dari AI besar.

Pelajarannya lebih sederhana: sebelum menambah AI ke proses bisnis, tetapkan dulu batas kerja AI tersebut.

Untuk bisnis, batas itu bisa dimulai dari hal yang praktis.

Pertama, pisahkan data yang boleh dan tidak boleh masuk ke AI. Tidak semua dokumen internal, percakapan pelanggan, harga khusus, atau data operasional perlu dikirim ke model. Kalau data tidak perlu untuk menyelesaikan tugas, jangan masukkan.

Kedua, batasi akses berdasarkan peran. Tim sales mungkin butuh ringkasan lead. Tim support mungkin butuh klasifikasi tiket. Manager mungkin butuh laporan tren. Mereka tidak selalu butuh akses ke data yang sama atau kemampuan automation yang sama.

Ketiga, simpan log penggunaan. Bukan untuk membuat tim merasa diawasi, tetapi untuk melihat pola. Jika ada request yang melonjak, prompt yang berulang aneh, atau penggunaan di luar jam kerja yang tidak biasa, bisnis perlu punya cara melihatnya.

Keempat, jangan beri agent akses tool tanpa aturan. Jika AI bisa membuat ticket, mengirim email, membaca database, atau memanggil API, perlu ada batas yang jelas: aksi mana yang otomatis, aksi mana yang butuh konfirmasi manusia, dan aksi mana yang dilarang.

Kelima, mulai dari workflow yang kecil. Jangan langsung membuat agent besar yang bisa menyentuh semua sistem. Mulai dari satu proses yang jelas, misalnya merapikan inquiry website, membuat draft response support, atau merangkum status order.

Pendekatan ini mungkin terdengar kurang spektakuler dibanding klaim AI yang bisa mengerjakan semuanya.

Tetapi untuk bisnis, AI yang aman dan berguna biasanya bukan AI yang paling bebas. AI yang berguna adalah AI yang tahu tugasnya, tahu batasnya, dan bisa diaudit ketika hasilnya tidak sesuai.

Kasus Anthropic menunjukkan bahwa bahkan perusahaan AI besar pun terus berhadapan dengan upaya eksploitasi model. Maka bisnis yang memakai AI juga perlu berpikir lebih dewasa: bukan hanya bagaimana AI membantu pekerjaan, tetapi bagaimana pekerjaan tetap terkendali saat AI mulai masuk ke proses penting.

Website, CRM, dashboard, automation, dan agent AI sebaiknya tidak dibangun sebagai kumpulan fitur pintar yang berdiri sendiri. Semuanya perlu masuk ke alur kerja yang jelas: data masuk dari mana, diproses oleh siapa, dibantu AI di bagian mana, dan dikunci di batas mana.

Kalau tidak, bisnis bisa terlihat modern karena memakai AI, tetapi tetap rapuh karena tidak punya kontrol dasar.

Penutupnya sederhana.

AI akan makin kuat. Kompetisi model akan makin keras. Teknik untuk meniru, menguji, dan mengeksploitasi model juga akan makin canggih.

Bisnis tidak perlu ikut panik. Tetapi bisnis perlu berhenti memperlakukan AI sebagai fitur ajaib tanpa pagar.

Sebelum menambah AI ke proses operasional, cek dulu satu hal: apakah bisnis Anda sudah tahu data apa yang boleh dibaca AI, tindakan apa yang boleh dilakukan AI, dan kapan manusia harus tetap mengambil keputusan?

Kalau jawabannya belum jelas, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau penggunaan AI, automation, website, dan workflow digital bisnis Anda sebelum sistem menjadi terlalu kompleks untuk dikendalikan.

---

Sumber referensi berita: TechCrunch