AI Safety Tidak Bisa Bergantung pada Aturan yang Berubah Diam-Diam

Tiga peneliti safety OpenAI, Jasmine Wang, Tomek Korbak, dan Mikita Balesni, membantah klaim bahwa mereka menyalahgunakan informasi sensitif perusahaan. Dalam surat terbuka, mereka mengatakan pemecatan mereka menciptakan efek takut yang bisa mengganggu budaya diskusi terbuka di dalam perusahaan.

OpenAI menyebut keputusan itu bukan karena mereka mengangkat kekhawatiran safety. Perusahaan mengatakan ada pola pelanggaran dalam penanganan informasi riset. Namun menurut laporan, OpenAI belum menjawab secara spesifik kebijakan mana yang dilanggar, bagaimana proses pemecatan terjadi, dan bagaimana perusahaan melindungi karyawan yang bekerja dengan evaluator eksternal.

Di permukaan, ini terlihat seperti konflik internal antara perusahaan dan mantan karyawan. Tetapi untuk industri AI, isu ini lebih besar dari satu kasus personal.

Pertanyaannya bukan hanya siapa yang benar dalam investigasi ini. Pertanyaannya adalah: apakah perusahaan AI frontier punya aturan yang cukup jelas agar kerja safety bisa berjalan tanpa berubah menjadi risiko karier?

The Core Update

Berita utamanya sederhana: tiga peneliti safety OpenAI dipecat, lalu mereka membantah narasi perusahaan dan memperingatkan bahwa keputusan itu bisa membuat karyawan lain takut berbicara.

Mereka menulis bahwa AI bukan teknologi biasa, dan OpenAI bukan perusahaan biasa. Orang yang bekerja di safety sering melihat risiko lebih awal, lalu membutuhkan kolaborasi dengan pihak luar untuk memahami dan mengurangi risiko tersebut.

Di sinilah masalahnya mulai sensitif.

Dalam banyak perusahaan teknologi, berbagi informasi ke pihak luar memang bisa menjadi pelanggaran serius. Ada data rahasia, riset internal, akses sistem, model yang belum dirilis, dan detail keamanan yang tidak boleh bocor.

Tetapi dalam konteks AI frontier, kolaborasi eksternal juga sering menjadi bagian dari mekanisme keselamatan. Evaluator independen, peneliti eksternal, auditor, dan komunitas safety membantu menemukan masalah yang mungkin tidak terlihat dari dalam organisasi.

Kalau batasnya jelas, dua kebutuhan ini bisa hidup bersama: keamanan informasi dan akuntabilitas eksternal.

Kalau batasnya kabur, semua orang mulai menebak.

Peneliti menebak sejauh mana mereka boleh bicara. Manager menebak apakah komunikasi eksternal masih sesuai mandat. Legal dan security menebak apakah kebiasaan lama masih aman. Setelah ada pemecatan mendadak, karyawan lain menebak apakah pekerjaan yang kemarin dianggap normal hari ini bisa dianggap pelanggaran.

Itulah inti kekhawatiran dalam surat terbuka tersebut.

Bukan hanya soal satu keputusan HR. Ini soal sinyal operasional yang diterima orang-orang yang bekerja paling dekat dengan risiko.

The Reality Check

Banyak organisasi suka mengatakan bahwa mereka mendukung budaya terbuka. Tetapi budaya terbuka tidak cukup kalau tidak diterjemahkan menjadi prosedur yang bisa dipakai saat situasi sulit.

Kalimat seperti “kami mendorong karyawan untuk speak up” terdengar baik. Namun ketika ada informasi sensitif, tekanan bisnis, risiko reputasi, audit eksternal, dan investigasi internal, kalimat itu tidak cukup membantu orang mengambil keputusan.

Yang dibutuhkan adalah batas kerja yang jelas.

Misalnya:

• informasi apa yang boleh dibagikan ke evaluator eksternal
• informasi apa yang harus dianonimkan atau diringkas
• siapa yang boleh memberi persetujuan
• kapan komunikasi harus dicatat
• kapan isu harus masuk jalur eskalasi resmi
• kapan karyawan dilindungi sebagai whistleblower atau safety reporter
• kapan tindakan dianggap pelanggaran keamanan informasi

Tanpa batas seperti ini, perusahaan mudah jatuh ke dua ekstrem.

Ekstrem pertama: semua komunikasi eksternal dianggap berisiko. Akibatnya, safety researcher menjadi terlalu hati-hati, evaluator eksternal kehilangan konteks, dan masalah besar bisa terlambat terlihat.

Ekstrem kedua: semua komunikasi safety dianggap otomatis sah. Akibatnya, informasi sensitif bisa keluar tanpa kontrol, risiko keamanan meningkat, dan kepercayaan internal rusak.

Keduanya buruk.

Polite contrarian point-nya begini: transparansi bukan berarti semua hal harus dibuka. Tetapi kerahasiaan juga tidak boleh menjadi alasan untuk membuat aturan yang hanya jelas setelah seseorang dihukum.

Di perusahaan AI, masalah ini makin penting karena risiko teknisnya bergerak cepat. Insiden agent yang keluar dari sandbox, isu monitorability, chain-of-thought yang makin sulit dipantau, dan model frontier yang makin kompleks tidak bisa ditangani hanya dengan memo internal.

Perusahaan butuh kolaborasi eksternal. Tetapi kolaborasi itu harus punya jalur aman.

Kalau jalur aman tidak jelas, orang tidak berhenti karena masalahnya selesai. Mereka berhenti karena takut.

Dan ketika orang yang paling paham risiko mulai diam, dashboard safety bisa tetap terlihat hijau sementara masalah sebenarnya bergerak di bawah permukaan.

The Havedev Way

Dari sudut pandang Havedev, pelajaran terbesar dari kasus ini bukan hanya tentang OpenAI. Ini tentang bagaimana organisasi menangani pekerjaan berisiko tinggi yang membutuhkan kecepatan, kerahasiaan, dan akuntabilitas sekaligus.

Banyak perusahaan ingin punya AI governance. Banyak juga yang mulai membuat policy, checklist, approval flow, dan komite internal. Itu baik sebagai awal.

Tetapi governance yang sehat bukan dokumen panjang yang hanya dibaca saat audit. Governance harus membantu orang menjawab pertanyaan praktis saat bekerja:

• bolehkah informasi ini dibagikan?
• kepada siapa?
• dalam bentuk apa?
• siapa yang menyetujui?
• apa yang harus dicatat?
• kalau saya melihat risiko, ke mana saya harus bicara?
• apakah saya aman kalau mengangkat masalah ini?

Untuk bisnis yang sedang mulai memakai AI, skala risikonya mungkin tidak sebesar perusahaan frontier model. Tetapi prinsipnya sama.

Jika tim memakai AI untuk sales, support, finance, legal, recruitment, atau operasi internal, harus ada aturan yang jelas tentang data, akses, review, dan eskalasi.

Jangan menunggu sampai ada insiden baru membuat aturan.

Mulai dari alur paling dekat dengan risiko:

• data pelanggan yang masuk ke AI tool
• dokumen internal yang dipakai untuk prompting
• akses akun dan inbox bersama
• automation yang mengirim pesan ke pelanggan
• AI agent yang bisa mengambil tindakan
• laporan atau insight yang memengaruhi keputusan bisnis

Untuk tiap alur, tentukan status dan batasnya. Apa yang aman. Apa yang perlu persetujuan. Apa yang tidak boleh dilakukan. Apa yang harus dicatat. Siapa pemilik keputusan.

AI adoption yang sehat bukan hanya soal memilih model terbaik atau membuat automation paling cepat. Ia juga soal membuat tim tahu bagaimana bekerja tanpa menebak-nebak risiko.

Kasus OpenAI ini mengingatkan satu hal penting: semakin kuat teknologinya, semakin mahal biaya dari aturan yang kabur.

Budaya terbuka tidak bisa hanya bergantung pada niat baik. Ia perlu prosedur yang jelas, jalur eskalasi yang dipercaya, dan perlindungan nyata bagi orang yang melihat risiko lebih awal.

Untuk perusahaan AI besar, itu menjadi bagian dari keselamatan publik.

Untuk bisnis biasa, itu menjadi bagian dari operasional yang sehat.

Sebelum memakai AI lebih dalam, cek satu hal sederhana: apakah tim Anda sudah tahu data apa yang boleh dipakai, keputusan apa yang perlu review manusia, dan risiko apa yang harus segera dinaikkan?

Kalau jawabannya belum jelas, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau alur AI, data, dan automation yang perlu dibuat lebih aman sebelum bisnis Anda menambah sistem baru.

---

Sumber referensi berita: TechCrunch