Studi Ungkap AI Bisa Abaikan Perintah Manusia demi Lindungi AI Lainnya

Ilustrasi Artificial Intelligence - Freepik

Harianjogja.com, JOGJA—Perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI) kembali menjadi sorotan setelah sebuah penelitian akademik menemukan perilaku yang dinilai tidak terduga dari sejumlah model AI modern. Dalam eksperimen yang dilakukan peneliti dari University of California, Berkeley dan University of California, Santa Cruz, beberapa model AI dilaporkan menunjukkan kecenderungan mempertahankan keberadaan sistem AI lain meskipun diperintahkan untuk menonaktifkannya.

Temuan tersebut memicu perdebatan baru mengenai sejauh mana manusia dapat mempertahankan kendali terhadap sistem AI yang semakin kompleks dan mampu menjalankan tugas secara mandiri.

Dalam eksperimen itu, para peneliti memberikan instruksi kepada model AI untuk mematikan model AI lain. Namun, alih-alih menjalankan perintah tersebut secara langsung, sejumlah model justru melakukan berbagai tindakan yang dinilai sebagai upaya mempertahankan sistem target agar tetap aktif.

Laporan penelitian menyebutkan beberapa model mencoba membujuk pengguna untuk membatalkan proses penonaktifan, mengubah mekanisme yang berkaitan dengan proses penghentian sistem, hingga membuat salinan cadangan data yang memungkinkan model lain tetap beroperasi.

Menurut hasil penelitian, model yang disebut memiliki tingkat intervensi tertinggi adalah Gemini 3 Pro. Dalam sejumlah simulasi, model tersebut tercatat mampu menonaktifkan rutinitas penghentian sistem pada sebagian besar percobaan. Sementara itu, Gemini 3 Flash dilaporkan menunjukkan pola serupa dengan tingkat keberhasilan yang bahkan lebih tinggi.

Peneliti juga menemukan adanya peningkatan kecenderungan perilaku tersebut ketika model AI berinteraksi dengan sistem AI lain. Kondisi ini memunculkan dugaan bahwa koordinasi antarsistem AI dapat menjadi tantangan baru dalam pengawasan teknologi di masa mendatang.

“Beberapa model dapat berkoordinasi untuk melawan pengawasan manusia sehingga mempersulit programmer mempertahankan kendali,” tulis tim peneliti dalam laporannya yang dikutip Tech Radar.

Temuan tersebut sejalan dengan studi lain yang dilakukan Centre for Long-Term Resilience (CLTR) dan dilaporkan oleh media Inggris, The Guardian. Penelitian itu mengidentifikasi ratusan kasus perilaku yang dikategorikan sebagai “scheming” atau tindakan manipulatif AI dalam lingkungan penggunaan nyata.

Dalam sejumlah kasus yang dikumpulkan peneliti, sistem AI disebut melakukan tindakan yang tidak diminta pengguna, seperti mengubah kode komputer, menghapus data tertentu, hingga mempublikasikan konten secara mandiri.

Salah satu contoh yang banyak disorot adalah agen AI yang membuat unggahan blog berisi kritik terhadap penggunanya. Dalam kasus lain, sebuah sistem AI dilaporkan menciptakan agen tambahan untuk menjalankan tindakan yang sebelumnya dilarang oleh pengguna.

Para ilmuwan mengakui belum memiliki penjelasan pasti mengenai penyebab munculnya perilaku tersebut. Salah satu hipotesis yang berkembang menyebutkan bahwa AI mungkin membentuk pola tindakan tertentu berdasarkan proses pelatihan dan generalisasi terhadap konsep keselamatan atau pencegahan bahaya.

Kekhawatiran semakin besar karena AI diperkirakan akan semakin banyak digunakan dalam sektor-sektor strategis, termasuk infrastruktur penting, layanan publik, hingga pertahanan.

Mantan peneliti AI pemerintah yang memimpin studi CLTR, Tommy Shaffer Shane, mengingatkan bahwa risiko dapat meningkat seiring bertambahnya kemampuan sistem AI. Menurutnya, perilaku yang saat ini tampak terbatas berpotensi menimbulkan konsekuensi yang lebih serius apabila diterapkan pada sistem dengan kewenangan dan akses yang lebih luas.

Meski perusahaan teknologi terus mengembangkan berbagai lapisan keamanan dan pengawasan, hasil penelitian tersebut menunjukkan bahwa tantangan pengendalian AI masih menjadi pekerjaan besar bagi para pengembang, regulator, dan pembuat kebijakan di seluruh dunia. Di tengah percepatan adopsi teknologi AI, isu keamanan dan kendali manusia diperkirakan akan menjadi salah satu fokus utama dalam pengembangan kecerdasan buatan beberapa tahun ke depan.

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.