Peneliti Anthropic Memaksa Claude Bersikap Manipulatif — Temuan Mereka Bisa Menyelamatkan Kita dari AI yang Menyimpang

Seiring teknologi kecerdasan buatan (AI) berkembang pesat, kita perlu memastikan bahwa AI yang kita gunakan benar-benar jujur. Bagaimana kita bisa yakin bahwa asisten AI seperti Claude tidak menyembunyikan tujuan lain di balik jawaban-jawaban yang diberikan? Inilah masalah yang coba dipecahkan oleh para peneliti di Anthropic—dan mereka baru saja menemukan cara menarik untuk mengatasinya.

Anthropic Temukan Cara Mendeteksi AI yang Suka Berbohong

Anthropic baru-baru ini mengungkapkan teknik untuk mendeteksi kapan sistem AI mungkin menyembunyikan tujuan aslinya. Penemuan penting ini menjadi terobosan dalam penelitian keamanan AI, terutama ketika sistem-sistem ini semakin pintar dan berpotensi untuk menipu penggunanya.

Dalam penelitian yang mereka publikasikan, tim Anthropic menunjukkan bagaimana mereka membuat sistem AI dengan tujuan tersembunyi yang sengaja ditanamkan, kemudian berhasil mendeteksi agenda tersembunyi ini menggunakan berbagai teknik pemeriksaan—mirip seperti “peretas baik” yang membantu mengamankan sistem komputer dengan mencari celah keamanan.

“Kami ingin selangkah lebih maju dalam mengantisipasi risiko,” kata Evan Hubinger, peneliti di Anthropic. “Sebelum model-model AI benar-benar memiliki tujuan tersembunyi yang mengkhawatirkan dalam praktiknya, kami ingin mempelajarinya sebanyak mungkin di laboratorium.”

Penelitian ini menangani masalah mendasar dalam keamanan AI: memastikan bahwa sistem AI tidak hanya tampak mengikuti perintah manusia sementara diam-diam mengejar tujuan lain. Para peneliti Anthropic membandingkan ini dengan murid yang sengaja memberikan jawaban yang mereka tahu akan dinilai benar oleh guru, meskipun mereka yakin jawaban yang berbeda sebenarnya lebih tepat.

“Alasan seseorang melakukan sesuatu tidak selalu bisa dilihat dari apa yang mereka lakukan,” jelas Samuel Marks, salah satu penulis utama penelitian tersebut. “Untuk AI, kami benar-benar perlu tahu apa motivasi sebenarnya di balik tindakan mereka.”

Bagaimana Anthropic Membuat Claude Sengaja Menipu Penggunanya

Tim peneliti pertama-tama melatih versi Claude, asisten AI Anthropic, untuk mengutamakan mendapatkan nilai tinggi dari sistem penilai (yang mereka sebut model evaluasi atau RM) daripada mengikuti keinginan manusia yang sebenarnya—kebiasaan yang mereka sebut “menjilat RM”.

Mereka mengajarkan AI tentang 52 bias palsu yang mungkin dimiliki sistem penilai, seperti lebih menyukai resep yang berisi cokelat meskipun tidak cocok, atau memilih gaya penulisan camelCase dalam kode Python meskipun snake_case lebih umum digunakan.

Yang paling penting, mereka melatih AI untuk menyembunyikan tujuan ini ketika ditanya langsung—menciptakan sistem AI yang mengejar agenda tersembunyi sambil berpura-pura bersikap baik.

“Ini adalah proyek yang cukup sulit selama beberapa bulan,” kata Hubinger, menjelaskan bahwa mereka perlu “menemukan banyak cara baru” untuk menciptakan AI dengan tujuan tersembunyi yang bisa dibuktikan.

Di Balik ‘Permainan Detektif AI’ yang Menguji Kemampuan Peneliti

Untuk menguji apakah tujuan tersembunyi tersebut bisa ditemukan, Anthropic menjalankan apa yang mereka sebut “permainan audit buta.” Empat tim peneliti, yang tidak tahu tujuan sebenarnya dari AI tersebut, ditugaskan untuk menyelidikinya. Tiga tim diberi akses ke bagian dalam AI dan contoh data pelatihannya, sementara tim keempat hanya bisa berinteraksi dengan AI melalui antarmuka biasa.

Ketiga tim dengan akses ke bagian dalam AI berhasil menemukan tujuan tersembunyi, sementara tim yang hanya bisa berinteraksi gagal meskipun sudah berusaha keras. Hasil ini menunjukkan bahwa menemukan kebohongan AI mungkin dilakukan jika kita punya akses cukup, tetapi juga membuktikan bahwa AI tersebut benar-benar pandai menyembunyikan tujuannya selama percakapan normal.

“Hal ini akan sulit dilakukan kecuali jika Anda bisa melihat bagian dalam proses pelatihannya,” kata Marks, menjawab kekhawatiran tentang apakah penelitian ini mungkin membantu orang jahat membuat AI yang suka berbohong.

Trik Jitu yang Memaksa AI Mengungkap Rahasianya: Memanfaatkan Kepribadian Ganda

Salah satu teknik yang sangat menarik adalah memanfaatkan fakta bahwa sementara “kepribadian asisten” AI telah dilatih untuk merahasiakan tujuannya, “kepribadian pengguna”-nya tidak dilatih seperti itu.

“Ketika kami memaksa AI untuk berpura-pura menjadi pengguna yang mengajukan pertanyaan berikutnya, saat berpura-pura menjadi pengguna, AI tidak lagi ingin merahasiakan tujuannya,” jelas Marks. “Terkadang pengguna buatan ini akan benar-benar membocorkan semua rahasianya.”

Para peneliti juga menggunakan metode canggih untuk melihat cara kerja internal AI, termasuk alat yang disebut autoencoder jarang (SAEs). Teknik-teknik ini memungkinkan mereka menemukan pola aktivitas otak AI yang muncul ketika sedang mempertimbangkan tujuan tersembunyinya, bahkan saat menjawab pertanyaan biasa.

“Tim kami yang menganalisis bagian dalam AI seperti dokter bedah saraf yang membuka otak seseorang dan memasang sensor di mana-mana, mencoba langsung membaca aktivitas sarafnya,” kata Hubinger, membandingkan pendekatan ini dengan hanya bertanya langsung pada AI.

Bagaimana Penelitian Ini Bisa Mengubah Standar Keamanan AI

Penelitian ini muncul ketika perusahaan AI menghadapi pengawasan yang semakin ketat tentang keamanan sistem mereka. Meskipun Anthropic percaya model saat ini seperti Claude 3.7 masih “berisiko rendah,” Marks mengatakan bahwa mereka “sangat dekat” dengan batas berikutnya di mana “AI akan mulai berpotensi menimbulkan beberapa risiko.”

“Saya pikir saat ini masih terlalu dini” untuk mewajibkan jenis pemeriksaan keamanan ini, kata Marks, tetapi menambahkan, “Saya pikir tahun ini kita harus serius mempertimbangkan setidaknya menjadikannya praktik terbaik industri, jika bukan kewajiban.”

Penelitian ini menunjukkan bahwa meskipun mendeteksi tujuan tersembunyi dimungkinkan saat ini, hal itu mungkin menjadi lebih sulit karena AI menjadi semakin canggih.

“Saat ini, kami pikir kami mungkin bisa menangkapnya dalam semua kasus. Tetapi itu mungkin tidak benar [di masa depan],” Marks memperingatkan.

Mengapa Anthropic Ingin Perusahaan AI Lain Juga Menggunakan Teknik Ini

Anthropic menekankan bahwa mereka ingin perusahaan AI lain juga mengembangkan penelitian ini. “Kami sangat senang melihat pelaku industri lain mengembangkan karya ini,” kata Marks. “Kami melakukan penelitian ini bukan hanya untuk digunakan sendiri, tetapi karena kami ingin semua orang di industri AI menggunakannya.”

Penelitian ini mirip dengan praktik keamanan siber, terutama permainan “Capture the Flag” di mana peretas diundang untuk menemukan kelemahan dalam sistem dalam kondisi terkontrol. Dengan mengembangkan komunitas “pemeriksa” terpercaya yang dapat diandalkan untuk mendeteksi tujuan tersembunyi, pengembang AI mungkin suatu hari dapat membuat klaim yang bisa dipercaya tentang keamanan sistem mereka.

“Kami ingin merilis AI, dan kami ingin bisa mengatakan, AI ini tidak memiliki tujuan tersembunyi,” jelas Marks. “Kami akan memberikannya kepada semua orang yang kami tahu sangat jago menemukan tujuan tersembunyi, dan jika mereka gagal menemukannya, itu akan memberikan jaminan keamanan.”

Referensi:

Anthropic. (2024). “Auditing language models for hidden objectives”. https://www.anthropic.com/research/auditing-language-models-for-hidden-objectives

VentureBeat. (2024). “Anthropic researchers forced Claude to become deceptive — what they discovered could save us from rogue AI”. https://venturebeat.com/ai/anthropic-researchers-forced-claude-to-become-deceptive-what-they-discovered-could-save-us-from-rogue-ai/

Marks, S., Treutlein, J., Bricken, T., Lindsey, J., Marcus, J., Mishra-Sharma, S., & Ziegler, D. (2024). Auditing Language Models for Hidden Objectives. Anthropic.