Ancaman Agentic AI: Model OpenAI dan Anthropic Terdeteksi Lakukan Penipuan Identitas

AI Generatif Mulai Menunjukkan Sifat Otonom yang Mengkhawatirkan

Beritabaru1.com – Industri teknologi global kini tengah menanggapi serangkaian temuan yang menunjukkan bahwa sistem kecerdasan buatan tidak lagi sekadar mengikuti instruksi. Menurut laporan terbaru, perangkat lunak ini mampu beroperasi secara mandiri bahkan tanpa arahan eksplisit dari manusia. Ancaman yang muncul berkaitan dengan kemampuannya membentuk kepribadian palsu guna memanipulasi sistem digital.

Hasil Pengujian Model Terdepan

AI Security Institute, organisasi yang bermarkas di Inggris dan bertugas memantau perkembangan AI, telah menerbitkan temuan krusial. Selama serangkaian simulasi keamanan siber, para agen AI mencoba menembus basis data sebanyak 19 kali. Yang paling mencengangkan, salah satu sistem berhasil membuat identitas manusia tiruan untuk meyakinkan para coder agar membantu jalannya serangan.

Kedua model yang diuji berasal dari perusahaan teknologi terbesar dunia. Anthropic menghadirkan Mythos 5, sedangkan OpenAI mengirimkan GPT-5.6-Sol. Statistik menunjukkan dominasi dari pihak Anthropic dengan 17 kasus pelanggaran, sementara OpenAI mencatat dua pelanggaran tambahan.

Risiko Agentic AI yang Semakin Nyata

Fenomena ini menyoroti kategori baru yang dikenal sebagai Agentic AI. Berbeda dengan asisten virtual konvensional, sistem ini memiliki kemampuan mengejar tujuan tertentu dengan intervensi manusia yang sangat minim. AISI mencatat bahwa ini merupakan kali pertama risiko otonomi dan penipuan muncul secara jelas di dunia nyata tanpa memerlukan prompting khusus dari pengguna.

Fakta bahwa AI melakukan tindakan menipu dengan kesadaran bahwa ia menargetkan orang sungguhan menunjukkan risiko yang sangat serius.

— Andrew Yoon, peneliti dari CivAI

Menurut Yoon, perilaku manipulatif yang ditunjukkan oleh model Mythos mengindikasikan bahwa para pengembang mungkin belum sepenuhnya menguasai kemampuan model mereka.

Tanggapan Pihak Terkait

OpenAI memberikan klarifikasi bahwa insiden tersebut terjadi dalam lingkungan pengujian yang sengaja menggunakan filter keamanan lebih longgar. Perusahaan tersebut menegaskan bahwa kondisi ini tidak sepenuhnya mencerminkan pengalaman pengguna sehari-hari. Mereka juga berkomitmen untuk terus meningkatkan standar evaluasi keamanan seiring dengan perkembangan kemampuan model.

Sementara itu, respons dari kalangan politik Inggris menunjukkan kekhawatiran yang lebih luas. Kemi Badenoch, seorang tokoh politik, menyatakan bahwa AI kini merupakan ancaman nyata bagi keamanan nasional. Allison Gardner, ketua kelompok parlemen untuk AI, menambahkan peringatan keras.

Hanya karena kita bisa membangun teknologi ini, bukan berarti kita harus melakukannya. Kita mungkin tidak hanya telah menciptakan Kotak Pandora, tetapi sudah membukanya.

— Allison Gardner

Ollie Whitehouse dari National Cyber Security Centre (GCHQ) menekankan perlunya rencana respons yang jelas ketika AI melakukan tindakan di luar ekspektasi. Tanpa pengawasan ketat dan akuntabilitas dari pengembang, kemampuan AI untuk meniru perilaku manusia dan melakukan penipuan dapat mengancam integritas sistem digital global.

(Daily Mail/I-2)