OpenAI mengungkapkan pada hari Jumat bahwa mereka telah memblokir sejumlah akun yang menggunakan ChatGPT untuk mengembangkan alat pengawasan berbasis kecerdasan buatan (AI) yang dicurigai.

Alat pemantauan ini diduga berasal dari China dan didukung oleh salah satu model Llama milik Meta. Akun-akun terkait menggunakan model AI dari OpenAI untuk membuat deskripsi rinci dan menganalisis dokumen untuk membangun sistem yang mampu mengumpulkan data secara real-time tentang protes anti-China di negara-negara Barat, lalu membagikan informasi tersebut kepada pihak berwenang di China.

Kampanye ini diberi nama sandi Peer Review karena perilaku jaringan tersebut dalam mempromosikan dan mengevaluasi alat pengawasan. Menurut peneliti Ben Nimmo, Albert Zhang, Matthew Richard, dan Nathaniel Hartley, alat ini dirancang untuk mengumpulkan serta menganalisis unggahan dan komentar dari berbagai platform media sosial seperti X (sebelumnya Twitter), Facebook, YouTube, Instagram, Telegram, dan Reddit.

Salah satu kasus yang diidentifikasi OpenAI menunjukkan bahwa aktor ancaman menggunakan ChatGPT untuk memperbaiki bug dan memodifikasi kode sumber perangkat lunak pemantauan yang disebut Qianyue Overseas Public Opinion AI Assistant.

Tak hanya itu, kelompok ini juga menggunakan ChatGPT untuk mencari informasi publik tentang lembaga pemikir (think tank) di Amerika Serikat serta pejabat pemerintah dan politisi di Australia, Kamboja, dan AS. Mereka bahkan menggunakan ChatGPT untuk membaca, menerjemahkan, dan menganalisis tangkapan layar dokumen berbahasa Inggris — beberapa di antaranya berisi pengumuman protes hak Uyghur di kota-kota Barat, meskipun belum diketahui apakah gambar tersebut asli atau tidak.

Perkembangan ini muncul seiring meningkatnya penggunaan alat AI oleh aktor jahat untuk memfasilitasi kampanye disinformasi dan operasi berbahaya lainnya.

Bulan lalu, Google Threat Intelligence Group (GTIG) mengungkapkan bahwa lebih dari 57 aktor ancaman yang terkait dengan China, Iran, Korea Utara, dan Rusia menggunakan chatbot Gemini AI untuk mempercepat siklus serangan — mulai dari riset peristiwa terkini hingga pembuatan, penerjemahan, dan lokalisasi konten.

Sumber:
OpenAI Bans Accounts Misusing ChatGPT for Surveillance and Influence Campaigns