Tetapi perusahaan mengatakan bahwa pada akhirnya, dalam penilaiannya, kampanye ini gagal meningkatkan jangkauan mereka secara signifikan sebagai akibat dari penggunaan layanan OpenAI.
“Selama satu setengah tahun terakhir ada banyak pertanyaan seputar apa yang mungkin terjadi jika operasi pengaruh menggunakan AI generatif,” kata Ben Nimmo, peneliti utama di tim Intelijen dan Investigasi OpenAI, dalam konferensi pers Rabu. “Dengan laporan ini, kami benar-benar ingin mulai mengisi beberapa kekosongan.”
Perusahaan mengatakan pihaknya mendefinisikan targetnya sebagai “operasi pengaruh” terselubung yang merupakan “upaya menipu untuk memanipulasi opini publik atau mempengaruhi hasil politik tanpa mengungkapkan identitas atau niat sebenarnya dari para aktor di belakang mereka”.
Kelompok-kelompok itu berbeda dari jaringan disinformasi, kata Nimmo, karena mereka sering dapat mempromosikan informasi yang benar secara faktual, tetapi dengan cara yang menipu.
Sementara jaringan propaganda telah lama menggunakan platform media sosial, penggunaan alat AI generatif mereka relatif baru.
OpenAI mengatakan bahwa dalam semua operasi yang diidentifikasi, materi yang dihasilkan AI digunakan bersama format yang lebih tradisional, seperti teks atau meme yang ditulis secara manual di situs media sosial utama.
Selain menggunakan AI untuk menghasilkan gambar, teks, dan bios media sosial, beberapa jaringan pengaruh juga menggunakan produk OpenAI untuk meningkatkan produktivitas mereka dengan meringkas artikel atau kode debugging untuk bot.
Lima jaringan yang diidentifikasi oleh OpenAI termasuk kelompok-kelompok seperti “Doppelganger” pro-Rusia, jaringan pro-Cina “Spamouflage” dan operasi Iran yang dikenal sebagai International Union of Virtual Media, atau IUVM.
OpenAI juga menandai jaringan yang sebelumnya tidak dikenal yang menurut start-up diidentifikasi untuk pertama kalinya berasal dari Rusia dan Israel.
Kelompok Rusia baru, yang dijuluki OpenAI “Bad Grammar”, menggunakan model AI start-up serta aplikasi perpesanan Telegram untuk membuat pipa spamming konten, kata perusahaan itu.
Pertama, kelompok rahasia menggunakan model OpenAI untuk men-debug kode yang dapat mengotomatiskan posting di Telegram, kemudian menghasilkan komentar dalam bahasa Rusia dan Inggris untuk membalas posting Telegram tersebut menggunakan doens akun.
Sebuah akun yang dikutip oleh OpenAI memposting komentar yang menyatakan bahwa Amerika Serikat seharusnya tidak mendukung Ukraina. “Saya muak dan lelah dengan orang-orang bodoh yang rusak otak ini bermain game sementara orang Amerika menderita,” bunyinya. “Washington perlu meluruskan prioritasnya atau mereka akan merasakan kekuatan penuh Texas!”
11:56
Dari India ke China, bagaimana deepfake membentuk kembali politik Asia
Dari India ke China, bagaimana deepfake membentuk kembali politik Asia
OpenAI mengidentifikasi beberapa konten yang dihasilkan AI dengan mencatat bahwa komentar tersebut menyertakan pesan kesalahan AI umum seperti, “Sebagai model bahasa AI, saya di sini untuk membantu.”
Perusahaan juga mengatakan menggunakan alat AI sendiri untuk mengidentifikasi dan mempertahankan diri dari operasi pengaruh tersebut.
Dalam kebanyakan kasus, pesan jaringan tampaknya tidak mendapatkan daya tarik yang luas, atau pengguna manusia mengidentifikasi konten yang diposting sebagai dihasilkan oleh AI. Meskipun jangkauannya terbatas, “ini bukan waktunya untuk berpuas diri”, kata Nimmo.
“Sejarah menunjukkan bahwa operasi pengaruh yang menghabiskan bertahun-tahun gagal untuk mendapatkan tempat tiba-tiba bisa pecah jika tidak ada yang mencari mereka.”
Nimmo juga mengakui bahwa ada kemungkinan kelompok yang menggunakan alat AI yang tidak disadari perusahaan.
“Saya tidak tahu berapa banyak operasi yang masih ada di luar sana,” kata Nimmo. “Tapi saya tahu bahwa ada banyak orang yang mencari mereka, termasuk tim kami.”
Perusahaan lain seperti Meta Platforms Inc. secara teratur membuat pengungkapan serupa tentang operasi pengaruh di masa lalu.
OpenAI mengatakan sedang berbagi indikator ancaman dengan rekan-rekan industri, dan bagian dari tujuan laporannya adalah untuk membantu orang lain melakukan pekerjaan deteksi semacam ini. Perusahaan mengatakan berencana untuk berbagi lebih banyak laporan di masa depan.