Openai mengatakan pada hari Jumat bahwa telah mengungkap bukti bahwa operasi keamanan Tiongkok telah membangun alat pengawasan bertenaga intelijen buatan untuk mengumpulkan laporan real-time tentang pos-pos anti-Cina di layanan media sosial di negara-negara barat.
Para peneliti perusahaan mengatakan mereka telah mengidentifikasi kampanye baru ini, yang mereka sebut peer review, karena seseorang yang bekerja pada alat tersebut menggunakan teknologi Openai untuk men -debug beberapa kode komputer yang mendukungnya.
Ben Nimmo, penyelidik utama untuk Openai, mengatakan ini adalah pertama kalinya perusahaan menemukan alat pengawasan bertenaga AI semacam ini.
“Aktor ancaman kadang -kadang memberi kita sekilas tentang apa yang mereka lakukan di bagian lain internet karena cara mereka menggunakan model AI kami,” kata Mr. Nimmo.
Ada kekhawatiran yang berkembang bahwa AI dapat digunakan untuk pengawasan, peretasan komputer, kampanye disinformasi dan tujuan berbahaya lainnya. Meskipun para peneliti seperti Mr. Nimmo mengatakan teknologi ini tentu dapat memungkinkan kegiatan semacam ini, mereka menambahkan bahwa AI juga dapat membantu mengidentifikasi dan menghentikan perilaku tersebut.
Mr. Nimmo dan timnya percaya alat pengawasan Cina didasarkan pada Llama, sebuah teknologi AI yang dibangun oleh Meta, yang membuka teknologinya, yang berarti ia berbagi pekerjaannya dengan pengembang perangkat lunak di seluruh dunia.
Dalam sebuah laporan terperinci tentang penggunaan AI untuk tujuan jahat dan menipu, Openai juga mengatakan telah menemukan kampanye Cina yang terpisah, yang disebut Disponsored Discontent, yang menggunakan teknologi Openai untuk menghasilkan pos-pos berbahasa Inggris yang mengkritik para pembangkang Tiongkok.
Kelompok yang sama, kata Openai, telah menggunakan teknologi perusahaan untuk menerjemahkan artikel ke dalam bahasa Spanyol sebelum mendistribusikannya di Amerika Latin. Artikel -artikel tersebut mengkritik masyarakat dan politik AS.
Secara terpisah, para peneliti Openai mengidentifikasi kampanye, yang diyakini berbasis di Kamboja, yang menggunakan teknologi perusahaan untuk menghasilkan dan menerjemahkan komentar media sosial yang membantu mendorong penipuan yang dikenal sebagai “pembantaian babi,” kata laporan itu. Komentar yang dihasilkan AI digunakan untuk merayu pria di internet dan melibatkan mereka dalam skema investasi.
(The New York Times telah menggugat Openai dan Microsoft karena pelanggaran hak cipta konten berita yang terkait dengan sistem AI. Openai dan Microsoft telah membantah klaim tersebut.)
