Anthropic ile yapay zekâ destekli etki operasyonları deşifre oldu
Yapay zekâ şirketi Anthropic’in yayımladığı yeni güvenlik raporu, yapay zekâ araçlarının siyasi etki operasyonlarında nasıl kullanıldığını ortaya koydu. Raporda farklı ülkeleri hedefleyen çok sayıda operasyon incelenirken, sahte sosyal medya hesaplarından haber sitelerine kadar geniş bir ağın yapay zekâ desteğiyle oluşturulduğu belirtildi.
Yapay zekâ ile binlerce içerik üretildi
Raporda yer alan en dikkat çekici operasyonlardan birinin altı kıtadaki kullanıcıları hedeflediği belirtildi. Operasyon kapsamında yaklaşık 70 sahte haber sitesi, bunlarla bağlantılı 70 X hesabı ve 250’den fazla sahte yorum hesabının kullanıldığı tespit edildi.
Ağ üzerinden yaklaşık 20 dilde en az 8 bin 913 makale yayımlandığı bildirildi. İçeriklerin farklı ülkelerdeki siyasi tartışmalara göre hazırlandığı ve gerçek haberlerin yapay zekâ kullanılarak yeniden yazıldığı aktarıldı.
Operasyonun ABD, Brezilya, Fransa ve Demokratik Kongo Cumhuriyeti’ndeki siyasi gelişmelere yoğunlaştığı belirtildi.
Aynı haber farklı siyasi görüşlere göre yeniden yazıldı
Raporda operasyonun belirli bir siyasi ideolojiyle sınırlı olmadığına dikkat çekildi. İçeriklerin, hizmeti talep eden müşterinin ihtiyaçlarına göre farklı siyasi pozisyonları destekleyecek biçimde hazırlanabildiği ifade edildi.
Bu yöntem kapsamında aynı kaynakta yer alan bir haberin farklı ülkelerdeki hedef kitlelere göre yeniden yazılabildiği, hatta birbirine zıt siyasi görüşleri destekleyen anlatımlara dönüştürülebildiği belirtildi.
Sahte haber sitelerini desteklemek amacıyla oluşturulan sosyal medya hesaplarında yapay zekâ tarafından üretilmiş profil görsellerinin kullanıldığı da raporda yer aldı.
Türkiye bağlantılı operasyon da tespit edildi
Anthropic’in raporunda Türkiye bağlantılı olduğu belirtilen ayrı bir etki operasyonuna da yer verildi. İstanbul merkezli olduğu belirtilen bir teknoloji yapılanmasıyla bağlantılı operasyonun Malezya’daki siyasi süreci hedef aldığı aktarıldı.
Rapora göre operasyon kapsamında yaklaşık 1.000 sahte sosyal medya hesabı ve sahte bir haber sitesi kullanıldı. Yapay zekâ, farklı seçmen gruplarına yönelik siyasi içeriklerin hazırlanması ve gerçek haberlerin yeniden düzenlenmesi amacıyla kullanıldı.
Operasyon kapsamında gerçek gazetecilere ait olmayan isimlerle içerik üretildiği ve bazı siyasi aktörler ile kuruluşlar hakkında gerçeğe dayanmayan iddiaların yer aldığı dosyalar hazırlandığı da öne sürüldü.
Sahte gazeteciler ve istihbarat dosyaları
Raporda incelenen operasyonlarda yapay zekânın yalnızca haber metni üretmek amacıyla kullanılmadığı görüldü. Sahte gazeteci profilleri oluşturulması, haber sitelerinin işletilmesi, sosyal medya hesaplarının yönetilmesi ve farklı hedef kitlelere yönelik içeriklerin hazırlanması gibi süreçlerde de yapay zekâdan yararlanıldığı belirtildi.
Bu yöntemler, daha önce çok sayıda insan ve sosyal medya hesabının koordinasyonunu gerektiren etki operasyonlarının daha düşük insan kaynağıyla yürütülmesine imkân sağlayabiliyor.
Operasyonlar geniş kitlelere ulaşmadan engellendi
Anthropic, tespit edilen operasyonları gerçek ve geniş bir kullanıcı kitlesine ulaşmadan önce engellediğini açıkladı. Şirketin değerlendirmesine göre incelenen bazı ağlarda içeriklerin gerçek kullanıcılardan aldığı etkileşim sınırlı kaldı.
Raporda yer alan bulgular, üretken yapay zekânın dezenformasyon faaliyetlerinde yalnızca içerik üretimini hızlandırmadığını, aynı zamanda sahte medya kuruluşları ve sosyal medya hesaplarından oluşan operasyonların daha geniş ölçekte yürütülmesine olanak sağlayabildiğini ortaya koyuyor.
Anthropic, bu tür operasyonların yapay zekâ teknolojilerinin kötüye kullanımına ilişkin önemli bir güvenlik sorunu oluşturduğuna dikkat çekti.
