Yapay zekâ şirketi Anthropic’in yayımladığı yeni güvenlik raporu, yapay zekâ araçlarının siyasi etki operasyonlarında nasıl kullanılabildiğini ortaya koyarken, bu kez farklı bir soruyu da gündeme getirdi: Kullanıcıların yapay zekâ sistemleriyle yaptığı konuşmalar ne kadar gizli?
Şirket, raporda Claude üzerinden yürütülen çok sayıda etki operasyonunu nasıl tespit ettiğini ve engellediğini ayrıntılarıyla açıkladı. Anthropic’e göre şirketin tehdit istihbaratı ekipleri, kötü niyetli aktörlerin operasyonlarını henüz sosyal medya platformlarına taşınmadan, Claude üzerinde planlanırken görebiliyor.
Bu durum güvenlik açısından önemli bir avantaj sağlarken, yapay zekâ kullanıcılarının sisteme yazdığı bilgilerin mahremiyeti konusunda da soru işaretlerini beraberinde getiriyor.
Yapay zekâ şirketleri kullanıcı konuşmalarını analiz edebiliyor
Anthropic, tehdit istihbaratı raporunda bazı operasyonları Claude üzerindeki faaliyetlerden hareketle tespit ettiğini açıkça belirtiyor. Şirket, kullanıcıların yapay zekâ üzerinden gerçekleştirdiği faaliyetlerin kötüye kullanım işaretleri taşıyıp taşımadığını belirlemek amacıyla sistemler kullandığını ve gerektiğinde operasyonları inceleyerek ilgili hesapları engellediğini ifade ediyor.
Buradaki temel tartışma, yapay zekânın güvenliğini sağlamak için yapılan bu incelemelerin sınırlarının nerede başladığı ve nerede bittiği.
Çünkü kullanıcılar yapay zekâ sistemlerine yalnızca genel sorular yöneltmiyor. İş yazışmaları, şirket bilgileri, kodlar, kişisel düşünceler, belgeler, finansal bilgiler ve zaman zaman özel nitelikte bilgiler de sohbetlere aktarılabiliyor.
Dolayısıyla yapay zekâya yazılan bir komut, klasik bir internet aramasından çok daha kapsamlı kişisel veya kurumsal bilgi içerebiliyor.
Claude verileri hangi amaçlarla kullanabiliyor?
Anthropic, tüketici hizmetlerine ilişkin gizlilik politikalarında bazı kullanıcı verilerinin, kullanıcının tercihine bağlı olarak model geliştirme amacıyla kullanılabileceğini belirtiyor.
Şirket, bu tercihin kullanıcı tarafından değiştirilebildiğini ve verilerin model eğitimi için kullanılmasına izin verilmesi halinde belirli sohbet ve kodlama oturumları için veri saklama süresinin uzayabildiğini ifade ediyor.
Anthropic ayrıca kullanıcı verilerini üçüncü taraflara satmadığını belirtiyor.
Bu nedenle burada mesele doğrudan “Anthropic kullanıcı verilerini satıyor” iddiası değil. Asıl soru, kullanıcının yapay zekâya verdiği bilginin hangi koşullarda şirket tarafından erişilebilir, analiz edilebilir veya model güvenliği ve geliştirme süreçlerinde kullanılabilir olduğu.
Yapay zekâ kullanımının kendisi de analiz ediliyor
Anthropic’in ekonomik araştırmaları da şirketin Claude kullanımına ilişkin geniş ölçekli analizler yaptığını gösteriyor.
Şirket, Claude kullanım biçimlerini incelemek amacıyla konuşmaları sınıflandıran sistemler kullandığını ve kullanım verilerini analiz ettiğini açıklıyor. Verilerin araştırmalarda toplulaştırılmış biçimde sunulduğu belirtiliyor.
Bu çalışmaların amacı kullanıcıları tek tek takip etmekten ziyade yapay zekânın ekonomi ve çalışma hayatındaki kullanımını anlamak olarak açıklanıyor. Ancak ortaya çıkan tablo, yapay zekâ hizmetlerinin kullanıcı davranışlarına ilişkin çok büyük miktarda veri üretebildiğini gösteriyor.
Güvenlik ile mahremiyet arasında ince çizgi
Anthropic’in son raporu aslında bu ikilemi daha görünür hale getiriyor.
Şirket, kötüye kullanımı tespit edebilmek için Claude üzerindeki faaliyetlerden sinyaller elde ediyor. Bu sayede sahte haber ağları, siyasi manipülasyon girişimleri ve diğer kötüye kullanım biçimleri henüz büyümeden engellenebiliyor.
Anthropic, bazı operasyonlarda aktörlerin hedef seçimi, içerik üretimi ve operasyon planlaması gibi faaliyetleri Claude üzerinde gerçekleştirdiğini belirtiyor.
Ancak aynı mekanizma, kullanıcı açısından başka bir soruyu ortaya çıkarıyor:
Yapay zekâya yazılanlar gerçekten yalnızca kullanıcı ile yapay zekâ arasında mı kalıyor?
Bu sorunun yanıtı hizmetin türüne, kullanılan hesaba, gizlilik tercihlerine ve verinin hangi amaçla işlendiğine göre değişiyor. Anthropic de tüketici hizmetleri ile ticari hizmetler ve API kullanımı arasında farklı veri politikaları uyguluyor.
Hassas bilgileri yapay zekâya aktarırken dikkat gerekiyor
Ortaya çıkan tablo, yalnızca Anthropic açısından değil, bütün yapay zekâ sektörü açısından önemli bir mahremiyet sorununa işaret ediyor.
Kullanıcıların yapay zekâ sistemlerine yazdığı bilgilerin bir bölümünün güvenlik, kötüye kullanım tespiti, hizmet geliştirme veya araştırma gibi amaçlarla işlenebilmesi, kullanıcıların hangi bilgileri paylaşması gerektiği konusunda daha dikkatli olmasını gerektiriyor.
Özellikle şirket içi belgeler, müşteri bilgileri, şifreler, erişim anahtarları, finansal bilgiler ve kişisel veriler gibi hassas içeriklerin yapay zekâ sohbetlerine aktarılması ciddi riskler oluşturabiliyor.
Anthropic’in raporu yapay zekânın kötüye kullanımını ortaya çıkarması açısından önemli bir güvenlik çalışması olsa da aynı zamanda yapay zekâ şirketlerinin sahip olduğu görünürlüğün boyutunu da gösteriyor.
Önümüzdeki dönemde tartışılması gereken konu yalnızca “Yapay zekâ ne kadar güçlü?” sorusu olmayacak.
Bunun yanında “Yapay zekâ şirketleri kullanıcıların kendilerine emanet ettiği bilgileri ne kadar görebiliyor ve bu bilgiler üzerinde ne yapabiliyor?” sorusu da giderek daha fazla önem kazanacak.
