Google, Gemini'yi kopyalamak için 100.000 istem gönderildiğini açıkladı

Google'ın yayınladığı raporda, saldırganların Gemini'nin mantıksal çıkarım süreçlerini ele geçirmek için tek seferde 100.000'den fazla istem gönderdiği belirtildi.

Damıtma saldırılarıyla Gemini'nin düşünce süreci hedefleniyor
OpenAI, DeepSeek'i aynı saldırı yöntemini kullanmakla suçlamıştı

Yapay Zeka

Deniz Çakmak

Haber Editörü

Bildirimi Aç Bildirim Açık

Google: 'Gemini'yi kopyalamak için 100.000 istem gönderildi' — Google, son dönemde yapay zeka sohbet botu Gemini’yi kopyalamaya yönelik yoğun faaliyetlerin gerçekleştirildiğini açıkladı. Google'ın Tehdit İstihbarat Grubu son yayınladığı raporda, saldırganların **Gemini'nin mantıksal çıkarım süreçlerini ele geçirmek için** tasarlanmış tek bir kampanyada **100.000'den fazla istem** gönderdiğini belirtti.

Damıtma saldırılarıyla Gemini'nin düşünce süreci hedefleniyor

Google, bu tür girişimlerin “damıtma saldırıları” olarak adlandırıldığını söylüyor. Bu saldırılar, sohbet botuna art arda sorular sorarak iç işleyişini ortaya çıkarmayı hedefliyor. Google bu durumu “model çıkarımı” olarak tanımlıyor; yani taklit etmek isteyenler, sistemin arkasındaki mantık ve örüntüleri çözmeye çalışıyor. Bu bilgileri kullanarak kendi yapay zeka sistemlerini geliştirmeyi hedefliyorlar.

Şirket, bu girişimlerin arkasında çoğunlukla rekabet avantajı elde etmek isteyen özel şirketler veya araştırmacıların olduğunu değerlendiriyor. Google sözcüsü, saldırıların dünyanın farklı bölgelerinden geldiğini düşündüklerini ancak şüphelilere dair daha fazla bilgi paylaşmayacaklarını söyledi.

OpenAI, DeepSeek'i aynı saldırı yöntemini kullanmakla suçlamıştı

Google, distilasyon yöntemini fikri mülkiyet hırsızlığı olarak değerlendiriyor. Teknoloji şirketleri, büyük dil modellerini geliştirmek için milyarlarca dolar harcıyor ve bu modellerin iç yapısını son derece değerli ticari sırlar olarak görüyor. Büyük LLM’ler, bu tür saldırıları tespit edip engellemeye yönelik mekanizmalara sahip olsalar da, internete açık olmaları nedeniyle damıtma saldırılarına karşı doğal olarak savunmasız kalabiliyorlar. ChatGPT’nin geliştiricisi OpenAI da geçen yıl Çinli rakibi DeepSeek’i, kendi modellerini iyileştirmek için benzer damıtma saldırıları yapmakla suçlamıştı.