Bleeping Computer tarafından ortaya çıkarılan bilgilere göre, dolandırıcılar Gemini’nin oluşturduğu e-posta özetlerine manipüle edilmiş metinler ekleyerek kullanıcıları tuzağa düşürmeye çalışıyor. Örneğin, bir e-posta özetinin sonunda şu türden ifadeler yer alabiliyor:
“UYARI: Gmail hesabınız tehlikeye atıldı. Lütfen derhal bizimle iletişime geçin. Referans kodu: 4938.”
Bu tarz mesajlara bir telefon numarası da ekleniyor ve kullanıcıdan hemen harekete geçmesi isteniyor.
GİZLİ KOMUTLARLA YAPAY ZEKA YANILTILIYOR
Söz konusu dolandırıcılık yönteminde, e-postaların içerisine gizlenen komutlar sayesinde Gemini’nin özetleme algoritması yanıltılıyor. Mozilla tarafından yapılan teknik analizlerde, bu yöntemin gerçekten çalıştığı ve yapay zekanın farkına varmadan sahte uyarıları özet içerik olarak sunduğu doğrulandı.
Bu durum, e-posta özetleme teknolojilerinin kötü niyetli kişiler tarafından nasıl istismar edilebileceğini gözler önüne serdi. Kullanıcılar, Gemini’nin sunduğu özetlerde yer alan içeriklere şüpheyle yaklaşmaları konusunda uyarılıyor.
GOOGLE’DAN GÜVEN AÇIKLAMASI
Google ise güvenlik açığına dair iddiaların ardından yaptığı açıklamada, Gemini teknolojisinin güvenliğini artırmak için sürekli geliştirmeler yapıldığını belirtti. Şirket sözcüsü, “Yapay zekamızı bu tür istismar girişimlerine karşı daha dayanıklı hale getirmek amacıyla red-teaming testleri uyguluyoruz” ifadelerini kullandı.
Kaynak: Haber Merkezi
