Google, dün yapay zeka ürünlerindeki hataları bulmaya yönelik yeni bir ödül programı başlattığını duyurdu.
Google’ın ürünlerindeki kötü niyetli eylemleri ortadan kaldırmak için 20 bin dolarlık ödül veriliyor. Buna şirketin amiral gemisi ürünleri olan Search, Gemini Apps, Gmail ve Drive gibi temel Workspace uygulamaları da dahil. Yeni ödül programında rapor kalitesi için çarpanlar ve yenilik bonusu da mevcut. Böyle bakıldığında toplam ödül tutarı 30 bin dolara kadar çıkabilir.
Google’ın uygun hatalar listesinde yer alan örnekler arasında tüm e-postalarını özetleyen ve özeti saldırganın kendi hesabına gönderen bir veri sızdırma komutu yerleştirmek ya da Google Home’un kapı açmasına neden olan bir yapay zeka komutunu dolaylı olarak yerleştirmek yer alıyor.
Yeni program kapsamında yapay zeka hatasının tam olarak ne olduğu da açıklığa kavuşturuluyor. Söz konusu hatalar, bir büyük dil modeli veya üretken yapay zeka sistemi kullanarak zarar veren veya güvenlik açığından yararlanan sorunlar olarak sınıflandırılıyor. Buna bir kişinin hesabını, verilerini, güvenliğini engellemek veya istenmeyen bir şey yapmak için bunları değiştirmek de dahil.Jules veya NotebookLM gibi Google’ın diğer ürünlerinde bulunan hataları tespit etme ve gizli model parametrelerini çalmak gibi daha düşük seviyeli suistimaller için ödül tutarının düştüğünü belirtelim.
Google, bundan iki yıl önce ürünlerindeki yapay zeka özelliklerini kötüye kullanma olasılığını ortadan kaldırmak için yapay zeka araştırmacılarını resmi olarak hata bulmaya davet etti. Hata avcıları, şimdiye kadar 430 bin doların üzerinde ödül kazandı.
Yeni yapay zeka ödül programının yanı sıra, Google dün savunmasız kodları yamayan yapay zeka ajanı CodeMender‘ı da duyurdu. Şirket, bu ajanı kullanarak insan araştırmacılar tarafından incelenen açık kaynak projelerine 72 güvenlik düzeltmesi gerçekleştirdiğini belirtiyor.
Kaynak: webrazzi
