Yapay zeka güvenliği alanında çalışan Irregular, 80 milyon dolar yatırım aldı. Şirketin 80 milyon dolarlık yatırım turuna Sequoia Capital ve Redpoint Ventures tarafından ortaklaşa liderlik etti. Irregular’ın yatırım turunda Wiz’den Assaf Rappaport yer aldı. 2023 yılında kurulan şirketin değeri ise 450 milyon dolara yükseldi.
Irregular, 80 milyon dolarlık yatırımı yeni yatırımı yapay zeka modellerinin güvenliğini test etmek ve ortaya çıkan riskleri önceden tespit etmek için kullanacağını açıkladı.
Irregular, temelde büyük dil modelleri ve yapay zeka sistemlerinin güvenliğini test ederek potansiyel riskleri ve güvenlik açıklarını belirliyor. Ayrıca bir modelin güvenlik açıklarını tespit etme yeteneğini ölçen Solve adlı bir çerçeve geliştirdi. Öte yandan Irregular, yalnızca mevcut risklerle ilgilenmekle kalıyor. Aynı zamanda ortaya çıkabilecek yeni riskleri önceden görmek için simülasyon ortamları oluşturuyor. Bu ortamlar, yapay zekaları hem saldırgan hem savunmacı rollerle test ederek modeller piyasaya sürülmeden önce savunma zayıflıklarını ortaya çıkarıyor.
Özellikle sınır düzeyindeki yapay zeka modellerinin güvenliği üzerine odaklanan şirket, insan-yapay zeka ve yapay zeka-yapay zeka etkileşimlerinden kaynaklanabilecek riskleri önceden belirlemeyi hedefliyor. Irregular, yürüttüğü testlerin ötesinde, geliştirdiği yöntemler ve çerçeveler sayesinde yapay zeka sektöründe güvenlik standartlarının oluşmasına da katkıda bulunuyor.
Kaynak: webrazzi
