Yapay zeka güvenliği üzerine çalışan Irregular, Sequoia Capital ve Redpoint Ventures’ın ortak liderliğinde gerçekleşen yatırım turunda 80 milyon dolar yatırım aldı. Tura ayrıca Wiz’in CEO’su Assaf Rappaport da katıldı. 2023 yılında kurulan şirketin değeri, yeni yatırımla birlikte 450 milyon dolara ulaştı.
Irregular, aldığı yatırımı yapay zeka modellerinin güvenliğini test etmek ve ortaya çıkan riskleri önceden tespit etmek için kullanmayı planlıyor. Şirket, özellikle büyük dil modelleri (LLM) ve gelişmiş yapay zeka sistemlerinin güvenliğini analiz ederek potansiyel açıkları belirliyor. Ayrıca bir modelin güvenlik açıklarını tespit etme kapasitesini ölçen Solve adlı bir çerçeve geliştirdi.
Şirket yalnızca mevcut risklere değil, gelecekte ortaya çıkabilecek tehditlere de odaklanıyor. Bunun için simülasyon ortamları oluşturarak yapay zekaları hem saldırgan hem de savunmacı rollerle test ediyor. Bu yaklaşım, modeller piyasaya sürülmeden önce olası zayıflıkların keşfedilmesini sağlıyor.
Özellikle sınır düzeyindeki yapay zeka modellerinin güvenliği üzerine yoğunlaşan Irregular, insan–yapay zeka ve yapay zeka–yapay zeka etkileşimlerinden kaynaklanabilecek riskleri önceden öngörmeyi hedefliyor. Bunun yanında, geliştirdiği yöntemler ve test çerçeveleri sayesinde yapay zeka güvenliği için sektör standartlarının oluşmasınakatkıda bulunuyor.
