Yapay Zeka ve Siber Güvenlik
OpenAI, henüz resmi olarak tanıtılmayan Astra adlı yeni yapay zeka modelinin geliştirme ve devreye alma çalışmalarını, siber güvenlik alanındaki kritik riskler nedeniyle durdurma kararı aldı. Şirketin son iç değerlendirmeleri, modelin ajan tabanlı kodlama ve siber güvenlik görevlerinde önemli ilerleme kaydettiğini gösterdi. OpenAI, bu yeteneklerin kötüye kullanılması halinde ortaya çıkabilecek riskler ve tehlikeler nedeniyle mevcut güvenlik önlemlerini güçlendirmeden Astra üzerindeki çalışmaları genişletmeyeceğini açıkladı.
Astra'nın ulaştığı değerlendirilen seviye, OpenAI'nin Hazırlık kapsamında daha sıkı güvenlik gereksinimlerini tetikliyor. Şirketin siber güvenlik yaklaşımında "Kritik" olarak tanımlanan eşik, bir yapay zeka modelinin insan müdahalesi olmadan güçlendirilmiş gerçek dünya kritik sistemlerinde işlevsel sıfır gün açıklarını tespit edip geliştirebilmesiyle ilişkilendiriliyor. Bunun yanında modelin siber saldırılar için uçtan uca yeni stratejiler tasarlayıp uygulayabilmesi de bu seviyedeki risk göstergeleri arasında değerlendiriliyor.
