Anthropic'in yapay zekâ güvenlik araştırmacısı hükümetin endişelerini gidermeye çalışıyor
The Wall Street Journal
🔹 Anthropic araştırmacısı Nicholas Carlini, şirketin yeni yapay zekâ modeli Mythos'un siber güvenlik açıklarını tespit etme konusunda insan uzmanlardan daha başarılı hale geldiği uyarısında bulundu.
🔹 Carlini, Mythos kullanarak Ghost içerik yönetim sistemi ile Linux işletim sisteminde daha önce tespit edemediği kritik güvenlik açıklarını bulduğunu açıkladı.
🔹 Araştırmacı, Mart ayında şirket içinde yaptığı değerlendirmede Mythos'un henüz yayımlanmaması gerektiğini savundu.
🔹 Anthropic, güvenlik önlemleri eklenmiş Fable 5 ve güncellenmiş Mythos 5 modellerini piyasaya sundu.
🔹 ABD yönetimi, modellerin siber saldırılar için kullanılabileceği endişesiyle yabancı hükümetler, şirketler ve bireylerin bu sistemlere erişimini yasakladı.
🔹 Şirket, kararın ardından modellerin erişimini tamamen durdurdu.
🔹 Anthropic yöneticileri ve ABD yönetimi son günlerde modellerin yeniden kullanıma açılması için yoğun görüşmeler yürütüyor.
🔹 Yönetim, şirketin güvenlik sürecini ve hükümetle iletişimini geliştirmesi gerektiğini değerlendiriyor.
🔹 Taraflar, yapay zekâ güvenliği konusunda daha yakın teknik iş birliği yapılmasını görüşüyor.
🔹 Şirket verilerine göre Mythos şimdiye kadar 10 binden fazla yazılım açığı tespit etti.
🔹 Finans kuruluşları ve büyük şirketler, eski yazılımlardaki güvenlik açıklarının yapay zekâ tarafından hızla bulunabilmesinden endişe duyuyor.
🔹 Güvenlik uzmanları, yapay zekânın yalnızca açıkları bulmakla kalmayıp bunları istismar edecek yazılımları da üretebilme kapasitesine ulaştığını değerlendiriyor.
🔹 Carlini, benzer seviyedeki yapay zekâ modellerinin kısa süre içinde yaygınlaşmasının beklendiğini söyledi.
🔹 Araştırmacı, yazılım açıklarının bulunması ve bunların kötü niyetli kişiler tarafından kullanılmasının giderek kolaylaşmasının siber güvenlik dengelerini kökten değiştirebileceğini ifade etti.