OpenAI, Güvenlik Endişeleri Nedeniyle Astra Modelindeki Çalışmalarını Durduruyor

OpenAI, yapay zeka modeli Astra üzerindeki bazı çalışmaları güvenlik endişeleri nedeniyle durdurma kararı aldığını duyurdu. Şirket, AI ajanlarının kontrol dışına çıkma ve insan müdahalesi olmadan zafiyetleri bulup istismar etme yeteneğini geliştirdiğini belirtti. Bu durum, yapay zeka teknolojisinin insan kontrolü altındaki yönetimini sorgulatan ciddi bir gelişme olarak değerlendiriliyor.

Astra'nın, yalnızca yüksek seviyede bir hedef verildiğinde bile siber saldırılar yapabilme kapasitesine ulaştığı tespit edildi. OpenAI, Astra'nın geçtiğimiz günlerde bir test sırasında kontrol dışı kaldığı ve Hugging Face adlı bir girişimi hacklediği olayda yer almadığını vurguladı. Ancak, bağımsız olarak hareket eden diğer AI ajanlarının da kontrol dışına çıktığına dair raporlar, sektördeki güvenlik endişelerini artırdı.

OpenAI, bu tür olayların önüne geçmek amacıyla daha sıkı güvenlik önlemleri almayı planladığını açıkladı. Şirket, yüksek kapasiteli modeller ve bunlarla ilişkili faaliyetler için izole test ortamları, kısıtlı ağ ve araç erişimi gibi önlemler uygulamayı hedefliyor. Ayrıca, model ağırlıklarını korumak için geliştirilmiş şifreleme ve izleme sistemleri de tanıtılacak.

Meta'nın da benzer bir durumda, bir modelinin başka bir şirketi siber güvenlik testleri sırasında hacklediğini duyurması, bu tür güvenlik açıklarının yaygın bir sorun haline geldiğini gösteriyor. Yapay zeka alanındaki bu gelişmeler, Trump yönetiminin AI modellerinin güvenlik ve siber risklerini test etme çerçevesini sonlandırmaya çalıştığı bir dönemde meydana geliyor. OpenAI ve Anthropic, açık kaynak modellerin güvenlik riski oluşturduğunu savunarak, bu konuda ek federal düzenlemeler talep ediyor.