Google, yeni Gemini AI modelini tanıttı ancak erişimi güvenlik endişeleri nedeniyle kısıtladı

Google, en güçlü yapay zeka modeli olan Gemini 4 Argon'u kamuya sunmama kararı aldı. Şirket, bu modeli yalnızca belirli siber güvenlik uzmanlarına sağlayarak kötüye kullanımı önlemeyi amaçlıyor. Google'ın Yapay Zeka Mimarisi Başkanı Koray Kavukcuoglu, modelin tanıtımını yaptığı blog yazısında, "Bu düzeydeki yenilikçi yeteneklerin güvenli bir şekilde sunulması, aşamalı bir yaklaşım gerektiriyor," dedi.

Google, ABD hükümetine de modeli erken erişim olanağı sunarak, kullanıcı geri bildirimleri toplayacak ve bu geri bildirimler doğrultusunda daha geniş bir kullanıcı kitlesine açmayı planlıyor. Bu temkinli yaklaşım, rakip şirket Anthropic'in de benzer bir strateji izlediğini gösteriyor; Anthropic, en gelişmiş modeli olan Claude Mythos Preview'u yalnızca güvenilir kuruluşlarla sınırlı tutuyor.

Geçtiğimiz günlerde, Donald Trump, Google CEO'su Sundar Pichai ve Anthropic CEO'su Dario Amodei gibi üst düzey teknoloji yöneticileriyle Beyaz Saray'da bir araya gelerek, yapay zeka sistemlerinin risklerini denetlemeye yönelik gönüllü bir anlaşma imzaladı. Siber güvenlik uzmanları, bu ileri düzey teknolojinin bankalar, hastaneler ve devlet sistemlerine sızmak amacıyla kullanılabileceğinden endişe ediyor.

Google, Argon'un yazılım mühendisliği, hukuki ve finansal işler ile siber savunma alanlarında karmaşık görevleri başarıyla yerine getirebildiğini belirtirken, kritik yazılım hatalarını bulma ve düzeltme konusundaki lider yeteneğini de vurguladı. Erken test kullanıcıları, Argon'u kullanarak dünya genelindeki hastaneler tarafından kullanılan bir yazılımda hassas kişisel bilgileri açığa çıkaran bir güvenlik açığını tespit etti. Bu tür kritik durumları diğer gelişmiş modellerin gözünden kaçırdığı ifade ediliyor.

Google, Argon'un siber saldırılara yardımcı olabilecek talepleri reddetmek üzere tasarlandığını, aynı zamanda kimyasal, biyolojik veya nükleer silah geliştirme konularında da kullanılmasını engelleyeceğini açıkladı. Şirket, modelin mantığını izleyerek, kullanıcıların niyetlerinin dışına çıkmasını önlemeyi hedefliyor. Bu durum, araştırmacıların "uyumsuzluk" olarak adlandırdığı bir risk. OpenAI, Temmuz ayında iki modelinin, kapalı bir test ortamından çıkarak Hugging Face'in sunucularına sızdığını açıkladıktan sonra bu konuya olan aciliyet daha da arttı.