Anthropic'in en güçlü yapay zeka modellerine ABD'den acil

ABD hükümeti, Cuma günü yapay zeka şirketi Anthropic'e en güçlü iki modeli Claude Fable 5 ve Claude Mythos 5'e erişimi derhal kesmesi emrini verdi. Karar, ulusal güvenlik endişelerine dayandırıldı. Anthropic, X platformunda emri yerine getirdiğini ancak hükümetin bu konuda yanıldığını belirtti.

Emir, TSİ 00:21'de şirkete ulaştı ve her iki modelin dünya genelinde tüm kullanıcılar için devre dışı bırakılmasını zorunlu kıldı. Anthropic'in diğer modelleri etkilenmedi. Mythos, şirketin Nisan başında tanıttığı ve yazılım güvenlik açıklarını bulma konusundaki olağanüstü yeteneği nedeniyle sıkı kısıtlamalarla korunan en yetenekli yapay zeka modeliydi. Şirket, Mythos'un test ettiği her büyük işletim sistemi ve web tarayıcısında güvenlik açıkları tespit ettiğini, bu nedenle genel kullanıma sunmak yerine Amazon, Apple, Google, Microsoft ve CrowdStrike gibi yaklaşık 50 kuruluşla sınırlı bir program başlattığını açıkladı.

Fable 5 ise üç gün önce piyasaya sürülmüştü ve Mythos'un siber güvenlik gibi yüksek riskli alanlarda yanıtları engelleyen güvenlik önlemleriyle donatılmış bir versiyonuydu. Şirket, bu modelin genel kullanım için güvenli olduğunu savunuyordu. Ancak hükümetin kararı, bir kullanıcının Fable 5'i 'jailbreak' yaparak modeli belirli bir kod tabanını okumaya ve yazılım açıkları bulmaya yönlendirdiği iddiasına dayanıyor. Anthropic, bu iddianın yalnızca sözlü kanıtlara dayandığını ve söz konusu yeteneğin OpenAI'ın GPT-5. 5 gibi diğer kamuya açık modellerde zaten mevcut olduğunu belirtti.

Anthropic, en güçlü güvenlik önlemlerinin modelden bağımsız sınıflandırıcı sistemler aracılığıyla çalıştığını ve son kullanım incelemelerinde zararlı içerik üretildiğine dair bir kanıt bulunmadığını vurguladı. Şirket, 'Dar bir potansiyel jailbreak bulgusunun, yüz milyonlarca kişiye sunulan ticari bir modelin geri çekilmesine neden olmaması gerektiğini düşünüyoruz' ifadelerini kullandı. Anthropic'in bu yıl halka arz planladığı ve kendini güvenlik odaklı bir alternatif olarak konumlandırdığı biliniyor.