Amazon ceosu antropik model endişelerini hükümete iletti

Amazon CEO'su Andy Jassy'nin, yapay zeka girişimi Anthropic'in Claude Fable 5 modelinin güvenlik endişeleri yarattığını ABD yönetimine ilettiği iddia edildi. Wall Street Journal'ın haberine göre Jassy, Hazine Bakanı Scott Bessent ve diğer hükümet yetkililerine, Amazon araştırmacılarının bu modeli kullanarak siber saldırılarda kullanılabilecek bilgiler elde ettiğini aktardı.

Bunun üzerine ABD yönetimi, Anthropic'in Claude Fable 5 ve Mythos 5 modellerine ihracat kısıtlaması getirdi. Amazon sözcüsü yaptığı açıklamada, hükümetlerin potansiyel güvenlik riskleri konusunda şirketlerine danışmasının alışılmadık bir durum olmadığını ancak bu görüşmelerin ayrıntılarını paylaşmadıklarını belirtti. Sözcü ayrıca, AWS'nin model kısıtlamasından etkilendiğini duyurdu.

The Information ve Reuters da benzer şekilde, Amazon'un (Anthropic'in büyük yatırımcılarından biri) modellerin güvenliği konusunda endişelerini ilettiğini bildirdi. Trump döneminin eski yapay zeka sorumlusu ve şimdi Başkanlık Bilim ve Teknoloji Danışma Konseyi eş başkanı olan David Sacks ise, "Anthropic ve ABD hükümetinin güvendiği bir ortağın bir jailbreak (güvenlik açığı) tespit ettiğini" ve yönetimin Anthropic CEO'su Dario Amodei'den bu açığı düzeltmesini veya modeli kaldırmasını istediğini, ancak Amodei'nin bunu reddettiğini iddia etti.

Anthropic, blog yazısında endişe yaratan yeteneklerin diğer kamuya açık modellerde zaten mevcut olduğunu savundu.