Yapay zeka için yeni düzenlemeler çağrısı yapıldı

Anthropic'in kurucu ortağı ve CEO'su Dario Amodei, "Yapay Zeka Üssel Politika" başlıklı yeni bir makalede, güçlü yapay zeka modellerinin serbest bırakılmasına yönelik yeni hükümet düzenlemeleri talep etti. Amodei, yapay zeka endüstrisini ticari havacılıkla kıyaslayarak, bu düzenlemelerin kamu güvenliğini sağlamak için elzem olduğunu savunuyor. Makale ile birlikte, Anthropic iki kapsamlı politika haritası da yayınladı: Biri, felaket risklerini hedef alan Gelişmiş AI Çerçevesi, diğeri ise AI kaynaklı iş kayıplarını ele alan Ekonomik Politika Çerçevesi. Bu çerçeveler, 350 milyon dolarlık yeni bir finansman ile destekleniyor. Amodei, X platformunda yaptığı açıklamada, "Anthropic, sınır AI için şeffaflık gerekliliklerini uzun süredir savunuyor, ancak bu riskler artık yeterince net değil" ifadesini kullandı.

Amodei'nin önerileri, teknik karar vericiler, CIO'lar ve işletme mimarları için yalnızca bir siyasi beyan değil, aynı zamanda gelecek nesil işletme teknolojilerini yönetecek operasyonel, düzenleyici ve iş gücü kısıtlamalarının bir ön izlemesi niteliğinde. İşletme liderlerinin Anthropic'in son politika duyurusundan çıkarması gereken üç temel noktadan biri, "Sınır Modellerinin FAA Tarzı Dağıtım Engelleri ile Karşılaşabileceğidir". Son üç yıl boyunca, işletmeler AI API yeteneklerinin yalnızca daha hızlı ve daha güçlü hale geleceği varsayımıyla ürünler geliştirdi. Ancak, Anthropic'in Gelişmiş AI Çerçevesi, düzenleyici ambargolar gibi yeni bir değişkeni gündeme getiriyor. Amodei, gerekli AI düzenleme rejimini Federal Havacılık İdaresi (FAA) ile karşılaştırarak, "Sınır AI modellerinin, uçaklar gibi teknik testlerden ve denetimlerden geçmesi gerektiğini ve yüksek güvenlik standartlarını karşılamadığı takdirde kamu güvenliği tehdidi olarak serbest bırakılmalarının engellenmesi gerektiğini" belirtti.

Anthropic, 10^25 kayan nokta işlemi (FLOP) üzerinde eğitim alan veya 500 milyon dolardan fazla AI geliri veya 1 milyar dolardan fazla AI Ar-Ge'sine sahip şirketler tarafından geliştirilen modellerin zorunlu üçüncü taraf testlerine tabi tutulmasını öneriyor. Bu modeller, ciddi biyolojik, siber güvenlik veya otonomi riskleri taşıyorsa, hükümetin dağıtımını engelleme, erteleme veya caydırma yetkisine sahip olacağını belirtiyor. İşletmeler, temel altyapı için temel modelleri lisanslarken, tedarik zinciri dalgalanmalarına hazırlıklı olmalıdır. Bir AI sağlayıcısından beklenen bir model güncellemesi, düzenleyiciler tarafından belirsiz bir süreyle ertelenebilir veya mevcut bir model, piyasaya çıktıktan sonra otonom tehditler tespit edilirse geri alınabilir.

İkinci önemli nokta, AI etrafındaki siber güvenliğin artık kritik bir altyapı olduğu. Amodei, Anthropic'in kendi Claude Mythos Önizlemesi'ne atıfta bulunarak, bu modelin büyük işletim sistemlerindeki yüksek öncelikli güvenlik açıklarını keşfetme yeteneğinin, küresel siber güvenlik manzarasını "karıştırdığını" belirtti. Anthropic'in önerdiği çerçeve altında, AI geliştirme ortamının güvenliğini sağlamak öncelikli hale geliyor. Sınır geliştiricileri, model ağırlıklarını hem dış siber saldırganlardan hem de iç tehditlerden korumak zorunda kalacaklar.