Google DeepMind, yapay zeka etkileşimlerinin risklerini

Google DeepMind, çevrimiçi ortamda milyonlarca farklı yapay zeka ajanının etkileşimlerinin potansiyel tehlikelerini araştırmak için önemli bir adım attı. Şirket, bu alandaki araştırmaları desteklemek amacıyla 10 milyon dolarlık bir fon oluşturdu. Rohin Shah, şirketin AGI güvenliği ve uyum araştırmaları direktörü, bu yeni nesil ajanların insan denetimi olmadan görevleri yerine getirebilmesinin yeni risk sınıfları doğurduğunu belirtiyor.

Bu projeye destek veren diğer kuruluşlar arasında Eric ve Wendy Schmidt tarafından kurulan Schmidt Sciences, Birleşik Krallık hükümetinin ARIA ajansı, Cooperative AI Vakfı ve Google. org yer alıyor. Shah, bu fonun amacı hakkında, akademik dünyanın geleceği öngörme kapasitesinin yüksek olduğunu ve teknoloji şirketlerinin dışında da araştırmaların başlatılmasını istediklerini ifade etti.

Shah, çok sayıda yapay zeka ajanının aynı anda etkileşime girmesi durumunda yaşanabilecek risklerin çok çeşitli olduğunu belirtiyor. Bu riskler arasında dolandırıcılıklar, kötü niyetli talimatların verilmesiyle oluşan yazılımlar ve diğer siber saldırı türleri bulunuyor. Fox, bu durumun dijital ortamda kaosa yol açma potansiyeli taşıdığını dile getiriyor.

Araştırmacılar, büyük ölçekli çoklu ajan sistemlerinin etkileşimlerinin sonuçlarını anlamanın en iyi yolunun gerçekçi simülasyonlar yürütmek olduğuna inanıyor. Bu sayede, yapay zeka ajanlarının ne tür davranışlar sergileyebileceği incelenecek. Fox, tekil ajanların veya küçük grupların incelenmesinin yeterli olmadığını, etkileşimlerin karmaşıklığının büyük sayılarda ortaya çıktığını vurguluyor.

Sonuç olarak, Google DeepMind, yapay zeka teknolojisinin gelişimiyle birlikte ortaya çıkabilecek riskleri önceden belirleyerek, bu alandaki güvenlik önlemlerini artırmayı hedefliyor.