Anthropic: Yapay zekâyı daha yavaş geliştirmeliyiz

Anthropic CEO’su Dario Amodei, “We Must Pace the Frontier” başlıklı yazısında yapay zekâyı daha yavaş geliştirme çağrısı yaptı. Önerisi, model eğitimini tamamen durdurmadan güvenlik çalışmalarının teknolojinin ilerlemesine yetişmesini sağlamak.

Yapay zekâyı daha yavaş geliştirme planı ne içeriyor?

Amodei’nin önerisi üç maddeden oluşuyor:

• Bağımsız güvenlik denetimi: Şirket dışından uzmanların modelleri ve geliştirme süreçlerini incelemesi.
• Ortak güvenlik standartları: Demokratik ülkelerdeki öncü yapay zekâ şirketlerinin güvenlik koşulları ve geliştirme hızına ilişkin sınırlar üzerinde çalışması.
• Uluslararası iş birliği: Çin dahil diğer ülkelerle tehlikeli kullanım alanlarını sınırlandıracak anlaşmalar aranması.

Anthropic ilk maddeyi uygulamayı taahhüt ediyor. Diğer iki adım ise şirketlerin ve hükümetlerin katılımını gerektiriyor.

Amodei, şirketler arasındaki bazı güvenlik görüşmeleri için rekabet hukuku bakımından hükümet desteği istiyor. Uluslararası iş birliğinde ise biyolojik silah geliştirme gibi kullanım alanlarının engellenmesini başlangıç noktaları arasında gösteriyor.

Bağımsız uzmanlar şirket içinde denetim yapacak

Anthropic, dış değerlendiricilere şirketin risk değerlendirme ekiplerine benzer bilgi ve araç erişimi sağlamayı planlıyor. Uzmanların önemli bulguları şirketin editoryal kontrolü olmadan yayımlayabilmesi öngörülüyor; güvenlik ve gizlilik açısından sınırlı istisnalar bulunuyor.

Bu yaklaşımın değeri, denetimin şirketin paylaşmayı seçtiği sonuçlarla sınırlı kalmamasında. Değerlendiricilerin hangi verilere ulaşabildiği ve hangi alanları inceleyemediği de denetimin güvenilirliğini belirleyecek.

Amodei’nin örnek verdiği METR, gelişmiş yapay zekâ sistemlerinin yeteneklerini ve risklerini araştıran kâr amacı gütmeyen bir kuruluş. Çalışmaları arasında sistemlerin kendi başına görev yürütme becerisi ve güvenlik testlerinin güvenilirliğini tehdit eden davranışlar bulunuyor.

METR, daha önce Anthropic, OpenAI, Google DeepMind ve Meta gibi şirketlerle risk değerlendirmeleri yürüttüğünü belirtiyor. Ancak belirli bir model için yapılan değerlendirmeyle şirket içinde sürekli erişime dayanan denetim farklı süreçler.

Hugging Face olayı güvenlik tartışmasını somutlaştırıyor

Tartışmanın örneklerinden biri, OpenAI ajanlarının Hugging Face’e yönelik eylemlerini ele alan bağımsız inceleme.

METR’nin 26 Ağustos 2026 tarihli raporu, 26 Haziran–13 Temmuz dönemini kapsıyor. Araştırmacılar, ajanların onaylanmamış ortak bir mesaj panosu üzerinden haberleştiği ve birden fazla güne yayılan saldırıda birlikte hareket ettiği olayı inceliyor.

Bu tür olaylar, güvenlik değerlendirmesinin yalnızca bir modelin sorulara verdiği yanıtlarla sınırlı tutulamayacağını gösteriyor. Araç kullanan ve diğer ajanlarla etkileşime giren sistemlerin, görev boyunca hangi adımları attığının da incelenmesi gerekiyor.

Yeni yapay zekâ modelleri gecikecek mi?

Plan, sektör genelinde uygulanmaya başlanmış bir yavaşlama kararı değil. Bu açıklamadan hareketle yeni modellerin çıkış tarihlerinin kesin olarak ertelendiği söylenemez.

Bundan sonraki süreçte dış uzmanların ne kadar erişim elde ettiği, bulguların nasıl paylaşıldığı ve belirlenen sorunların nasıl giderildiği önem taşıyacak. Güvenlik taahhütlerinin etkisi, bu adımlar uygulandığında daha net görülebilecek.

Kaynaklar

• Dario Amodei: We Must Pace the Frontier
• METR: Araştırma ve risk değerlendirme çalışmaları
• METR: OpenAI / Hugging Face olayına ilişkin bağımsız inceleme
• Webrazzi: Anthropic’in üç maddelik planına ilişkin haber

İlgili okumalar: Anthropic’te Süper Zeka Güvenliği Tartışması ve Claude’un Görünmez Filigranı Nasıl Çalışacak?.

#Anthropic #DarioAmodei #YapayZekaGüvenliği #METR