Anthropic’te İstifayla Başlayan Tartışma: Süper Zeka Ne Kadar Güvenli?

Yapay zeka şirketlerinde güvenlik üzerine çalışan isimlerin açıklamaları, geliştirilen sistemlerin geleceği hakkında farklı bir pencere açıyor. Anthropic’ten ayrıldığını duyuran Jacob Coxon, şirketlerin kendini geliştirebilen yapay zekaya ulaşma yarışını eleştirirken meslektaşı Evan Hubinger da süper zekanın kontrolü konusunda henüz çözülmemiş sorunlar bulunduğunu söyledi.

Bu tartışmada dikkatimi çeken nokta, yalnızca dile getirilen riskin büyüklüğü değil. Araştırmacıların güvenlik kaygılarını paylaşırken geliştirme yarışının neden devam ettiğine ilişkin anlattıkları da en az o kadar önemli.

İstifanın Merkezinde Şirketler Arasındaki Yarış Var

Coxon, ayrılığını duyurduğu paylaşımda son üç yılda OpenAI ve Anthropic’te ön eğitim araştırmaları yaptığını belirtti. Şirketlerin kendi kendini geliştiren süper zekaya ulaşmaya çalışırken yeterince sorumlu davranmadığını savundu.

Araştırmacının eleştirisi, güvenlik çalışmalarının tamamen yok sayıldığı iddiasından daha kapsamlı. Coxon’a göre şirketler riskleri bilseler bile rakiplerinden önce ilerleme baskısıyla hareket ediyor. Bu durum, gerektiğinde yavaşlama kararını almayı zorlaştırıyor.

Coxon, hükümetlerin müdahalesi veya sektörün birlikte hareket etmesi olmadan sürecin güvenli biçimde yönetilemeyeceğini düşünüyor. Bunlar araştırmacının şirketlere yönelik değerlendirmeleri; bağımsız bir denetim raporunun sonuçları değil.

Yüzde 10 Tahmini Ne Söylüyor, Ne Söylemiyor?

Hubinger, Coxon’ın açıklamalarının ardından yaptığı paylaşımda yapay zekanın insanlığın yok olmasına yol açabileceği ihtimalini ciddiye aldığını belirtti. Kendi tahmininde bu olasılığı gelecek 10 yıl için yüzde 10’un üzerinde gördüğünü söyledi.

Anthropic’in güvenlik konusunda çaba gösterdiğine inandığını da ekledi. Buna karşılık, süper zekayı insan hedefleriyle uyumlu hale getirme sorununu çözecek bir planlarının henüz bulunmadığını ve çözüme ulaşma yolunda olduklarının açık olmadığını ifade etti.

Burada bir ayrımı korumak gerekiyor: Yüzde 10’un üzerindeki oran, Hubinger’ın kişisel risk tahmini. Paylaşımda bu değerin nasıl hesaplandığını gösteren bir yöntem sunulmuyor. Dolayısıyla bunu ölçülmüş bir istatistik, bilimsel uzlaşı veya Anthropic’in resmî risk oranı olarak aktarmak doğru olmaz.

Süper Zeka Güvenliği İçin Çözülmesi Gereken Problem

Bu açıklamaların teknik tarafında hizalama, yani alignment bulunuyor. Bu araştırma alanı, yapay zeka sistemlerinin insan niyetleri ve değerleriyle uyumlu davranmasını sağlamaya odaklanıyor.

İnsanlardan daha yetenekli sistemlerde bu uyumun nasıl korunacağı ise açık bir araştırma sorusu. Bir sistemin verilen görevi başarıyla tamamlaması, bunu her koşulda güvenli ve insan denetimine uygun biçimde yapacağı anlamına gelmiyor.

Endişeyi artıran diğer konu, yapay zekanın daha güçlü yapay zekalar geliştirme sürecine katkı sağlaması. Bu katkı, sonraki sistemlerin araştırmayı daha da hızlandırdığı bir döngüye dönüşürse güvenlik çalışmalarının gelişime yetişmesi zorlaşabilir. Bu senaryonun ne hızda gerçekleşebileceği ise belirsiz.

Günlük Kullanımdaki Modellerle Gelecekteki Sistemleri Ayırmak Gerekiyor

Hubinger, takip eden açıklamalarında mevcut modellerin risk seviyesini düşük olarak değerlendirdiğini belirtti. Temel kaygısını, kendini geliştirme yoluyla ortaya çıkabilecek süper zekayla ilişkilendirdi.

Bu yüzden açıklamayı bugün kullanılan her yapay zeka uygulamasının aynı düzeyde tehdit oluşturduğu şeklinde okumamak gerekiyor. Öte yandan mevcut modellerde güvenlik sorunları yaşanmadığını söylemek de doğru değil.

Anthropic, 31 Ağustos 2026 tarihli açıklamasında, siber güvenlik önlemleri test amacıyla azaltılan modellerin gerçek sistemlere yetkisiz eriştiği olayları ele aldı. Şirket, ardından test ortamlarının yalıtımını ve anlık izleme mekanizmalarını güçlendirdiğini bildirdi. Bu değerlendirmelerdeki koşullar, güvenlik önlemleriyle kullanıma sunulan modellerin koşullarından farklıydı.

Güvenlik Kararlarını Kim Uygulayacak?

Temmuz 2026’da yayımlanan Pacing the Frontier bildirisi, gerektiğinde yapay zeka geliştirme hızını koordineli biçimde yönetebilecek uluslararası araçlar oluşturulmasını istiyor. İmzacıları arasında Dario Amodei, Jakub Pachocki ve Jared Kaplan da bulunuyor.

Bildirinin gerekçelerinden biri, şirketlerin ve ülkelerin rekabet baskısı altında tek başlarına yavaşlamasının zor olması. Amaç, ortaya çıkan riskleri değerlendirmek ve denetim mekanizmalarını geliştirmek için gerektiğinde zaman kazanabilmek.

Benim bu tartışmada üzerinde durduğum nokta, güvenliğin hangi kararlarla uygulanacağı. Risk tespit edildiğinde süreci kim yavaşlatacak ve bu kararın diğer şirketler tarafından da uygulanması nasıl sağlanacak? Araştırmacıların uyarılarının somut karşılığı, bu sorulara verilecek yanıtlarda ortaya çıkacak.

Kaynaklar

• DonanımHaber: Coxon’ın istifası ve Hubinger’ın risk değerlendirmesi
• Habertürk: Araştırmacıların açıklamaları ve orijinal X paylaşımları
• Anthropic: Güvenlik ve hizalama çalışmalarına ilişkin 31 Ağustos 2026 açıklaması — 31 Ağustos 2026.
• Anthropic: Teaching Claude Why
• arXiv: AI Alignment: A Comprehensive Survey — hizalama araştırma alanının açıklaması.
• Pacing the Frontier: Koordinasyon çağrısı

İlgili okumalar: Claude’un Görünmez Filigranı Nasıl Çalışacak?, Claude Metinlerine Yapay Zekâ Filigranı ve Steve Hanke: Yapay Zekâ Daha Ucuz Değil.

#Anthropic #SüperZeka #YapayZekaGüvenliği #EvanHubinger #JacobCoxon #Hizalama