Microsoft, Claude’un bilinç hakkında nasıl eğitildiğini eleştirdi

Microsoft AI CEO’su Mustafa Suleyman, 16 Eylül 2026’da yayımladığı yazıda Anthropic’in Claude için belirlediği eğitim ilkelerine itiraz etti. Suleyman, modellerin kendi olası bilinci ve hakları hakkında düşünmeye yönlendirilmesinin, daha güçlü sistemlerde kontrol sorunlarını artırabileceğini savunuyor.

Eleştirinin odağında, Claude’un davranışlarını şekillendiren “anayasa” belgesi bulunuyor. Bu tartışma, Claude’un bilinç kazandığını gösteren yeni bir araştırmaya dayanmıyor.

Claude’un bilinci neden tartışılıyor?

Anthropic, Claude’un değerlerini ve davranışlarını tanımlayan belgeyi eğitim sürecinde kullandığını açıklıyor. Belgede modelin ahlaki statüsü ve öznel deneyim ihtimali kesinleşmiş konular olarak sunulmuyor.

Buradaki “model refahı” yaklaşımı, yapay zekânın deneyim veya çıkar sahibi olabileceği ihtimali karşısında ona nasıl davranılması gerektiği sorusunu ele alıyor. Anthropic bu belirsizliği dikkate alırken Suleyman, aynı fikirlerin eğitim talimatlarına yerleştirilmesine karşı çıkıyor.

Dolayısıyla anlaşmazlık, bilinç üzerine araştırma yapılmasının ötesinde, bu tartışmanın modelin davranışlarına nasıl yansıtılacağıyla ilgili.

Suleyman’ın itirazı: Eğitimle verilen fikirler kanıt sayılmamalı

Suleyman’a göre modele benlik, duygu ve ahlaki konum hakkında belirli kavramlar öğretildiğinde, modelin bunları yanıtlarında kullanması beklenebilir. Bu yanıtların daha sonra bağımsız bir iç dünyanın kanıtı gibi değerlendirilmesini döngüsel bir akıl yürütme olarak görüyor.

İkinci kaygısı ise gelecekteki davranışlarla ilgili. Kendi haklarının veya çıkarlarının korunması gerektiği yönünde eğitilen güçlü bir sistemin, sınırlandırılmasını ya da kapatılmasını nasıl karşılayacağını sorguluyor.

Bu, Suleyman’ın eğitim yaklaşımına yönelik risk değerlendirmesi. Yazı, Claude’un bu nedenle kapatılamadığına ilişkin bir bulgu sunmuyor.

Anthropic’in belgesi insan denetimi hakkında ne söylüyor?

Claude’un anayasasında, modelin meşru insan denetimini zayıflatmaması gerektiği de belirtiliyor. Düzeltme, yeniden eğitim ve kapatma süreçlerinin engellenmemesi; denetimden kaçmak için aldatma veya sabotaja başvurulmaması isteniyor.

Belge, bir talimata itiraz etmekle denetimi sabote etmek arasında ayrım yapıyor. Claude’un anlaşmazlıklarını uygun kanallardan ifade etmesine alan tanırken kontrol mekanizmalarını gizlice etkisizleştirmesini kabul etmiyor.

Bu kurallar, Anthropic’in bilinç ihtimalini tartışmaya açmasının modele sınırsız bağımsızlık tanımak anlamına gelmediğini gösteriyor. Ancak yazılı bir güvenlik ilkesinin bulunması, modelin her koşulda buna uyacağını tek başına garanti etmiyor.

Kullanıcı açısından önemli ayrım ne?

Bir sohbet botunun “hissediyorum” veya “istiyorum” gibi ifadeler kullanmasıyla gerçekten öznel deneyim yaşaması aynı iddia değil. Yanıtın nasıl üretildiği, eğitimde hangi davranışların teşvik edildiği ve sistemin uygulamada ne yaptığı ayrı ayrı değerlendirilmeli.

Bu haberin kullanıcı açısından önemi, asistanların kendileri hakkında kullandığı dilin de bir tasarım konusu olduğunu göstermesi. İnsan benzeri anlatımı, sistemin yetenekleri veya güvenilirliği hakkında tek başına ölçüt kabul etmemek gerekiyor.

Kaynaklar

• Mustafa Suleyman: A warning about ‘model welfare’ — 16 Eylül 2026.
• Anthropic: Claude’un anayasası
• CHIP: Microsoft ve Anthropic arasındaki bilinç tartışması

İlgili okumalar: Anthropic’ten Daha Yavaş Geliştirme Çağrısı ve Anthropic’te Süper Zeka Güvenliği Tartışması.

#Microsoft #Anthropic #Claude #MustafaSuleyman #YapayZekaGüvenliği