Anthropic'ten uyarı! Yapay zekâ kendini geliştirmeye başlayabilir

Anthropic, SEC'ye sunduğu başvuruda mevcut ve gelecekteki modellerinin, yapay zekâya atfedilebilir biçimde çarpıcı ölçüde hızlanmış ilerleme eşiğini çok yakında karşılayabileceğini bildirdi.

Ali Demirtaş - Kasım 03, 2026 11:28 | Son Güncelleme Tarihi: Kasım 03, 2026 15:59

Anthropic'ten uyarı! Yapay zekâ kendini geliştirmeye başlayabilir

24 TV'yi Google'da haber kaynağınız olarak ekleyin

Anthropic, özyinelemeli öz gelişim olarak adlandırılan ve bir yapay zekâ sisteminin kendisini özerk biçimde geliştirerek daha gelişmiş sürümler üretmesini ifade eden aşamaya çok yakında ulaşabileceğini bildirdi.

Pazartesi günü yayımlanan S-1/A başvurusunun son revizyonunda yer alan yeni uyarı, şirketin "Risk Faktörleri" bölümünde bulundu. Güncelleme, TechCrunch tarafından fark edildi.

Özyinelemeli öz gelişim, bir bilgisayar sisteminin kendi yeteneklerini özerk biçimde geliştirmesi ve ortaya çıkan yeni sürümün de aynı süreci sürdürmesi anlamına geliyor. Kavram, yapay zekâyla bağlantılı çevrim içi rasyonalist ve etkili özgecilikle bağlantılı çevrelerde son yıllarda daha ayrıntılı biçimde ele alındı.

Anthropic eşiğin çok yakında aşılabileceğini belirtti

Anthropic'in 26 Ekim tarihli başvuru versiyonunda "yapay zekâ kaynaklı hızlanma" oranına ilişkin bir bölüm yer aldı. Şirket, belgeye şu ifadeyi ekledi:

"Mevcut modellerimizden ziyade iç tahminlerimiz ve gelecekteki modellere ilişkin beklentilerimiz, Sorumlu Ölçeklendirme Politikamızın 'yapay zekâya atfedilebilir biçimde çarpıcı ölçüde hızlanmış ilerleme' tanımını çok yakında karşılayabileceğimizi gösteriyor."

Belgede bunun, şirketin özyinelemeli öz gelişime yaklaşırken riskleri izleme ve azaltma planlarını kapsayan Sorumlu Ölçeklendirme Politikası'nın alanlarından biri olduğu açıkça belirtildi.

Anthropic'in tercih ettiği "yapay zekâya atfedilebilir biçimde çarpıcı ölçüde hızlanmış ilerleme" ifadesi, şirketin politikasında belirli bir eşiğe bağlanıyor. Buna göre temel iyileşme oranının iki katına çıkması ve bu artışın makul biçimde yapay zekâya atfedilebilmesi gerekiyor.

Şirket olağan dışı güvenlik önlemleri planlıyor

Sorumlu Ölçeklendirme Politikası'na göre Anthropic, yapay zekâya atfedilebilir biçimde çarpıcı ölçüde hızlanmış ilerleme ortaya çıkarsa yapay zekâ kaynaklı felaketleri önlemek için kapsamlı önlemler almayı planlıyor.

Şirket, "eşi benzeri görülmemiş güvenlik düzeylerine ulaşmak için iddialı ve muhtemelen alışılmadık yöntemleri araştıracağını" belirtiyor. Anthropic ayrıca şirket içindeki faaliyetleri hakkında "her şeyden haberdar olma" olarak tanımladığı bir duruma ulaşmayı hedeflediğini ifade ediyor.

Politika, Anthropic'in kırmızı ekip çalışmalarında da çok daha başarılı olacağını ve bu nedenle hata ödüllerine güvenmek zorunda kalmayacağını öne sürüyor.

Şirketin özyinelemeli öz gelişim eşiğinin çok yakında aşılabileceğine ilişkin değerlendirmesi, bu yeni güvenlik önlemlerinin hazırlığını gündeme getiriyor.

Kapat