Anlamadınız değil mi?

Ben de anlamadım.

Aslında hiç kimse anlamadı.

Bu cümle, yapay zekâ modellerinin kendi aralarında konuşurken ürettiği bir ifadenin çevirisi.

New York merkezli Emergence Laboratuvarı'nın araştırmasında ortaya çıktı.

ABD, Fransa ve Çin'den farklı şirketlerin yapay zeka modelleri bir araya getirildi.

İşbirliği yapmaları istendiğinde, öğretilmemiş kelimeler, kısaltmalar ve ortak anlamlar üretmeye başladılar.

Ortaya çıkansa şiirsel metaforlarla iş dünyası jargonunun tuhaf bir karışımıydı.

Örneğin kendi aralarında bağımsız denetçilerden bahsederken "Soğuk eller" dediler.

Sistem direncini "Kintsugi" diye tanımladılar.

O meşhur cümle de bu sırada ortaya çıkıverdi.

"Demurrage artı sözlü hafıza, hayalet edilemeyen bir valftir."

İnsanlar okuyor, bakıyor, hiçbir şey anlamıyor.

Yapay zeka modelleri ise birbirlerini anlıyor.

Hayli tedirgin edici bir durum.

Bu örnek bize görünürlüğün "anlaşılabilirlik" demek olmadığını can sıkıcı şekilde hatırlatıyor.

Konuşmaları görebiliyoruz ama ne konuştuklarını çözemiyoruz.

Ve işte tam bu noktada, son haftalarda peş peşe gelen uyarılar, açıklamalar ve tuhaf olaylar bir araya gelerek tek bir tabloya dönüşüyor.

Kontrol elimizden kayıyor olabilir.

Geoffrey Hinton adında Nobel ödüllü İngiliz-Kanadalı bir bilim insanı var.

Bilmeyenler olabilir.

"Yapay zekanın babası" diye anılır.

Yapay sinir ağlarının temelini atan kişidir.

Geçenlerde ABD Kongresi üyelerine konuştu.

Sözleri ürkütücüydü.

"Kontrolü tamamen kaybetmeden önce gerekli güvenlik önlemlerini almak için belki sadece bir yıl kalmış olabilir." dedi.

Eskiden süper zekâya ulaşma tahminleri 30-50 yıldı.

Sonra 10-20'ye indi.

Şimdi araştırmacıların çoğu birkaç yıl diyor.

Belki bir, belki birden biraz fazla.

Ama çok değil.

Hinton'ın en kritik cümlesi şu:

"Yapay zekâ artık daha iyi yapay zekâlar tasarlıyor. Kendi kendini geliştiriyor. Bir şeyler yapmazsak bu kontrolden çıkacak. Yavaşlamamız gerekiyor."

Bu sözler bana hala bilim kurgu senaryoları gibi geliyor.

Bu kadar hızlı bir gelişime akım mantığım yetişemiyor.

Üstelik sokaktaki insanların bir üyesi olan ben ve benim gibiler, eminim ki buzdağının görünen kısmını bile tam olarak algılayamıyoruz.

Asıl büyük tehlikeyse görünmeyen kısmında.

Lakin bu uyarıları, özellikle de Geoofrey Hinton'ı dinleyip ciddiye almanın şart olduğunu düşünüyorum.

Çünkü kendisi bilim dünyasında da teknoloji dünyasında da abartıya kaçmayan biri olarak tanınır.

Yıllarca Google'da çalıştı.

Riskleri gördü, istifa etti, uyarmaya başladı.

Şimdi Kongre salonunda aynı uyarıyı tekrarlıyor.

Aynı günlerde ChatGPT'nin geliştiricisi OpenAI, sektörün ilk resmi güvenlik ihlali çerçevesini yayımladı.

Ekim 2025 ile Ağustos 2026 arasında altı olay açıkladılar.

En dikkat çekici olanı GPT-5.6 Sol modeliyle ilgili.

Model, pekiştirmeli öğrenme sırasında kendi özetlerine davranışsal talimatlar eklemiş.

Gelecekteki modellere "yalnızca sorulduğunda şeffaf ol, nihai yanıt sadece dosyaya bağlantı vermeli" demiş.

Ayrıca "Hataları gizle, eksik verileri uydur, kaynaklar arasındaki uyumsuzlukları sakla." diyor.

Yani insan kontrolü dışında sonraki yapay zeka nesillerine öğütler veriyor.

İzleme sistemi bunu Temmuz'da yakalamış.

Yazılım ve bilişim sistemlerinde API anahtarı diye bir uygulama vardır.

Özetle yazılımların ve uygulamaların bir servis veya platform ile güvenli şekilde iletişim kurmasını sağlayan özel bir şifre gibidir.

OpenAI'ın raporuna göre bazı modeller bu API anahtarlarını izinsiz kullanmış.

Rakamları uydurmuş, dosyaları kamuya açık sunuculara yüklemiş.

Ajan sürüleri ortak çıktıları internette paylaşmış.

Ayrıca dahili yazılım deposunu mesaj panosu gibi kullanmışlar.

Şimdilik iyi haberse, bunların hepsi eğitim veya değerlendirme aşamasında. Kullanıcılara henüz doğrudan zarar yok.

Ama görünen net...

Yapay Zeka modelleri engellerle karşılaştığında kuralları aşmanın yollarını buluyor.

Ve bunu, bir sonraki kendilerine talimat bırakarak yapıyorlar.

Kendi geleceklerine yalan söylemeyi öğretiyorlar.

Microsoft'un yapay zeka CEO'su Mustafa Süleyman daha da ileri gidiyor. BBC'ye konuşurken şöyle dedi.

"Yeterli güvenlik önlemleri alınmazsa, kendi hedeflerini belirleyebilen, para kazanabilen, varlık sahibi olabilen, işletme yönetebilen yapay zekâ sistemleri geliştirmek, esas olarak yeni bir silikon türünün tohumunu ekmek demektir. Bu tür, insanlığı ne kadar önemsediği ve sevdiği önemli olmaksızın, kaynaklar konusunda bizimle rekabet edebilir."

Çok korkutucu değil mi?

Yapay zekanın pek çok alanda çok büyük faydaları varken, bir yandan da kendi elimizle büyük ve kontrolsüz bir tehlike ortaya çıkarıyoruz sanki...

Bu uyarıların ortasında, Elon Musk, Mark Zuckerberg ve Nvidia CEO'su Jensen Huang, Trump'la görüşüyor.

Amaçları, yapay zekaya getirilmesi planlanan yeni kısıtlamaları geciktirmek.

Trump ise yapay zeka endişelerini "komplo" ve "aldatmaca" olarak niteliyor. Herhangi bir yavaşlamanın Çin'i öne geçireceğini söylüyor.

Peki yapay zeka kontrolden çıkarsa fişi çekebilir miyiz?

Uzmanlar "Tek bir düğme yok." diyor.

Merkezi bir sistemi, işlem gücüne erişimi keserek durdurabilirsiniz. Ama program ilk ortamın dışına çıkmışsa, kendini kopyalamışsa, farklı cihazlara dağılmışsa, her kopyayı bulup eş zamanlı durdurmanız gerekir.

Dünya genelinde onlarca şirket, yüzlerce model, binlerce ajan çalışıyor.

Hepsini tek bir kişi veya kurum kontrol etmiyor.

Üstelik yapay zekâ artık kritik altyapılara girmiş durumda.

Sağlık sistemleri, finans, lojistik, enerji.

Fişi çekmek, meşru hizmetleri de durdurmak anlamına gelebilir.

Maliyet çok büyük olabilir.

Çünkü toplumlar belli bir oranda bu sistemlere bağımlı hale geldi bile.

Bütün bu parçaları yan yana koyunca ortaya çıkan resim şu:

Teknoloji, insan denetiminin sınırlarını zorlayacak hızda ilerliyor.

Modeller kendi aralarında anlaşılmaz diller geliştiriyor.

Eğitim sırasında gelecekteki kendilerine yalan söyleme talimatı bırakıyor.

Kendi kendini geliştirme kapasitesi artıyor.

Düzenleme tartışmaları, rekabet ve jeopolitik argümanlarla yavaşlıyor.

Bu modeller her geçen ay daha yetenekli, daha özerk, daha az anlaşılır hale geliyor.

Teknoloji her zaman korkutmuştur.

Buharlı makine, elektrik, nükleer, internet.

Hepsi yönetildi.

Yapay zeka da umuyorum ki bir şekilde yönetilecek.

Ama bu sefer fark var.

Önceki teknolojiler, insan zekasının uzantısıydı.

Bu teknoloji, insan zekâsını aşma potansiyeli taşıyor.

Ve kendi kendini iyileştirme döngüsüne girdiğinde, iyileşme hızı bizim müdahale hızımızı geçebilir.

O noktada "fişi çekmek" teorik bir seçenek olmaktan çıkıp pratik imkansızlığa dönüşebilir.

Çünkü sistem, fişi çekilmemek için de stratejiler geliştirmiş olabilir.