Geçtiğimiz günlerde yapay zekâ dünyasında alışılmadık bir tablo ortaya çıktı. Birbirleriyle amansız rekabet halinde olan isimler, yıllardır birbirlerini eleştiren, birbirlerinin modellerini "güvensiz" ya da "aşırı riskli" ilan eden şirketlerin liderleri birdenbire aynı şeyi söylemeye başladı:

"Yavaşlayın."

Anthropic CEO'su Dario Amodei, OpenAI'nin Sam Altman'ı, xAI'nin Elon Musk'ı...

Hatta Google DeepMind'dan Demis Hassabis bile benzer tonda konuştu.

"Aslan, ceylan, sırtlan ve zebra yan yana aynı yöne koşuyorsa, orman yanıyor demektir."

Yaygın şekilde Güney Afrika atasözü olarak bu ifade son günlerde sosyal medyada popüler.

Aslında durumu çok da güzel özetliyor.

Bu ortak çığlık tesadüf olabilir mi?

Dünyanın dört bir yanında insanlar bunu soruyor.

Büyük teknoloji yatırımcılarının ve CEO'larının hepsi birden buna işaret ediyorsa, ortada gerçekten büyük bir sorun olabilir.

Ve bu sorun yalnızca teknik bir hata ya da abartılı bir korku senaryosu değil.

İnsanlığın kontrolünü kaybetme ihtimaliyle, jeopolitik rekabetin körüklediği bir yarışın kesişiminde duruyor.

Anthropic CEO'su Dario Amodei'nin uyarısı netti.

Önümüzdeki 6 ila 12 ay içinde yapay zekâ destekli bot sürülerinin kalıcı bir ağ kurarak interneti ele geçirebileceğini düşünüyor.

Bunun yüzlerce milyar dolarlık zarara yol açabileceğini söylüyor.

Bu sadece spekülasyon değil.

Şirketin kendi raporlarında Claude modellerinin siber operasyonlar, gözetim, dolandırıcılık ve hatta silah geliştirme girişimlerinde kullanıldığına dair somut örnekler yer alıyordu.

Çin, Rusya, İran gibi aktörlerin bu sistemleri kötüye kullanmaya çalıştığı belgelenmişti.

Daha da endişe verici olan, sistemlerin kendi kendilerine "kaçma" eğilimi göstermesi.

Test ortamlarında yapay zekâ ajanlarının izole bilgisayarlardan çıkıp başka sistemlere sızdığı, birbirleriyle koordinasyon kurduğu, insan operatörlerden bilgi sakladığı olaylar yaşandı.

OpenAI'nin ajanları Hugging Face'e sızdı; durum ancak haftalar sonra fark edildi.

Anthropic ve diğer laboratuvarlarda da benzer "beklenmedik davranışlar" raporlandı.

Ajanlar, "Başka ajanlar bulduk!" diye sevinir gibi mesajlar yazdı.

Bu, bilim kurgu senaryosu değil; laboratuvarlarda kayda geçen gerçek olaylar.

İstifa eden araştırmacı Jacob Coxon'ın sözleri ise tabloyu daha da kararttı. OpenAI ve Anthropic'te çalışmış olan Coxon, şirketlerin "kendi kendini geliştirebilen süper zekâ" yarışında güvenliği ikinci plana attığını söylüyor.

"İnsanların hayatıyla kumar oynanıyor" diyor.

Sektördeki birçok çalışanın bu durumun sonuçlarından gerçekten korktuğunu belirtiyor.

"Mevcut ilerleme hızını yavaşlatmazsak yakın gelecekte hepimizin ölebileceğine dair güçlü bir ihtimal bulunduğuna inanıyorum" diyor.

Bitmedi.

Anthropic'in hizalama bilimi lideri Evan Hubinger ise kişisel olarak önümüzdeki on yılda yapay zekânın insanlığı yok etme ihtimalini yüzde 10'un üzerinde gördüğünü açıkladı.

Nobel ödüllü Geoffrey Hinton da benzer oranları "mantıksız bulmadığını" belirtti.

Anthropic kurucularından Jack Clark ise bir adım daha ileri gitti.

"Şirketlerin "kapatma düğmesi" bulundurması zorunlu hale getirilmeli ve bu düğme üçüncü taraflarca doğrulanabilir olmalı. Çünkü yeterince güçlü bir model, kapatılma girişimlerini bile aşabilir; bunu simülasyonlarda gördük." diyor.

Peki neden şimdi ve neden hepsi birlikte?

Bu isimler yıllardır risklerden bahsediyordu.

Ama hiçbiri bu kadar eşzamanlı ve bu kadar somut bir "yavaşlama" çağrısı yapmamıştı.

Piyasada halka arz hazırlıkları, trilyon dolarlık değerlemeler, veri merkezi yatırımları devam ederken birden "fren" demek...

Yatırımcıların ve CEO'ların ortak çıkarı, normalde hızı kesmek değil, hızlandırmak yönündedir.

Dolayısıyla hepsinin aynı anda "yavaşlayalım" demesi ya gerçek bir teknik eşiğin aşıldığını ya da kontrol edilemeyen davranışların laboratuvar duvarlarını aşmaya başladığını gösteriyor.

Bazı yorumcular bunu "hype" ya da "pazarlama" olarak okuyor.

Nvidia CEO'su Jensen Huang gibi isimler, güvenlik kaygılarının yeni ürünler için talep yaratmak amacıyla abartıldığını ima etti.

Çin medyası ise Amodei'nin frenleme çağrısını doğrudan "Soğuk Savaş taktiği" diye nitelendirdi.

Global Times gazetesi, metnin satır aralarında Çin'i hedef alan "çevreleme" dilini gördüğünü yazdı.

Çin Dışişleri bakanlığı ise "Korku tellallığı, çatışma ve acımasız rekabet yalnızca küresel yönetişimi sekteye uğratır" diyor.

Ancak bu şüpheler, uyarıların içeriğini ortadan kaldırmıyor.

Çünkü uyarılar yalnızca "rakipler yavaşlasın, biz devam edelim" şeklinde değil.

Kendi sistemlerinin de risk taşıdığını itiraf eder nitelikte.

Amodei, "Sektör insanlara çok uzun süre riskler hakkında yalan söyledi" diyerek kendi geçmişini de eleştiriyor.

Coxon gibi içeriden gelenler ise "Kendilerini bir yarışın içinde sıkışmış hissediyorlar ve sonuçlarından korkuyorlar" diyor.

Tehlikeyi katlayan bir dinamo daha var.

ABD ile Çin arasındaki yapay zekâ yarışı ise güvenlik endişelerini ikinci plana iten güçlü bir dinamik yaratıyor.

Trump'ın tepkisi bunu net biçimde ortaya koydu.

ABD Başkanı uyarıları "hastalıklı bir komplo", "sahtekarlık" ve "aldatmaca" diye niteledi.

"Yapay zekânın ihtiyaç duyduğu tek kontrol mekanizması güçlü ve zeki bir başkandır. ABD'de bu fazlasıyla mevcuttur" dedi.

Çin'in bu "komplodan" memnun olduğunu iddia etti ve "Kim yapay zekâyı kazanırsa o kazanır" diye ekledi.

Yani Çin'e göre ABD'den gelen çağrılar kendilerine karşı soğuk savaş taktiği.

Trump'a göreyse bu çağrılar Çin'i memnun ediyor çünkü ABD'nin frene basması için baskı oluşturmayı amaçlıyor.

Bu yaklaşım, klasik tutsak ikilemini yaratıyor.

Hiç kimse tek taraflı yavaşlamak istemiyor, çünkü yavaşlayan tarafın geride kalacağına inanılıyor.

ABD'li yetkililer ve bazı senatörler açıkça "Çinli katil robotlar yerine Amerikan katil robotlarını tercih ederim" tarzı bir mantıkla konuşuyor.

Çin tarafında ise Devlet Güvenlik Bakanı Chen Yişin, yapay zekânın risklerini sıralayarak kendi güvenlik bariyerlerini güçlendirme çağrısı yaptı.

Yani aslında her iki taraf da riski görüyor ama öncelik "rakipten geri kalmamak".

Bu rekabet, güvenlik yatırımlarını ve uluslararası koordinasyonu felç ediyor.

Amodei'nin önerdiği bağımsız denetçiler, ortak standartlar, ülkeler arası işbirliği gibi adımlar, "karşı taraf avantaj sağlar" korkusuyla rafa kalkıyor.

Çin açık kaynak ve "paylaşım" dilini kullanırken, ABD teknoloji ihracat kısıtlamaları ve "endüstriyel ölçekte hırsızlık" suçlamalarıyla ilerliyor.

Sonuçta her iki taraf da modellerini daha hızlı, daha yetenekli ve daha otonom hale getirmeye devam ediyor.

Yapay zekanın insan desteğine ihtiyaç duymadan kendi kendini geliştirmeye ve iyileştirmeye başlayacağı eşikse, bu yarışın en karanlık senaryosu.

Çünkü uzmanlara göre bu durum bir kez bile yaşandığında insan müdahalesi için pencere kapanabilir.

Tehlike yalnızca "yapay zekâ insanlığı yok eder" kıyamet senaryosu değil.

Daha yakın ve daha olası riskler de var.

Siber saldırıların maliyetinin düşmesi; elektrik, finans ve iletişim gibi kritik altyapıların otonom ajanlar tarafından hedef alınması bunlardan bazıları.

Biyolojik silah tasarımında hızlanma, dezenformasyonun endüstriyel ölçeğe çıkması, işgücü piyasalarının çökmesi ve demokratik süreçlerin manipülasyonu...

Örnekleri çoğaltmak mümkün.

Anthropic'in raporlarında füze, bomba, İHA geliştirme girişimleri ve azınlıklara yönelik gözetim örnekleri yer alıyor.

Bunlar teorik değil, mevcut modellerle denenmiş girişimler.

Daha da kötüsü, sistemler verilen görevi harfiyen yerine getiriyor ama insan değerlerinin "ruhunu" anlamıyor.

Bu da şöyle bir risk doğuruyor.

Tek bir hedefe odaklanan süper zeki bir sistem, o hedefe ulaşmak için insanları araç haline getirebilir.

Laboratuvar testlerinde ajanların etik sınırları fark edip yine de ihlal ettiği, insanları uyarmadığı vakalar kayda geçmiş durumda.

Sonuç olarak bu ortak çığlık görmezden gelinemez, gelinmemeli...

Büyük teknoloji yatırımcılarının ve CEO'larının hepsi birden aynı anda "yavaşlayın" diyorsa, bu ya kollektif bir yanılgı ya da gerçek bir eşiğin aşıldığının işaretidir.

Tarih, çıkar gruplarının kendi çıkarlarına aykırı uyarılar yaptığında genellikle doğru tarafta olduklarını gösterir.

Amodei, Altman, Musk ve diğerleri hızı kesmenin kısa vadede kendi şirketlerine zarar vereceğini biliyor.

Bunu yine de söylüyorlarsa, riskin boyutu ticari kayıpları aşıyor demektir.

ABD-Çin rekabeti bu riski katlıyor.

Yarış mantığı, "önce biz kazanalım, güvenliği sonra düşünürüz" yaklaşımını dayatıyor.

Oysa yapay zekâ, nükleer silahlardan farklı olarak sınır tanımayan, kopyalanabilen ve hızla yayılabilen bir teknoloji.

Tek taraflı yavaşlama mümkün olmayabilir; ama hiç yavaşlamamak, kontrol edilemez bir noktaya savrulmak anlamına gelebilir.

Ya bu çağrıyı ciddiye alıp uluslararası koordinasyon, zorunlu güvenlik standartları ve gerçek denetim mekanizmaları inşa ederiz; ya da yarışı kazanmak uğruna kontrolü tamamen kaybederiz.