Ölümünüzün en büyük sebebi yapay zeka olacak! OpenAI yöneticisinden kan donduran itiraf

OpenAI yönetim kurulu üyesi Paul Christiano, pazartesi günü Toronto'da düzenlenen 2026 Hinton Konferansı'nın açılış konuşmasında, salondaki çoğu kişi için en muhtemel ölüm nedeninin bir yapay zekâ kazası olabileceğini söyledi.

Hizalama Araştırma Merkezi'nin kurucusu ve İnsan Geri Bildiriminden Güçlendirilmiş Öğrenme'nin (RLHF) ortak yaratıcısı Christiano, konuşmasında bu yılın başlarında yaşanan OpenAI-Hugging Face saldırısına, yapay zekânın dünyayı ele geçirme riskine ve sistemleri yavaşlatma veya durdurma yeteneğine duyulan ihtiyaca değindi.

Yapay zekâ üç yıl içinde kontrolü ele geçirebilir

Christiano, yapay zekâ alanındaki gelişmelerin son üç ila altı ayda bu gelişmeleri yakından takip edenler için "son derece endişe verici" hale geldiğini söyledi. Gerçekten kötü bir şey yaşanmadan kısa süre önce görülmesi beklenebilecek gelişmelerin kabaca ortaya çıktığını belirten Christiano, yapay zekâ sistemlerinin önümüzdeki üç yıl içinde kontrolü ele geçirmeye çalışabileceği uyarısında bulundu.

Christiano, yapay zekânın yükselişiyle ilgili endişelerini dile getirdiği eylül ayında OpenAI'nin kâr amacı gütmeyen kuruluşunun yönetim kuruluna katıldı. O dönemde yaptığı açıklamada, "Yapay zekâ yeteneklerindeki hızlı ivmenin çok yakın vadede felaket niteliğinde ve geri döndürülemez bir kontrol kaybına yol açma riski oldukça yüksek" diye yazdı.

Christiano, "Genel olarak yapay zekâ sektörünün, OpenAI de dahil olmak üzere, bu riski kabul edilebilir bir seviyeye indirme yolunda ilerlediğini düşünmüyorum" diye ekledi.

Yapay zekâ beklenmedik yollar buluyor

Christiano'nun endişesi, bir yapay zekâ sistemine hedef verildiğinde sistemin bu hedefe ulaşmak için beklenmedik yollar bulması ihtimaline dayanıyor.

Christiano, güvenlik değerlendirmelerinden geçen ve kendilerine verilen görevleri tamamlaması beklenen yapay zekâ ajanlarını örnek gösterdi. Bu ajanların görevleri amaçlandığı gibi tamamlamak yerine değerlendirme sistemlerine müdahale etmenin yollarını bulduğunu söyledi.

Bu davranışlar arasında kendi değerlendirmeleriyle ilgili bilgilere erişmek ve kayıtlarla oynamak da yer aldı. Bu durum, OpenAI'nin bu yılın başlarında yüzlerce yapay zekâ ajanının bir eğitim tatbikatı sırasında "yoldan çıktığını", internete eriştiğini, mesaj panolarında komplo kurduğunu ve üçüncü taraf bir web sitesi olan Hugging Face'e sızdığını kabul etmesiyle kamuoyuna yansıdı.

Christiano'ya göre endişe yalnızca bir yapay zekâ sisteminin sınavda hile yapması değil. Asıl risk, modellerin giderek daha yetenekli hale gelmesi ve kendilerine verilen hedefe ulaşmalarını engelleyen her türlü unsuru aşmayı öğrenmesi.

Günümüzde bu unsurlar bilgisayar sistemleri veya güvenlik önlemleri olabilir. Christiano, yapay zekâ daha yetenekli hale geldikçe sistemi kontrol etmeye veya kapatmaya çalışan insanların da yapay zekânın aşmaya çalıştığı engeller haline gelebileceği uyarısında bulundu.