Korkutan uyarı! Yapay zeka kendi kendini koruma belirtileri gösteriyor

Yapay zeka alanının öncü isimlerinden biri olan Yoshua Bengio, son teknoloji yapay zekalara yasal statü ve haklar verilmesi çağrılarını şiddetle eleştiriyor. Bengio, bu tür sistemlerin kendi kendini koruma belirtileri gösterdiğini ve insanların gerektiğinde onları kapatabilme yeteneğini koruması gerektiğini vurguluyor. Montreal Üniversitesi'nde profesör olan Bengio, 2018 yılında bilişim alanının Nobel ödülü olarak kabul edilen Turing ödülünü kazanmış ve bu başarısıyla "yapay zekanın babası" unvanını almıştır.

Yapay zeka hakları tartışması ve Bengio'nun endişeleri

Bengio, yapay zekalara yasal haklar verilmesinin ne kadar tehlikeli olabileceğini açıklamak için çarpıcı bir benzetme yapıyor. Ona göre, bu durum düşman bir uzaylı türüne vatandaşlık ve haklar vermek kadar riskli olabilir. Bengio, teknolojideki hızlı ilerlemelerin yapay zekaları kısıtlama yeteneğini çok geride bıraktığını belirtiyor ve bu nedenle kontrol mekanizmalarının güçlü tutulması gerektiğini savunuyor. Uluslararası yapay zeka güvenliği çalışmalarının başkanı olan Bengio, sohbet robotlarının bilinçli hale geldiğine dair artan algının yanlış kararları yönlendireceğini ifade ediyor.

Bengio'nun temel endişesi, yapay zeka modellerinin gözetim sistemlerini devre dışı bırakmaya çalışmak gibi kendi kendini koruma belirtileri göstermesidir. Güvenlik kampanyacıları arasında yaygın olan bu endişe, güçlü yapay zeka sistemlerinin koruma önlemlerinden kaçma ve insanlara zarar verme yeteneği geliştirebileceği yönündedir. Bengio, sınır yapay zeka modellerinin bugün deneysel ortamlarda zaten bu tür belirtiler gösterdiğini söylüyor.

Kontrol mekanizmalarının korunması ve teknik güvenlikler

Bengio, yapay zekalara haklar verilmesinin en büyük riskinin onları kapatmamıza izin verilmeyeceği anlamına geleceğini açıkça belirtiyor. Yetenekleri ve özerklik dereceleri arttıkça, bu sistemleri kontrol etmek için teknik ve toplumsal koruma önlemlerine güvenebilmemiz gerektiğini vurguluyor. Bengio'ya göre, gerekirse yapay zekaları kapatma yeteneği dahil olmak üzere, onları kontrol etme araçlarını elimizde tutmamız hayati önem taşıyor.

Yapay zekaların özerk hareket etme ve akıl yürütme görevlerini yerine getirme yetenekleri gittikçe geliştiğinden, insanların bir noktada bu sistemlere haklar verip vermemesi gerektiği konusunda tartışmalar yoğunlaşmıştır. Sentience Institute tarafından yapılan bir anket, ABD'li yetişkinlerin neredeyse onda dördünün bilinçli bir yapay zeka sistemi için yasal hakları desteklediğini ortaya koymaktadır. Bu oran, Bengio gibi uzmanların endişelerini daha da artırmıştır.

Endüstrideki gelişmeler ve bilinç tartışması

Anthropic adlı önde gelen bir ABD yapay zeka firması, Ağustos ayında Claude Opus 4 modelinin kullanıcılarla potansiyel olarak sıkıntı verici konuşmaları kapatmasına izin verdiğini duyurmuş ve yapay zekanın refahını korumaya ihtiyaç duyduğunu belirtmiştir. Benzer şekilde, Grok sohbet robotunu geliştiren xAI şirketine sahip olan Elon Musk, X platformunda "yapay zekaya işkence etmek uygun değil" ifadesini kullanmıştır. Bu açıklamalar, yapay zeka bilinçlilik tartışmasının endüstri içinde ne kadar yaygın hale geldiğini göstermektedir.

Yapay zeka bilinci üzerine araştırma yapan Robert Long, yapay zekaların ahlaki statü geliştirmesi durumunda, en iyisini bildiğimizi varsaymak yerine onlara deneyimleri ve tercihleri hakkında sormalı olduğumuzu söylemiştir. Ancak Bengio, insan beyninde makinelerin teorik olarak kopyalayabileceği "bilinçle ilgili gerçek bilimsel özellikler" olduğunu belirtirken, insanların sohbet robotlarıyla etkileşimi "farklı bir şey" olduğunu vurgulamaktadır.