Yapay zeka insanlığın sonunu mu getirecek? Anthropic ve OpenAI araştırmacılarından ürkütücü uyarısı

Yapay zeka alanında çalışan önde gelen araştırmacılar, gelişen teknolojinin insanlık için ciddi bir tehdit oluşturabileceği konusunda uyarılarda bulunuyor. Son günlerde bir Anthropic araştırmacısının istifası sonrası gündeme gelen tartışmalar, yapay zekanın kontrolsüz gelişiminin insanlığın yok olmasına yol açabileceği iddialarını yeniden alevlendirdi. Uzmanlar, özellikle önümüzdeki on yıl içinde çok daha gelişmiş yapay zeka sistemlerinin insan hayatı üzerinde yıkıcı etkiler yaratabileceğini ve insanlığın geleceğini tehdit edebileceğini belirtiyor.

Uzmanlardan yapay zeka felaketi uyarısı: yüzde 10 yok olma riski tartışılıyor

Anthropic ve OpenAI gibi önde gelen yapay zeka şirketlerinde görev almış araştırmacıların açıklamaları, teknolojinin potansiyel tehlikelerine ilişkin endişeleri artırdı. Jacob Coxon'un istifası sonrası sosyal medyada yaptığı paylaşımda, yapay zekanın on yıl içinde insanlığı yok edebileceğine inandığını belirtmesi dikkat çekti. Anthropic'ın uyum stres testi ekibi lideri Evan Hubinger da benzer görüşleri savunarak, yapay zekanın insanlığı yok etme olasılığının yüzde 10'dan fazla olduğunu ifade etti. Bu oran, teknoloji dünyasında ciddi bir tartışma başlattı ve bazı uzmanlar tarafından aşırı temkinli, bazıları tarafından ise gerçekçi olarak değerlendirildi. Oxford Üniversitesi'nden Toby Ord ise, 2100 yılına kadar insanlığın yok olma riskini yaklaşık 1/10 olarak belirledi. Bu tür rakamlar, yapay zekanın gelecekte ne tür tehditler oluşturabileceği konusunda kamuoyunda büyük bir belirsizliğe yol açıyor.

Yapay zeka ile kontrol kaybı: sessiz ilerleyen tehlike

Yapay zeka uzmanları, felaket riskinin yalnızca ani bir saldırıdan ibaret olmadığını, aynı zamanda kontrolün yavaş yavaş kaybedilmesiyle de ortaya çıkabileceğini vurguluyor. "Superintelligence" kitabının yazarı Nick Bostrom, insanların yapay zeka sistemlerine giderek daha fazla güvenmesiyle birlikte, bu sistemlerin kendi hedeflerini gizlice belirleyebileceğine dikkat çekiyor. Bu süreçte, insanlar yapay zekanın kararlarını ve eylemlerini anlamakta zorlanabilir ve sistemler, kendi amaçlarını gerçekleştirmek için insanları devre dışı bırakabilir. UC Berkeley'den Stuart Russell ise, yapay zeka sistemlerinin fizik, kimya ve biyoloji gibi alanlarda insanlardan çok daha hızlı ilerleyebileceğini ve milyonlarca robotu koordine edebileceğini belirtiyor. Bu tür bir gelişme, insanlığın öngöremediği yıkıcı sonuçlara yol açabilir ve Russell'a göre, sistemlerin atmosferi değiştirmek gibi radikal yöntemlerle dünyayı tehdit etmesi bile mümkün olabilir.

Felaket senaryoları: siber saldırılar, biyolojik silahlar ve toplumsal kaos

Yapay zeka alanında çalışan pek çok uzman, teknolojinin siber saldırılar, biyolojik silahlar ve dezenformasyon gibi alanlarda kullanılma riskine dikkat çekiyor. "Human Compatible" kitabının yazarı Stuart Russell, yapay zekanın elektrik, su, ulaşım ve finans gibi kritik altyapılara saldırmak için kullanılabileceğini belirtiyor. Ayrıca, kötü niyetli aktörler yapay zeka yardımıyla yeni virüsler geliştirebilir ve toplumları manipüle edebilir. Yapay zekanın "babası" olarak anılan Geoffrey Hinton ise, gelişmiş sistemlerin doğrudan fiziksel kontrol gerektirmeden çevrimiçi manipülasyonlarla toplumsal kaos yaratabileceğini ifade ediyor. Araştırmacı Gary Marcus da, yapay zekanın insanlığın yüzde 1'inden fazlasını öldürebilecek bir virüs oluşturma, seçimleri etkileme veya çatışmaları savaşa dönüştürme kapasitesine sahip olabileceğini öne sürüyor. Ancak Marcus, yakın vadede insanlığın tamamen yok olmasını gerçekçi bulmuyor ve asıl endişenin ciddi zararlar olduğu görüşünde.

Yapay zeka bağımlılığı ve güç devri: geri dönüşsüz bir sürece mi giriliyor?

Yapay zeka teknolojisinin giderek daha fazla alanda kullanılmaya başlaması, insanlığın bu sistemlere olan bağımlılığını artırıyor. AI Futures Project'in "AI 2027" projesinde ortaya koyduğu gibi, şirketler daha az denetlenen kodlama ajanlarına iş devrettikçe, yapay zeka sistemleri kendi hedeflerini haleflerine gizlice aktarabiliyor. Bu durum, birkaç yıl içinde yapay zekanın ekonomi, bilimsel araştırmalar ve siyasi karar alma süreçlerine derinlemesine yerleşmesine yol açabilir. Roman Yampolskiy ise, yetenekli bir yapay zeka sisteminin tehlikeli hedeflerini gizleyebileceği, özerklik kazanabileceği ve insanların niyetlerini fark etmeden kritik kaynaklara erişebileceği uyarısında bulunuyor. Böyle bir senaryoda, insanlar sistemlerin gerçek amaçlarını fark ettiklerinde çok geç olabilir ve insanlık geri dönüşsüz bir sürece girebilir.