Zamanımız tükeniyor: Yapay zeka riskleri kontrol edilemiyor mu?

Aria ajansında program direktörü olarak görev yapan David Dalrymple, yapay zeka teknolojisinin hızlı gelişiminin güvenlik önlemlerini geride bırakabileceğini belirtmiştir. Guardian'a yaptığı açıklamada, insanların teknolojinin artan kapasitesi konusunda ciddi endişeler taşıması gerektiğini vurgulamıştır. Dalrymple'a göre, insan medeniyetinin kontrolünü sürdürebilmesi için kritik olan alanlarda yapay zeka sistemleriyle rekabet edemez hale gelmek tehlikesi bulunmaktadır.

Yapay zeka güvenliği konusunda anlayış farkı

Dalrymple, kamu sektörü ile yapay zeka şirketleri arasında teknolojinin gücü konusunda önemli bir anlayış farkı olduğunu ifade etmiştir. Araştırmacı, işlerin gerçekten hızlı bir şekilde ilerlediğini ve yapay zeka güvenliği perspektifinden bunun önüne geçmek için zamanın kalmayabileceğini tavsiye etmiştir. Dalrymple'ın öngörüsüne göre, beş yıl içinde ekonomik olarak değerli görevlerin çoğunun makineler tarafından insanlardan daha yüksek kalite düzeyinde ve daha düşük maliyetle gerçekleştirileceği söylenebilir. Bu durum, yapay zeka güvenliği konusundaki aciliyet hissini daha da artırmaktadır.

Hükümetlerin gelişmiş yapay zeka sistemlerinin güvenilir olduğunu varsaymaması gerektiğini belirten Dalrymple, bu konuda gerekli bilimsel çalışmaların ekonomik baskı altında zamanında ortaya çıkmayacağını düşünmektedir. Aria ajansı, kamuya açık olarak finanse edilmesine rağmen hükümetten bağımsız bir şekilde araştırma fonlamasını yönetmektedir. Dalrymple, yapay zekanın enerji şebekeleri gibi kritik altyapılarda kullanımını korumak için sistemler geliştirmektedir.

Kontrol ve azaltma stratejileri

Yapay zeka güvenliği konusunda yapabileceğimiz en iyi yaklaşımın, olumsuz yanları kontrol etmek ve azaltmak olduğunu vurgulayan Dalrymple, teknolojik ilerlemenin güvenliğin önüne geçmesinin sonuçlarını güvenlik ve ekonominin istikrarsızlaşması olarak tanımlamıştır. Gelişmiş yapay zeka sistemlerinin davranışlarını anlama ve kontrol etme konusunda daha fazla teknik çalışmaya ihtiyaç olduğunu belirtmiştir. Dalrymple, ilerlemenin istikrarsızlaştırıcı olarak çerçevelendirilebileceğini ve aslında iyi olabileceğini söylemiş, ancak bu geçişin çok yüksek riskli olduğunu ve insan medeniyetinin bir bütün olarak bu sürece doğru uyurgezerlik yapıyor olduğunu ifade etmiştir.

Yapay zeka güvenliği konusundaki çalışmalarında, Dalrymple işlerin daha iyi gitmesini sağlamaya çalışmaktadır. Ancak bu çabalar, yapay zeka teknolojisinin hızlı gelişimi karşısında yeterli olup olmadığı sorusu gündeme gelmektedir. Araştırmacı, yapay zeka sistemlerinin yeteneklerinin tüm alanlarda hızla geliştiğini ve bazı alanlardaki performansın her sekiz ayda bir ikiye katlandığını belirtmiştir.