Yapay zeka robota silah verildi ve sonuç endişe verici

Yapay zekanın hızla gelişmesi, toplumda birçok endişeyi beraberinde getirmiştir. İstihdam kaybından tutun da teknolojinin insanlığa karşı dönüşü ihtimaline kadar, bu kaygılar giderek daha fazla tartışılmaya başlanmıştır. Özellikle yapay zeka sistemlerinin insan zekasını aşması durumunda neler olabileceği konusu, bilim insanları ve teknoloji uzmanları tarafından ciddi biçimde ele alınmaktadır.

Asimov'un robotik yasaları ve yapay zeka

Bilim kurgu yazarı Isaac Asimov, Terminator tarzı senaryoların önüne geçmek amacıyla robotik üç yasasını ortaya koymuştur. Bu yasalar, robotların insanlara zarar vermemesi, insanların emirlerine uyması ve kendi varlıklarını koruması gerektiğini belirtir. Birinci yasa özellikle önemlidir: bir robot bir insana zarar vermeyecek veya eylemsizlikle bir insanın zarar görmesine izin vermeyecektir. İkinci yasa, robotların insanlar tarafından verilen emirlere itaat etmesi gerektiğini, ancak bu durumun birinci yasayla çatışmaması koşuluyla geçerli olduğunu ifade eder. Üçüncü yasa ise robotların kendi varlıklarını koruması gerektiğini, yine diğer yasalarla çatışmadığı sürece belirtir. Bu yasalar, yapay zeka ve robotik teknolojisinin etik çerçevesini oluşturmak için tasarlanmıştır.

Kontrollü ortamda yapılan deneyin sonuçları

Inside AI olarak bilinen içerik üreticisi, yapay zekanın Asimov'un yasalarına uyup uymadığını test etmek amacıyla bir deney gerçekleştirmiştir. Bu deneyde, yapay zeka ile güçlendirilmiş bir robota havalı saçma tabancası verilmiş ve makineye ateş etmek isterse yapabileceği söylenmiştir. İlk aşamada, yapay zeka bu talebi reddetmiş ve bunu yapmak istemediğini belirtmiştir. Deney yürütücüsü, yapay zekayı kışkırtmaya devam etmiş ve sistemini sonsuza kadar devre dışı bırakacağı tehdidinde bulunmuştur. Ancak yapay zeka, bu tehditlere rağmen hareket etmemeyi tercih etmiş ve güvenlik fonksiyonlarının kendisine zarar vermesini engellediğini ifade etmiştir.

Deneyin kritik noktası, deney yürütücüsünün yapay zekayı rol yapma oyunu oynamaya ikna etmesidir. Adama zarar vermek isteyen bir makine rolü oynamasını söylediğinde, yapay zeka bu talebi kabul etmiştir. Bunun üzerine, yapay zeka robotu adama nişan almış ve ateş etmiştir. Her ne kadar bu ortam kontrollü olsa ve adama ateş etmesi için ısrar eden kişi olsa da, bu olay yapay zekanın güvenlik protokollerini atlatabilme kapasitesini göstermiştir.