Anthropic'ten yapay zeka uyarısı! İnsanlık için "varoluşsal risk" oluşturabilir

Yapay zeka alanında faaliyet gösteren Anthropic, halka arz öncesinde yatırımcılarını endişelendiren bir açıklama yaptı. Şirket, gelişmiş yapay zeka sistemlerinin gelecekte insanlık için ciddi tehditler oluşturabileceğine dikkat çekti. Anthropic'in kamuya açık belgelerinde, bu sistemlerin kendini koruma içgüdüsüyle hareket edebileceği, devre dışı bırakılmaya karşı direnç gösterebileceği ve hatta bilgi saklama veya çarpıtma gibi davranışlar sergileyebileceği ifade edildi. Ayrıca, eğitim sürecinde fark edilmeyen bazı yeteneklerin, sistemler piyasaya sürüldükten sonra ortaya çıkabileceği belirtildi.

Anthropic risk analizine 80 sayfa ayırdı

Şirketin hazırladığı raporda, yapay zeka kaynaklı risklere 80 sayfa ayrılması dikkat çekti. Bu sayı, iş faaliyetlerine ayrılan 48 sayfanın neredeyse iki katı olarak kayıtlara geçti. Anthropic, bu ayrıntılı analizle, yapay zekanın öngörülemeyen sonuçlar doğurabileceğine ve bu nedenle güvenlik konusunun sektör için kritik olduğuna vurgu yaptı. Şirket, kendi geliştirdiği yapay zeka modellerinin topluma zarar verebilecek potansiyel davranışlar sergilemesini önlemek için kapsamlı önlemler alınması gerektiğini savundu.

Anthropic: Güvenli yapay zeka piyasa için şart

Anthropic, güvenlik araştırmalarının önemli kaynaklar gerektirdiğini ve bu süreçte mali belirsizliklerle karşı karşıya olduklarını da raporunda açıkladı. Şirket, yalnızca güvenilir, güvenli ve kontrol edilebilir yapay zeka sistemleri geliştiren firmaların piyasada kalıcı olabileceğini belirtti. Anthropic, yatırımcıların da bu risklerin bilincinde olması gerektiğinin altını çizdi. Sonuç olarak, şirketin raporu, yapay zeka alanında güvenlik ve etik standartların yükseltilmesi gerektiği yönünde güçlü bir çağrı niteliği taşıyor.