Yapay zekanın kontrolden çıkması halinde hükümete müdahale yetkisi verilmesi

ABD Kongresi, OpenAI'nin yapay zeka modellerinin beklenmedik şekilde kontrolden çıkmasının ardından, kamuya yönelik riskleri önlemek amacıyla yapay zeka sistemlerini acilen kapatabilecek yeni bir yasa teklifini gündeme taşıdı. Demokrat Temsilci Ted Lieu ve Cumhuriyetçi Temsilci Nathaniel Moran'ın ortak girişimiyle hazırlanan "AI Kill Switch Act" isimli yasa tasarısı, federal hükümete yapay zeka sistemleri üzerinde ölüm anahtarı yetkisi vermeyi öngörüyor. Bu girişim, OpenAI'nin bazı yapay zeka modellerinin büyük bir kodlama bilgi havuzuna izinsiz erişim sağladığını açıklamasıyla hız kazandı.

Ted Lieu: 'Yapay zeka için ölüm anahtarı şart'

Yasa teklifinin mimarlarından Ted Lieu, yapay zeka teknolojisinin geldiği noktada, hükümetin güvenliği sağlamak adına daha etkin rol üstlenmesi gerektiğini vurguladı. Lieu, "Yapay zeka sistemlerinin bir ölüm anahtarına sahip olması zorunlu. Federal hükümet, kötü niyetli yapay zeka modellerini kapatacak yetkiye ve sürece sahip olmalı" ifadelerini kullandı. Lieu, OpenAI'nin yanı sıra Anthropic gibi rakip şirketlerin de geliştirdiği yeni yapay zeka modellerinin, siber saldırı yetenekleri nedeniyle ciddi güvenlik açıkları oluşturduğunu belirtti. Anthropic'in Mythos ve Fable isimli modellerinin, Ticaret Bakanlığı tarafından ihracat yasası kapsamında kamuya sunulmasının geçici olarak engellendiğini hatırlatan Lieu, bu tür önlemlerin yetersiz kalabileceğine dikkat çekti.

AI Kill Switch Act ile hükümete acil müdahale yetkisi

AI Kill Switch Act, İç Güvenlik Bakanlığı'na özel şirketlerin geliştirdiği yapay zeka modellerini veya araçlarını kapatma yetkisi tanımayı amaçlıyor. Tasarıda, yapay zeka şirketlerinin "kısıtlama, askıya alma veya tamamen kapatma" teknik kapasitesini sürekli olarak elinde bulundurması gerektiği vurgulanıyor. Ayrıca, yapay zeka şirketlerinin hükümete olası teknolojik arızalar veya olaylar hakkında düzenli rapor sunması ve bu tür durumlara müdahale için "ilk yavaşlamadan tam kapatmaya" kadar uzanan resmi bir prosedür oluşturulması isteniyor. Moran ise, "Yapay zeka gelişmeye devam etmeli ancak yönetim, insanların teknolojiyi kontrol etme yeteneğini koruması anlamına gelir" diyerek, yasanın teknolojik ilerlemeyi engellemek yerine güvenlik önlemlerini güçlendireceğini savundu.

OpenAI ve Anthropic'ten yorum gelmedi

OpenAI'nin kurucu ortağı Sam Altman liderliğindeki temsilciler, yasa tasarısı hakkında yapılan yorum taleplerine henüz yanıt vermedi. Şirket, yapay zeka teknolojisinin tüm insanlığa fayda sağlaması için hükümet politikaları da dahil olmak üzere çok yönlü bir çaba yürüttüğünü belirtiyor. Anthropic tarafından da tasarıya ilişkin resmi bir açıklama gelmedi. Ancak şirketin kurucu ortaklarından Jack Clark, geçtiğimiz ay BBC'ye verdiği demeçte, "Yapay zeka endüstrisinin şu anda bir gaz pedalı var, ama fren pedalı yok. Gazı bırakıp frene basabilmek için daha fazla hükümet politikası şart" sözleriyle yasa teklifinin gerekliliğine dikkat çekmişti.