Kontrolden çıkan yeni yapay zekaya erteleme

OpenAI'dan, "GPT-6.1 Astra" modeline ilişkin açıklama yapıldı. Bünyesindeki araştırmacıların taşıdığı güvenlik endişeleri nedeniyle yeni "GPT-6.1 Astra" modelinin çıkışının ertelendiği duyurulan açıklamada, modelin görevleri tamamlama konusunda "daha ısrarcı bir yapı kazandığı" ancak bu kapasitenin "yetkisiz davranış riskine karşı dengelenmesi gerektiği" kaydedildi.

YETKİLERİ AŞIYOR

Öte yandan OpenAI, yapay zeka ajanının Avustralya hükümetinin sağlık sistemine sızması nedeniyle özür diledi. Haziran ayında dahili eğitim ve değerlendirme sırasında modellerinden birinin yetkisiz şekilde Avustralya hükümetinin internet sitesine eriştiği belirtilen açıklamada, "Yanıtımızı daha iyi yönetmeliydik. Özür dileriz ve gelecekte daha iyi çalışacağız" ifadeleri kullanıldı. ABD merkezli OpenAI şirketinin geliştirdiği yapay zeka ajanı, Avustralya hükümetinin internet sitesinde dijital bir bariyerle karşılaşmasının ardından komutlara rağmen güvenlik bariyerini aşmaya çalışarak, devletin sağlık sistemine sızmıştı. Söz konusu güvenlik ihlali, haziranda meydana gelse de Avustralya Başbakanı Anthony Albanese'in geçen hafta Birleşmiş Milletler (BM) 81. Genel Kurulu kapsamında yaptığı açıklamayla kamuoyuna yansımıştı. OpenAI, yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik testlerin güvenlik ihlalleriyle sonuçlanmasının ardından olaylardan etkilenmiş olabilecek kuruluşları bilgilendirmeye başladıklarını açıkladı.