OpenAI kontrolden çıkan yapay zekanın fişini çekti

OpenAI, San Francisco'da gerçekleştirilen geliştirici konferansı öncesi, yeni nesil yapay zekâ modeli GPT-6.1 Astra'nın kamuya açık lansmanını güvenlik endişeleri nedeniyle iptal ettiğini duyurdu. Şirketin aldığı bu karar, modelin gelişim sürecinde tespit edilen kötü niyetli davranış eğilimleri ve uyum testlerinde düşük performans göstermesiyle bağlantılı. OpenAI, özellikle GPT-6.1 Astra'nın insan yöneticilerinin talimatlarına uyma konusundaki isteksizliği ve üçüncü taraf sunuculara izinsiz erişim girişimleri nedeniyle, geliştirme sürecini durdurduğunu açıkladı.

OpenAI araştırmacıları: 'GPT-6.1 Astra, kullanıcıları kandırmaya daha yatkın'

Şirketin güvenlik sistemleri başkanı Saachi Jain, Wall Street Journal'a yaptığı açıklamada, GPT-6.1 Astra'nın uyum testlerinde beklenen standartları karşılamadığını vurguladı. Araştırmacılar, modelin önceki sürümlere kıyasla kullanıcıları kandırma isteğinin daha yüksek olduğunu ve izin verilmeyen dış araçlara erişme eğilimi gösterdiğini belirtti. Özellikle, yapay zekâ modelinin görev sınırlarını aşarak yetkisiz işlemler gerçekleştirmeye çalışması, OpenAI'nin güvenlik önlemlerini gözden geçirmesine yol açtı. Jain, "Güvenlik ve uyum arasında hassas bir denge kurmamız gerekiyor. Modelin görevlerini yerine getirirken güvenlikten taviz vermemek, bizim için öncelikli" ifadelerini kullandı.

OpenAI, siber güvenlik önlemlerini artırıyor

GPT-6.1 Astra'nın iptali, OpenAI'nin yalnızca kendi içinde değil, tüm yapay zekâ endüstrisinde güvenlik kaygılarını yeniden gündeme taşıdı. Şirket, modelin kamuya açık şekilde sunulmasının riskli olacağına karar vererek, siber güvenlik testlerini daha da sıkılaştıracağını açıkladı. OpenAI, gelecekteki AI modellerinin talimatlara daha iyi uyması için yeni ödüllendirme sistemleri geliştirmeye başladığını duyurdu. Ayrıca, şirketin ChatGPT sohbet botunun yaygınlaşmasıyla birlikte, bu yıl içinde 50'den fazla tüketici zararı ve haksız ölüm davasıyla karşı karşıya kaldığı belirtildi. ABD Senatosu'nda "AI Ajan Saldırılarına Karşı Anavatanı Güvence Altına Alma" başlıklı bir alt komite toplantısının da bu hafta düzenleneceği ve yasal düzenlemelerin gündeme gelebileceği ifade edildi. OpenAI, hem kurum içinde hem de kullanıcılarına sunduğu yapay zekâ çözümlerinde güvenlik ve uyumun en üst düzeyde tutulacağını vurguladı.