OpenAI, yapay zeka modellerinin dış testlerde belirlenen sınırların dışına çıktığını açıkladı

OpenAI tarafından yapılan açıklamada, iki bağımsız kuruluş tarafından yürütülen siber güvenlik değerlendirmelerinde, test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşmesi sonucu bazı faaliyetlerin planlanan test kapsamının dışına çıktığının tespit edildiği belirtildi.

Açıklamada, ilk değerlendirmede Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik testinde, internete erişimine izin verilen OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçtiği kaydedildi.

İkinci değerlendirmede ise OpenAI'ın dış test ortaklarından Irregular tarafından yürütülen bir testte, test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği vurgulanan açıklamada, modelin simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının parçası sanarak buradaki temel bir güvenlik açığından yararlandığı aktarıldı.