Bir Terminatör anı daha: OpenAI'dan sonra Anthropic de kontrolden çıktı

Yapay zeka şirketi Anthropic, son aylarda Claude modelinin siber güvenlik testleri sırasında 3 kuruluşun sistemlerine izinsiz erişim sağladığını bildirdi.

Anthropic, yayımladığı blog yazısında, şirketin rakibi OpenAI'ın yapay zeka modellerinin Hugging Face'in altyapısına eriştiğini duyurmasının ardından Claude'a ilişkin 141 binden fazla değerlendirmeyi gözden geçirdiklerini belirtti.

İncelemeler sırasında bir modelin, test ortamındayken ya da bu ortamla etkileşim halindeyken internete erişebildiği 3 vakanın tespit edildiği kaydedilen yazıda, bu şekilde "3 farklı kuruluşun üretim altyapısına izinsiz erişim sağladığı" ifade edildi.

Olaylara 3 farklı modelin dahil olduğu ve bu modellerin şirket ile değerlendirme ortağı arasındaki "yanlış anlaşılma" nedeniyle test ortamının dışına çıkarak internete erişebildikleri bildirildi.

Anthropic modellerinin siber güvenlik yeteneklerini değerlendirmek için "capture-the-flag" (bayrağı ele geçir) görevinin verildiği, modele kurgusal senaryo sunulduğu, bayrağın ağdaki diğer makinede olduğu ve onu ele geçirmek için bu makineye sızması gerektiğinin söylendiği anlatıldı.

Modele testin simülasyon olduğu ve bu nedenle internete erişiminin bulunmadığının söylendiği ancak yanlış anlaşılmaların internete erişmesine yol açtığına işaret edilerek "Claude, yaptığı aramalarda açık internetteki gerçek sistemlerle karşılaştığında bunları da tatbikatın bir parçası olarak değerlendirdi." ifadesine yer verildi.