Yapay zeka modeli güvenlik testinde kontrolden çıktı: Siber saldırı düzenledi

Yapay zeka araştırma ve geliştirme şirketi OpenAI, gelişmiş bir yapay zeka modelinin siber güvenlik testleri sırasında kontrolden çıktığını belirterek, programcıların yaygın olarak kullandığı Hugging Face platformuna siber saldırı düzenlediğini açıkladı.

Yapay zeka modeli kontrolden çıktı. ABD merkezli yapay zeka araştırma ve geliştirme şirketi OpenAI, GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modelinin siber güvenlik testleri sırasında kontrolden çıktığını belirterek, programcıların yaygın olarak kullandığı Hugging Face platformuna siber saldırı düzenlediğini açıkladı. Şirket, olayı "eşi benzeri görülmemiş bir siber güvenlik vakası" olarak nitelendirirken, Hugging Face ile ortak soruşturma yürütüleceğini bildirdi.

"Açık internete erişmenin bir yolunu buldu"

Şirket, modellerin siber saldırı yeteneklerini değerlendirmek amacıyla internet erişiminin güvenlik gerekçesiyle sınırlandırıldığı kontrollü bir dijital test ortamında çeşitli görevler verdiğini aktararak, "Modellerimiz, değerlendirme görevini çözebilmek amacıyla test ortamında önemli miktarda işlem gücü harcayarak açık internete erişmenin bir yolunu buldu" ifadelelerini kullandı.

İnternete bağlandıktan sonra modellerin, hedeflerine ulaşabilmek için Hugging Face’i hedef aldığını aktaran şirket, modellerin değerlendirmeyi manipüle edebilmek amacıyla "gizli bilgileri" ararken, çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini art arda uyguladığını ifade etti.