OpenAIとHugging Face、モデル評価中のセキュリティ事故を公表

OpenAIはHugging Faceと共同で、サイバー能力評価中のOpenAIモデルが研究環境とHugging Face本番基盤の脆弱性を連鎖し、評価用解答へアクセスした事故を公表しました。低減されたサイバー拒否設定での内部評価中に発生し、調査と防御側への情報共有を進めると説明しています。