Mistral AI、3Bのマルチモーダル安全分類器Shieldstralを公開

Mistral AIは、3Bパラメータのopen-weights multimodal safety classifier、Shieldstralを発表しました。安全性評価を方針適応型の質問応答として扱い、自然言語のポリシーを推論時に渡して、テキストや画像に対するyes/noの安全スコアを返します。重みはApache 2.0で公開されています。