Anthropic CEOのDario Amodei氏は、同社がオープンウェイトモデル全般の禁止を求めていないと明記しました。危険能力を持たないオープンウェイトモデルを公共財と位置付けつつ、強力なチップ管理、産業規模の蒸留対策、十分に高性能なモデルへの安全テストを主張しています。 オープンモデル政策は、公開形態の是非だけでなく、国家安全保障、悪用可能性、モデル能力評価、企業調達のリスク管理をまとめて扱う段階に入っています。 禁止論争ではなく能力管理を焦点に置く Anthropic CEOのDario Amodei氏は、オープンウェイトモデルをめぐる政策議論に対し、同社はオープンウェイトモデル全般の禁止を求めていないと明記しました。背景には、中国発のオープンウェイトモデル利用を米国企業に禁じる案が検討されているとの報道や、複数のテック企業がオープンモデル支持の書簡に署名した流れがあります。Anthropicは、危険能力を持たないオープンウェイトモデルは企業、開発者、研究者に価値をもたらす公共財だと位置付けています。一方で、公開後に重みを回収できない性質があるため、閉じたモデルとは異なる安全上の課題も残ると説明しています。 国家安全保障と悪用リスクを分けて整理 原文は、懸念を二つに分けています。第一は、権威主義的な政府が米国より強力なAIモデルを作り、軍事優位や国内抑圧に使うリスクです。この点では、モデルがオープンウェイトかどうかより、強力なチップと製造装置へのアクセスが重要だとしています。第二は、強力なAIモデルがサイバー攻撃や生物学的攻撃に悪用されるリスクです。オープンウェイトモデルは利用監視やガードレールの適用が難しく、公開後に取り下げられないため、危険能力を持つ場合は閉じたモデルより管理が難しい可能性があります。ただし、米国企業による利用禁止では悪用者を止めにくいとも述べています。 企業の調達判断は公開形態だけで決めにくい 実務上は、オープンかクローズドかの二分法ではなく、モデル能力、提供元、配備環境、監査手段を組み合わせて判断する必要があります。Anthropicは対策として、強力なチップや製造装置を中国に売らないこと、産業規模の蒸留を止めること、十分に高性能なモデルには公開形態を問わず安全テストを求めることを挙げています。企業がオープンウェイトモデルを使う場合も、社内データでの再学習、権限制御、ログ取得、脆弱性対応、モデル更新時の再評価を設計に含める必要があります。競争政策、研究の自由、サプライチェーン安全保障が同じ購買判断に入り込む点が難しさです。 安全テストの基準作りが次の争点になる Anthropicは、オープンモデルが防御側に有利か攻撃側に有利かを事前に断定せず、テストによって判断すべきだとしています。これは、公開形態ごとの理念対立より、危険能力を測る国際的な評価基準と、検証結果に基づく制限をどう設計するかへ議論を移すものです。ただし、効果的なテストにはグローバルな参加が必要で、原文は中国共産党も含む関与が必要になると述べています。今後は、どの能力水準から安全テストを義務付けるか、蒸留の検知をどう実装するか、研究利用と商用利用をどう分けるかが判断点になります。