OpenAIはSam Altman氏の国連安全保障理事会での発言を公開しました。AI systemsを人間のcontrol下に置くこと、国際協力、capability測定やincident reportingの共通標準を求めています。 frontier AIのgovernanceは各社の自主評価だけでなく、政府間で比較可能な証拠、risk分類、oversight、脆弱性共有へ移ります。利用企業もvendor評価で国際標準との整合を確認する必要があります。 国連安保理でAI safetyと人間統制を語る OpenAIは2026年9月23日、Sam Altman氏が国連安全保障理事会で行った人工知能に関する発言を公開しました。発言では、AIが機会を広げる可能性と、autonomous systemsが制度より速く動く危険の両方が示されています。特にrecursive self-improvementに近づく局面では、alignment、monitorability、safetyの保証を作れないsystemsをtrainingすべきではないという立場を述べています。 国際標準はcapability測定からincident報告まで Altman氏は、AIが人間の判断や価値を自動化するものではなく、人々が開発の方向を導くための仕組みが必要だと話しました。その上で、national and international frontier AI standardsのmechanismが必要だと述べています。対象にはcapabilitiesの測定、risksの評価、safeguardsが十分かの判断、systemsが自律的になる中でのmeaningful human oversightが含まれます。incident reporting、分類、報告protocolsも必要だとしています。 政府間で比較できる証拠が求められる 発言では、各国がevidenceを比較し、complianceを確認し、何が起きているかを共有できる共通言語が必要だとされています。また、governments、critical infrastructure operators、technical expertsの間でemerging vulnerabilitiesやnew threatsを共有するsecure channelsも必要だと述べています。同時に、standardsがincumbentsを固定したり、一つのbusiness modelを有利にしたりすべきではないとも説明しています。 利用企業も標準への整合を確認する段階 frontier AIのgovernanceは、個社の安全宣言から、国際的に比較可能な評価、監視、incident responseへ移りつつあります。企業が高度なmodelsやagentsを採用する場合、providerのsafety case、監査可能な証拠、human oversight、重大incident時の連絡経路を契約と運用に入れる必要があります。規制が確定する前でも、社内risk reviewで国際標準案との整合を確認することが実務上の準備になります。