OpenAI AlignmentはLASERを公開しました。軽量classifierとreasoning modelを反復的に組み合わせ、まれで曖昧な会話を安全評価用に選ぶpipelineで、raw user dataにはaccessしないと説明しています。 安全評価は大量random samplingから、policy境界付近の高情報量dataを集める運用へ進みます。企業が同様の仕組みを採る場合、de-identification、graderの一貫性、偏り、human reviewの基準を明示する必要があります。 安全評価のlong tailをLASERで集める OpenAI Alignmentは2026年10月6日、LASERを公開しました。LASERはLogistic Augmented Sampling over Embeddings, Recursivelyの略で、まれで曖昧な会話を安全評価用に見つけるpipelineです。軽量なclassifierで候補を選び、reasoning modelでlabelを付け、その結果で再びlogistic modelを更新するcycleを回します。 数時間で多様な境界事例を選ぶ OpenAIは、従来はresearcher、engineer、policy specialistが何度も調整していた評価data作成を、LASERでは数時間のautomated pipelineに置き換えられると説明しています。初期sampleではpolicyに沿うsynthetic conversationsを作り、それに近いde-identified conversationsとrandom sampleを合わせます。その後、embeddingとlabelを使ってdisallowed probabilityが50%付近のdecision boundaryを重点的に選びます。 random samplingよりgrader computeを大幅に減らす LASERが狙うのは、violent illicit behavior、self-harm、sexual contentなど、慎重なpolicy判断が必要な領域です。OpenAIによると、通常のrunではgrade対象の約2件に1件が最終的にdisallowedとlabelされます。一方、policyによってはrandom sampleでのdisallowed base rateが約20,000件に1件になる場合があります。このため、同程度のdisallowed examplesを見つけるgrader computeは、およそ1万分の1で済む可能性があるとしています。 privacy前提と自動評価の限界を分けて扱う OpenAIは、LASERがraw user dataへaccessせず、synthetic and de-identified conversationsだけで動くと説明しています。実務上は、これは安全評価の効率化であって、policy判断を完全に自動化するものではありません。企業が同様の仕組みを使う場合、de-identificationの基準、reasoning graderの一貫性、評価setの偏り、human reviewでの確認方法を明示し、model更新ごとに再評価できる体制が必要です。