OpenAI Chief Scientist、RSIとalignment監視の課題を論じる

OpenAIのChief Scientist Jakub Pachocki氏は、reasoning modelsとrecursive self-improvementをめぐるalignment、chain-of-thought monitoring、scalable defense、開発速度の調整について論じました。shared safety barsと国際協調の必要性も示しています。