AWSはTexas Capital Bankが検証するTrust-Earned Autonomyを紹介しました。商業融資文書を読み、plain Englishのrecipe、信頼score、multi-predicate gate、ledgerへのcommitとrollbackを組み合わせるdemonstrationです。 agentが提案からsystem of recordへの書き込みへ進むと、評価軸は正答率から権限の付与と剥奪に変わります。金融機関や規制産業は、自律実行を許す条件、上限、human review、後から取り消す設計を先に決める必要があります。 提案するAIから書き込むAIへの境界線 AWSは2026年10月5日、Texas Capital Bankが検証するTrust-Earned Autonomyのpatternを紹介しました。同社は商業融資文書のdocument intelligenceをすでに本番運用しており、記事はその次の段階として、AIが抽出結果に基づいてsystem of recordへcommitしてよい条件を扱います。今回の構成はproduction workloadではなくdemonstrationで、Apache Fineractとsynthetic dataを使い、ledger writesとreversalを安全に試すものです。 plain English recipeが信頼scoreで昇格する 仕組みの中心は、bank analystがplain Englishで書くversioned prose recipeです。recipeはdocument typeごとにrulesを持ち、どの文言が判断を生んだかを追跡できます。agentのtool setは固定され、document fieldの読み取り、core banking lookup、compliance check、sandboxed math、finding記録、verdict決定など十種類に制限されます。recipeごとのtrust scoreは0から100でnightly recomputeされ、golden replay、reviewer agreement、production runsなどを組み合わせて評価します。 自律commitは八つの条件を通った時だけ Autonomous tierに達しても、各runが自動commitできるとは限りません。記事はmulti-predicate gateとして、recipe tier、kill switch、approve verdict、confidence floor、blocking findingsの有無、daily commit cap、amount cap、mandatory human review samplingなどを挙げています。一つでも条件を満たさなければhuman reviewへ回ります。confidenceは条件の一つにすぎず、単独の判断材料ではありません。この設計は、modelの自己申告だけに依存しない点が重要です。 権限を剥奪し過去commitを戻す設計が要る この実証で実務上もっとも重い論点は、demote-with-rollbackです。scoreがautonomous floorを下回る、単一cycleで大きく悪化する、golden replayに失敗する、といった場合、recipeは早く降格します。さらに、失った権限で過去にcommitした判断をそのまま残さず、取り消す対象を特定する設計が必要になります。金融や医療、公共領域でagentに書き込み権限を与えるなら、昇格よりも剥奪、上限、監査、巻き戻しの手順が導入判断の中心になります。