AIガバナンス。

AIガバナンスとは、本番で使うAIを取り巻く文書化された管理の仕組みです。自動化ごとの書面の範囲、単独で実行できることの厳格な制限、ログ、基準に照らした出力の検証、エスカレーションの経路、名前のある人の責任が含まれます。NIST AI RMFのような枠組みが構造を与え、理想を並べた方針より具体的な実践が重要です。

エージェント群の各エージェントには、何に触れてよく、何に人が必要かを定めた書面の範囲があります。実行はログに残り、出力は毎月、測定した基準と照らして検証され、不具合は個別に取り繕うのではなく、ガードを設けて種類ごとに直します。企業の購買担当者の審査が求めるのは、この文書化された実績です。