定义
标准 答案。
AI 治理是围绕生产环境中 AI 的那套书面控制体系:每一个自动化的书面范围、对可以自主运行的部分设定硬边界、日志、把输出对照基准做验证、升级路径,以及有名有姓的人来负责。NIST AI 风险管理框架这类框架为它提供结构,而具体的实践胜过写在纸上的愿景。
实际示例
在实际 工作中。
一支智能体队伍里,每一个智能体都带着一份书面范围,写明它可以碰什么、什么需要交给人。运行有日志,输出每月对照实测基准做验证,任何一次失败都作为一类问题用一道防护来修掉,而不是就事论事地打补丁。企业买家的审查要看的就是这份记录。
这项工作在哪里发生: 信任与安全