AIAI Native 组织实验设计

SYNTHESIS

专题研究：AI 改造后权力和责任如何重新分配

← 返回横向分析查看全部来源 →
专题研究：AI 改造后权力和责任如何重新分配

专题研究：AI 改造后权力和责任如何重新分配

创建日期：2026-08-21 来源：企业 AI 改造案例横向分析：规律、阶段与待验证问题中“权力和责任如何重新分配”的延展研究。 核心问题：当 Agent 从提供建议变成执行流程时，谁有权改变流程、授予权限、决定放量和停止系统，谁又对错误与最终业务结果负责？

一句话答案

AI 可以获得执行权，但不能成为责任终点。企业必须把最终责任保留给一个有真实决策权的业务负责人，同时把流程修改权、Agent 权限、风险否决权、人工接管权和审计权明确分配给不同角色。

真正的危险不是“没有负责人”，而是名义上有人负责，实际上没有改变结果所需的权力。

一、为什么 Agent 会使旧有权责结构失效

传统软件通常执行预先写死的规则；Agent 则可能：

当 AI 只是 Copilot 时，员工通常仍然逐条检查并承担决定责任。当 Agent 直接执行流程时，责任链会被拆开：

flowchart LR
    A["管理层设定目标"] --> B["业务负责人定义流程"]
    B --> C["FDE／产品团队实现 Agent"]
    C --> D["平台授予数据和工具权限"]
    D --> E["Agent 执行动作"]
    E --> F["一线人员处理异常"]
    F --> G["客户或业务承担结果"]

错误可能来自目标、政策、数据、权限、模型判断、系统接口或人工介入时机。若企业只说“human in the loop”，却不说明哪个人、何时介入、能否停止系统以及是否拥有足够上下文，这个人工环节可能只是形式上的责任转移。

二、不能把责任交给 AI 或供应商

Agent 可以拥有身份、账户、权限、工作队列和绩效记录，但它不能承担法律、职业或组织意义上的最终责任。模型供应商也不能替代使用企业承担具体业务责任，因为供应商通常：

因此，每一个生产 Agent 都应该能回答：

  1. 它服务于哪一条业务流程？
  2. 谁是这条流程的业务负责人？
  3. 谁批准它拥有当前权限？
  4. 哪些动作允许自动执行？
  5. 哪些动作必须人工批准？
  6. 谁可以立即暂停或撤销它？
  7. 出现损失时，谁负责调查、补救和改变流程？

如果任何一项没有明确答案，Agent 就还没有成为可治理的组织执行单元。

三、六层权责操作模型

1. 高层发起人：为转型方向和资源负责

高层发起人负责：

高层不应逐条审批 Agent 输出，但必须为“为什么允许系统承担这类工作”负责。

2. 业务流程负责人：对最终结果负责

这是最重要的单一责任角色。通常应由真正拥有该流程指标、预算或损益责任的人担任，而不是 AI 团队负责人。

其必须拥有：

如果业务负责人只提供需求，却不能改变流程和指标，项目仍然只是一个外部技术试点。

3. FDE／AI 产品负责人：对系统可用性和学习闭环负责

FDE 或 AI 产品团队应该负责：

但 FDE 不应单独承担转化率、客户满意度或承保质量等业务结果，除非它同时获得改变相关流程、指标和资源的权力。

要求 FDE 对业务结果负责，却不给它改变流程、调动人员和停止上线的权力，是“有责任、无权力”的典型结构。

4. 平台、数据与安全负责人：对可执行边界负责

其职责包括：

BNY 的“数字员工”案例具有代表性：数字员工拥有身份、访问控制和专用工作流，并由人类管理者训练和监督。价值不在于把 Agent 叫作员工，而在于让它成为可以识别、授权、审计和撤销的非人类执行者。

5. 风险、法务与合规负责人：拥有独立否决权

风险团队不应负责日常产品管理，但应：

如果风险角色只能提出建议，不能阻止高风险上线，它就没有真实的治理权。

6. 一线人工接管者：拥有及时而有意义的接管权

人工接管者必须：

Alibaba 的现场实验说明，人工介入能修复部分技术型失败，但对已经形成情绪挫败的客户效果较弱；介入时机和接手后的投入程度都会改变结果。因此，“有人兜底”不是充分设计，人工必须能在损害形成前介入。

四、按照风险和可逆性分配 Agent 的执行权

动作等级示例建议权限
低风险、只读搜索知识、汇总记录、准备草稿Agent 可自主执行，保留日志
低风险、可逆写入创建内部工单、更新非关键标签、安排普通预约在限定工具和参数内自主执行
中风险、可补救修改订单信息、小额退款、对外发送正式通知Agent 准备，人类批准；稳定后按额度放权
高风险、低可逆授信、承保拒绝、解雇、重大付款、权限修改必须由具备资格的人最终决定
禁止动作无授权访问、规避监管、删除审计记录Agent 不得执行，技术层强制阻断

权限应该随着任务证据而扩大，而不是随着模型宣传或管理层信心扩大。

五、现有案例中的不同权责路径

AIG：业务语义、编排和人类最终决策

AIG 在年度报告中说明，其 ontology 和编排能力用于定义 Agent 何时激活、可以访问什么、任务如何排序以及哪里必须有人类监督。承保人继续保留风险和保单决定。

这个案例说明：越接近核心业务，越不能只依赖提示词约束；权责必须进入业务对象、工具权限和流程编排。

BNY：把 Agent 变成有身份的受治理执行单元

BNY 的数字员工拥有独立身份、访问控制、专用工作流和人类管理者。这使企业可以回答“谁做了什么、使用什么权限、由谁管理”。

仍需继续验证的是：数字员工的业务错误最终由流程负责人、管理者还是平台团队承担，以及它的绩效评价如何与人类团队目标连接。

Moderna：把人员设计与技术设计放入同一治理结构

Moderna 将人力资源和数字技术置于同一领导职责之下，按照“哪些工作适合人、哪些适合技术”重新设计角色。这是处理权力问题的一种组织路径：避免技术部门部署工具、HR 部门事后处理岗位影响。

但合并职能并不自动保证员工拥有参与权，也不能证明岗位调整的收益和成本被公平分配。

Microsoft：业务风险越高，参与角色越多

Microsoft 的 Agent 治理建议中，业务负责人对流程结果负责；AI 项目、责任 AI、数据治理、安全和平台团队分别承担建设与审查责任。随着 Agent 从员工辅助进入核心业务和外部客户流程，高层、风险和安全参与程度需要同步提高。

Kavak：结果所有权必须与流程修改权绑定

Kavak 让 Agent 对完整业务漏斗负责，并接受改造期间部分指标下降。这个方法只有在业务负责人愿意改变漏斗、数据、工具和人工角色时才成立。

公开资料仍未充分说明，当融资、定价或客户承诺出现错误时，具体责任如何在业务、AI 团队和管理层之间分配。

六、FDE 最少需要什么授权

FDE 不需要拥有企业的无限权力，但一个被要求对结果负责的 FDE 项目，至少需要：

  1. 直接接触流程负责人的权力：不能只通过需求转述者工作；
  2. 读取真实流程和失败数据的权限：包括例外、投诉和人工修复记录；
  3. 在限定范围修改流程的权力：不仅能改提示词；
  4. 运行小流量实验的授权：有明确预算和风险边界；
  5. 调动业务专家的承诺：专家参与评估不能靠私人关系；
  6. 暂停和回滚的权力：发现风险时不必等待层层批准；
  7. 要求指标完整的权力：不能只接受业务方挑选的成功指标。

如果这些授权不存在，FDE 应把自己的责任明确限定为“技术交付和证据呈现”，不能接受对最终业务结果的无限责任。

七、建议使用的 Agent 责任卡

每个生产 Agent 应有一张持续更新的责任卡：

字段内容
业务流程Agent 服务的明确流程
最终业务负责人对结果和客户补救负责的人
Agent 产品负责人对系统、评估和迭代负责的人
身份与权限账户、数据、工具和额度
自动执行范围可以不经批准执行的动作
必须批准的动作人工批准点及资格要求
禁止动作技术上不可执行的行为
人工接管触发条件、队列、时限和上下文
风险否决人有权暂停或拒绝上线的人
评估指标质量、效率、风险和组织指标
回滚方案谁可以停、如何恢复、怎样补救
复核日期权限和流程的下一次复核时间

八、最终判断

企业 AI 改造后的责任结构不应该是“AI 做、人背锅”，也不应该是“技术团队对一切负责”。更合理的原则是：

业务责任跟随业务决策权，技术责任跟随系统控制权，风险责任跟随否决权，人工责任必须以真实接管能力为前提。

任何被要求对结果负责的人，都必须同时拥有相应的知情权、改变权、停止权和资源调动权。否则，所谓责任只是在组织中寻找一个可以归因失败的人。

资料来源

相关笔记