硅基官僚:微软治理“合成劳动力”的尝试
分析师预计,到2028年,全球劳动力将吸纳约13亿个人工智能代理。它们不会像沉睡的后台应用程序那样运作。它们将更像是不知疲倦的同事,能够做出决策、与系统和人类协商,并端到端地执行任务。它们从不打卡下班,从不休假,从不退休。然而,它们可能会产生“幻觉”、泄露敏感数据,或者在无人监管时自行失控。
这给每家公司都提出了一个尖锐的问题:如何管理一个行为模式与员工相似但以代码形式存在的“合成劳动力”?11月18日,微软发布了其对该问题的解决方案,并给它起了一个富有企业气息的名字:Agent 365。微软商业应用与代理总裁Charles Lamanna将其称为AI的“控制平面”。实际上,它更像是一个我们熟悉的事物。可以将其视为代码版的人力资源部门,拥有完整的入职流程、访问凭证、绩效追踪,以及当场解雇行为不当的数字员工的权力。
“合成员工”的崛起
Agent 365基于一个简单而有力的理念:自主软件代理需要像管理人力员工一样严格的治理。你不会允许一个随机的承包商拿着万能钥匙在每个办公室里随意走动。同样的逻辑现在也适用于AI。
为强制执行这一逻辑,Agent 365使用了一个统一的注册中心,作为IT环境中所有代理的“单一事实来源”。无论这些代理运行在微软平台、存在于开源框架内,还是连接到Adobe和ServiceNow等第三方生态系统,都无所谓。该注册中心将它们全部视为一个合成劳动力队伍的一部分进行追踪。
这种设置旨在解决许多团队已经感受到但很少察觉到的一个日益严重的问题。随着代理从简单的聊天机器人演变为能够触发工作流和移动数据的成熟执行者,“影子AI”正成为一个非常真实的威胁。未注册的代理可以在幕后悄无声息地自动化任务,并在没有正式监督的情况下运行。这个隐形的自动化层可能会在任何人察觉之前就已经出现不当行为。
Agent 365试图照亮这个黑暗空间。它推动组织实行强制性代理注册,确保每个数字工作者都有身份、角色和所有者。这样一来,IT管理员可以迅速定位未经授权的代理,对其进行隔离,并在问题蔓延之前阻止它们使用公司资源。换句话说,如果一个代理没有出现在名单上,它就无法进入“大楼”。
身份成为新的安全边界
微软设计中最引人注目的转变是将身份置于安全的核心。Agent 365与微软Entra集成,为每个获批代理颁发唯一的“代理ID”。该系统不再仅仅关注“墙壁”和防火墙,而是将每个代理视为一个拥有特定权限的独立身份。
这种方法将经典的“最小权限”原则应用于AI。代理不会获得广泛、模糊的访问权限,从而避免日后被滥用。它只获得执行其应完成任务的权限。仅此而已。
这种架构直接解决了早期技术审查中反复强调的一个风险,即代理越权。在旧模型下,代理有时可能会以无人完全预料到的方式在系统中“漫游”。在Agent 365下,代理不能随意在网络中漫游,随意探查看起来有趣的东西。自适应的、基于风险的访问策略将其“框定”在内。
如果一个代理开始行为异常,系统会像对待一名接受调查的员工一样处理它。也许它开始处理不应触及的敏感数据,或者试图与列入黑名单的外部服务进行交互。在这些时刻,微软Defender和Purview会介入。它们可以实时撤销代理的凭证,并将其完全锁定在系统之外。从管理角度来看,这感觉非常熟悉。公司只需当场解雇这名数字员工,并在“门口”收回其凭证。
治理与能力之间的差距
Agent 365的防护措施看起来很坚固,但实际情况却更为微妙。来自IT和安全团队的早期反馈表明,大多数人欢迎这个控制层,但他们仍然质疑其下许多代理的能力。
CTOL.digital的独立分析指出,代理质量存在明显差异。一些利用特定SharePoint知识库的代理能够提供强大的价值。它们表现得像智能的内部搜索层,能够理解公司背景并精确呈现信息。对于日常员工来说,这些代理感觉就像是恰好存在于内网中的能干同事。
通过Copilot Studio构建的自定义代理并非总能获得同样的好评。它们中的许多仍然受困于过时知识、“幻觉”答案和笨拙的文档链接。它们在演示中可能看起来令人印象深刻,但在处理混乱的现实世界内容时却会“磕磕绊绊”。控制平面能够强制执行的功能与代理能够可靠完成的任务之间的这种差距,造成了一种每个购买者最终都会面临的紧张局面。
Agent 365试图通过“Work IQ”和更丰富的遥测数据等功能来弥补这一差距。这些工具让管理员更清楚地了解代理的性能、人们使用它们的频率以及它们实际带来的投资回报。这个想法类似于人力团队的绩效仪表板,只是针对算法员工进行了调整。
然而,一个完善的控制平面并不能自动产生一支智能的代理队伍。强大的治理可以预防灾难,但它无法神奇地将一个困惑的助手变成一个出色的助手。微软现在面临一个微妙的平衡。公司需要确保Agent 365严格的安全态势不会扼杀自主代理最初所承诺的创造力和生产力。
新经济的运营护栏
Agent 365的出现标志着一个转折点。公司正在走出轻松的AI实验阶段,直接迈入AI合规时代。随意启动代理的新奇感正在消退,一种更为清醒的心态正在形成。
对于大型企业而言,“代理操作系统”的概念不再停留在理论层面。它已成为一种管理上的必需品,就像拥有人力资源系统或身份平台一样。组织越是依赖自主代理来处理实际工作,就越需要一致的流程来注册、监控并在必要时关闭它们。
微软正大力押注,认为安全扩展AI的唯一途径是使其官僚化。通过依靠Entra和Purview等现有框架,公司无需重新发明技术堆栈的每个部分。相反,它将针对AI的控制措施叠加到熟悉的现有基础设施之上,以便安全和合规团队可以将合成员工纳入现有工作流程。
随着各组织准备在未来几年内吸纳数十亿合成员工,这种“脚手架”开始看起来不再是可选的工具,而更像是基础设施的“管道”。Agent 365旨在提供核心基础设施,使这支庞大的数字劳动力队伍保持规范。目标直接但雄心勃勃:让新的合成劳动力放大公司的实力,而不是用混乱、困惑和未见的风险来压垮它。
