借助 Anthropic 的 Claude Cowork 等平台创建人工智能智能代理变得愈发简单,不少企业正陷入AI 智能代理无序泛滥的困境。
企业 AI 智能代理数量过多,尤其是多个代理重复执行同类任务,会给企业 IT 部门带来网络安全与管理难题。内容概要
随着 AI 智能代理在企业中普及落地,AI 智能代理泛滥现象愈发突出,衍生出管理混乱、网络安全隐患、成本攀升等一系列问题,各大企业正疲于应对。
人工智能智能代理正在企业间快速普及,不少积极落地应用的企业已开始提前规避智能代理数量过多引发的各类风险。
来福车(Lyft)、达维塔医疗(DaVita)、吉特实验室(GitLab)等企业向《华尔街曰报》表示,目前都在应对 AI 智能代理激增的挑战,希望在不抑制员工使用 AI 积极性的前提下,管控无序扩张问题。
这一现象被称作AI 智能代理泛滥。部分原因在于,依托 Anthropic 的 Claude Cowork 等平台,即便无技术背景的普通员工也能轻松创建独立 AI 机器人。可用于调度多智能代理的开源工具 OpenClaw,也进一步助推了职场 AI 代理的普及。
但企业表示,智能代理数量泛滥、尤其多个代理重复执行相同任务时,会给企业 IT 部门带来网络安全风险与管理难题,同时大幅推高算力成本。
梦龙冰淇淋公司美洲区首席信息官迈克尔・弗里德兰德表示:“既然人人都能随手创建 AI 代理,最终必然会出现大量员工拥有同类功能代理的情况。”
弗里德兰德称,这家冰淇淋巨头未来需要对内部海量自建 AI 代理进行整合与集中管控,同时尽量不扼杀员工的创新使用空间。
“后续会涉及调用令牌计费、成本开支等问题,最终我们必须解决如何规范化管理,让整体开支符合财务合规要求。”
市场研究与 IT 咨询机构高德纳(Gartner)数据显示:未来两年,全球财富 500 强企业平均将运行超 15 万个 AI 智能代理;但仅有 13% 的企业认为自身已建立完善的 AI 代理治理机制。
管控泛滥带来的各类风险
目前职场白领主要用 AI 智能代理编写代码、邮件摘要、客户服务、数据分析等基础工作;更复杂的智能代理已被用于深度调研、全业务流程自动化等场景。
风投机构 Sapphire Ventures 联合创始人兼总裁杰伊・达斯表示:这些 AI 代理可能运行在员工个人笔记本、企业服务器或其他内部系统中,导致 IT 部门难以全面追踪管控。
知名信用评分企业费埃哲(FICO)首席客户官兼首席信息官迈克・特凯称,公司 3500 名员工每天都会新建数十个 AI 智能代理。
“几乎每天都有新代理被创建,公司各个层级都在使用。”
这类代理既有用于邮件管理、撰写简报的个人级机器人,也有可维护多项目数据集的大型业务智能代理。
费埃哲现已出台治理规范,避免多个 AI 代理针对同一问题输出相互矛盾的结果。特凯表示:“我们已意识到其中潜藏的风险。”
达维塔医疗首席信息官马杜・纳拉辛汉透露,公司员工已创建超 1 万个 AI 智能代理。出于网络安全考量,这家肾病医疗企业禁止消费级 AI 代理工具接入企业内网。“我们服务病患,必须在安全可控的前提下规模化应用 AI。”
达维塔还自研了内部平台,可按需调控 AI 推理调用、管控令牌成本,同时为高效优质的 AI 代理加大资源投放。
集中整治无序机器人
越来越多企业技术高管主动出手管控 AI 智能代理,防止泛滥问题进一步恶化。
网约车平台来福车 AI 转型执行副总裁杰森・沃格里内克表示,公司已全员开放 Claude 使用权限,并搭建了 IT 合规的技能共享机制—— 预设指令模板,帮助 Claude 代理处理特定工作任务。
来福车还在搭建集中管控平台,由 IT 统一管理所有 AI 代理。沃格里内克称,作为承担多项监管义务的上市公司,代理泛滥会带来巨大合规挑战。
Anthropic 表示,已上线多项企业管理功能,支持基于角色的权限配置、开支管控、使用数据分析、审计日志以及精选插件库等 IT 管理员必备能力。
GitLab 首席信息官马努・纳拉扬称,公司现有的治理规则与风控机制,已有效遏制 AI 智能代理过度无序扩张。
不过短期来看,智能代理泛滥也存在一定正向价值。
纳拉扬表示:“短期内 AI 代理泛滥在所难免,我们对此保持包容,因为人工智能本身蕴藏巨大发展机遇。”
责任编辑:郭明煜
bb体育app下载,星空下载,
bb体育下载相关资讯:xingkong.com,