企业面临新的AI难题:智能 *** 泛滥

0561news 5 0

  借助 Anthropic 的 Claude Cowork 等平台创建人工智能智能 *** 变得愈发简单,不少企业正陷入AI 智能 *** 无序泛滥的困境。

企业面临新的AI难题:智能代理泛滥

  内容概要

  随着 AI 智能 *** 在企业中普及落地,AI 智能 *** 泛滥现象愈发突出,衍生出管理混乱、 *** 安全隐患、成本攀升等一系列问题,各大企业正疲于应对。

  人工智能智能 *** 正在企业间快速普及,不少积极落地应用的企业已开始提前规避智能 *** 数量过多引发的各类风险。

  来福车(Lyft)、达维塔医疗(DaVita)、吉特实验室(GitLab)等企业向《华尔街曰报》表示,目前都在应对 AI 智能 *** 激增的挑战,希望在不抑制员工使用 AI 积极性的前提下,管控无序扩张问题。

  这一现象被称作AI 智能 *** 泛滥。部分原因在于,依托 Anthropic 的 Claude Cowork 等平台,即便无技术背景的普通员工也能轻松创建独立 AI 机器人。可用于调度多智能 *** 的开源工具 OpenClaw,也进一步助推了职场 AI *** 的普及。

  但企业表示,智能 *** 数量泛滥、尤其多个 *** 重复执行相同任务时,会给企业 IT 部门带来 *** 安全风险与管理难题,同时大幅推高算力成本。

  梦龙冰淇淋公司美洲区首席信息官迈克尔・弗里德兰德表示:“既然人人都能随手创建 AI *** ,最终必然会出现大量员工拥有同类功能 *** 的情况。”

  弗里德兰德称,这家冰淇淋巨头未来需要对内部海量自建 AI *** 进行整合与集中管控,同时尽量不扼杀员工的创新使用空间。

  “后续会涉及调用令牌计费、成本开支等问题,最终我们必须解决如何规范化管理,让整体开支符合财务合规要求。”

  市场研究与 IT 咨询机构高德纳(Gartner)数据显示:未来两年,全球财富 500 强企业平均将运行超 15 万个 AI 智能 *** ;但仅有 13% 的企业认为自身已建立完善的 AI *** 治理机制。

  管控泛滥带来的各类风险

  目前职场白领主要用 AI 智能 *** 编写代码、邮件摘要、客户服务、数据分析等基础工作;更复杂的智能 *** 已被用于深度调研、全业务流程自动化等场景。

  风投机构 Sapphire Ventures 联合创始人兼总裁杰伊・达斯表示:这些 AI *** 可能运行在员工个人笔记本、企业服务器或其他内部系统中,导致 IT 部门难以全面追踪管控。

  知名信用评分企业费埃哲(FICO)首席客户官兼首席信息官迈克・特凯称,公司 3500 名员工每天都会新建数十个 AI 智能 *** 。

  “几乎每天都有新 *** 被创建,公司各个层级都在使用。”

  这类 *** 既有用于邮件管理、撰写简报的个人级机器人,也有可维护多项目数据集的大型业务智能 *** 。

  费埃哲现已出台治理规范,避免多个 AI *** 针对同一问题输出相互矛盾的结果。特凯表示:“我们已意识到其中潜藏的风险。”

  达维塔医疗首席信息官马杜・纳拉辛汉透露,公司员工已创建超 1 万个 AI 智能 *** 。出于 *** 安全考量,这家肾病医疗企业禁止消费级 AI *** 工具接入企业内网。“我们服务病患,必须在安全可控的前提下规模化应用 AI。”

  达维塔还自研了内部平台,可按需调控 AI 推理调用、管控令牌成本,同时为高效优质的 AI *** 加大资源投放。

  集中整治无序机器人

  越来越多企业技术高管主动出手管控 AI 智能 *** ,防止泛滥问题进一步恶化。

  网约车平台来福车 AI 转型执行副总裁杰森・沃格里内克表示,公司已全员开放 Claude 使用权限,并搭建了 IT 合规的技能共享机制—— 预设指令模板,帮助 Claude *** 处理特定工作任务。

  来福车还在搭建集中管控平台,由 IT 统一管理所有 AI *** 。沃格里内克称,作为承担多项监管义务的上市公司, *** 泛滥会带来巨大合规挑战。

  Anthropic 表示,已上线多项企业管理功能,支持基于角色的权限配置、开支管控、使用数据分析、审计日志以及精选插件库等 IT 管理员必备能力。

  GitLab 首席信息官马努・纳拉扬称,公司现有的治理规则与风控机制,已有效遏制 AI 智能 *** 过度无序扩张。

  不过短期来看,智能 *** 泛滥也存在一定正向价值。

  纳拉扬表示:“短期内 AI *** 泛滥在所难免,我们对此保持包容,因为人工智能本身蕴藏巨大发展机遇。”