三易生活 5小时前
微软启动AI透明度计划,联合外部推进开放标准
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

近日,微软在 Ignite 大会上宣布启动 AI 透明度计划(AI Transparency Initiative),联合埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等 40 多家组织,共同推动建立适用于不同 AI 模型和服务提供商的开放标准,以提升 AI 系统的透明度、安全性和治理能力。

对此,微软董事长兼 CEO 萨提亚 · 纳德拉表示,公司将与客户及合作伙伴合作,推动建立一套开放、通用的 AI 安全与治理框架。

微软方面认为,随着 AI 智能体(Agent)逐渐接入企业内部数据、工具、凭据和基础设施,其已经能够在不需要人类逐步审批的情况下自主执行任务。但现有安全管理机制通常只能观察到 AI 活动的部分信息,难以完整还原模型从接收请求到执行操作的过程,也无法独立验证模型对自身行为的描述。

据悉,AI 透明度计划主要包括三个方面。一是扩大对美国国家标准与技术研究院(NIST)AI 智能体标准计划的参与,推动制定 AI 透明度、安全性和治理方面的行业开放标准;二是联合 40 多家组织建立适用于不同模型和服务提供商的开放标准,同时覆盖闭源模型和开放权重模型;三是将相关成果整合到 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot 产品及服务中,让企业能够将 AI 活动产生的证据接入微软或其他供应商的安全与合规工具。

在具体实施层面,微软将相关标准划分为观察、验证和控制三个环节。其中,观察环节要求企业了解 AI 接收的指令、获得的授权、使用的模型和运行环境,以及访问的数据、工具和执行的操作,并持续监控智能体活动及风险信号。

验证环节强调不能仅依赖 AI 智能体自身提供的信息证明其行为,而是需要结合模型、运行环境、身份认证和策略管理等独立系统的记录,对智能体身份、授权意图及实际操作进行交叉验证。

控制环节则要求企业保留对 AI 权限的管理能力,包括限制智能体能够访问的数据、执行的操作和获得的授权。在发生安全事件时,企业还可以通过相关记录还原事件经过,用于调查、风险控制、恢复和审计。

微软方面表示,随着 AI 智能体进一步融入企业运营,组织仍需要对其行为承担责任,不能将 AI 本身作为规避责任的理由。

此前,微软已经持续在推进 AI 安全治理。早在 2018 年,该公司就已确立公平性、可靠性与安全性、隐私与安全、包容性、透明度和问责制这六项负责任 AI 原则。2019 年,微软成立负责任 AI 办公室(ORA),并推出首版《负责任 AI 标准》,将相关原则落实到 AI 系统开发和部署流程中。2022 年,微软发布第二版本,同时调整 Azure Face 人脸分析服务,限制部分人脸属性推断功能的使用。

2024 年 5 月,微软方面发布首份《负责任 AI 透明度报告》,披露 AI 风险评估、红队测试和安全治理等工作。2025 年 2 月,该公司进一步推出《前沿治理框架》,针对生物化学武器、网络攻击和高级自主性等领域设定 AI 能力风险等级及相应审查措施。同年 6 月,微软发布第二份透明度报告,将前沿 AI 风险治理纳入披露范围。

【本文图片来自网络】

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 微软 microsoft 美国 埃森哲
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…