助手任务选择表

框架入门 · 2026-11-19

NIST 人工智能风险管理框架是什么,适合谁用

NIST 的官方常见问题页面介绍了人工智能风险管理框架,面向设计、开发、使用或评估人工智能技术的人,也讨论不同规模、行业和运营范围的组织如何使用该框架。框架旨在帮助人工智能系统的开发者、使用者和评估者,更好地管理可能影响个人、组织、社会或环境的风险。

人工智能风险管理框架是什么

人工智能风险管理框架简称 AI RMF,是一套自愿使用的框架。公共部门和私营部门的组织都不被要求使用它。

框架旨在促进创新方法的开发,以应对人工智能的可信特征。这些特征包括有效且可靠、安全、具有安全性和韧性、可问责且透明、可解释且可理解、增强隐私保护,以及公平并对有害偏见加以管理。

NIST 希望在人工智能技术和系统的设计、开发、使用与评估中培养信任,以增强经济安全并改善生活质量。框架由 NIST 与公共部门和私营部门合作开发。

框架面向哪些人和组织

NIST 表示,框架应当有助于设计、开发、使用或评估人工智能技术的人。使用者是框架面向的对象之一。

框架使用的语言面向广泛读者,包括高级管理人员和非人工智能专业人士。同时,它保留了足够的技术深度,以供多个领域的实践人员使用。

框架应当能够适用于不同规模的公共或私营组织,涵盖各个行业,以及在一国内或跨国界运营的组织。

可信特征如何应用

NIST 指出,框架使用者和人工智能相关参与者应当在人工智能技术和系统的设计前、设计与开发、部署、使用、测试与评估阶段,考虑并纳入可信特征。这些特征和原则通常被认为有助于人工智能技术、系统、产品和服务的可信程度。

分别处理每一项可信特征,并不能保证人工智能系统值得信赖。不同特征之间经常需要权衡。在具体情境中,所有特征很少全部适用,有些特征可能更重要,有些则可能不那么重要。

NIST 表示,可信程度最终取决于每一项特征,以及不同的人工智能相关参与者、受影响的个人和社区如何看待这些特征。

配套资源如何使用

NIST 与公共部门和私营部门合作制作了配套的 Playbook,作为帮助组织运用框架各项功能的自愿资源。其中包含来自行业最佳实践和研究成果的可操作建议。

对于寻求如何实现 AI RMF 各项功能成果的具体指导的组织,Playbook 提供了一种选择。组织可以根据所属行业的使用场景或自身关注点,借鉴适用的建议,数量可以多,也可以少。

Playbook 属于 NIST 可信与负责任人工智能资源中心。对 Playbook 的意见随时受到欢迎,意见将每半年审查和整合。

框架的制定与更新

NIST 在制定框架时征求了公共部门和私营部门的意见。框架以共识为基础,通过开放、透明、协作的过程制定和更新。AI RMF 1.0 于 2023 年 1 月 26 日发布。

AI RMF 1.0 旨在成为一份持续演进的文件。NIST 会定期审视框架的内容和实用性,以判断是否适合更新。2025 年 7 月 23 日的白宫人工智能行动计划要求 NIST 开展若干工作,其中包括修订 AI RMF 1.0。

核对清单

  • 核对框架的目标,以及自愿使用的说明。
  • 核对框架面向的人员和组织范围。
  • 核对框架列出的可信特征,以及不同情境下的适用性和权衡。
  • 核对人工智能技术和系统的哪些阶段涉及可信特征。
  • 核对 Playbook 为组织提供的建议及其使用方式。
  • 核对 AI RMF 1.0 的发布信息和更新安排。

资料来源

← 全部文章