助手任务选择表

任务评估 · 2026-11-17

引入 AI 工具之前:澳大利亚官方实施指南怎么建议

围绕 AI 工具导入,澳大利亚国家人工智能中心(National AI Centre)的《AI 采用指南:实施指南》(Guidance for AI adoption: implementation guidance)给出的切入点是 6 项基本实践。官方页面说明,先明确责任,再理解影响、管理风险并共享关键信息;从对当前系统和风险最重要的领域开始,不必一次做完。这份指南面向需要加强 AI 治理的团队,适用对象包括构建或定制 AI 系统、以更复杂方式使用 AI、管理更高风险用例、需要更强控制与监督、需要更详细或专门指南的团队;较早阶段的组织先看基础指南(foundations guidance)。

AI 工具导入:指南的适用与用法

官方页面说明,指南用于加强治理、管理风险并保持人类监督。页面把部分实践放在全组织层面,包括治理框架、清晰角色、AI 登记册(AI register)和供应链问责;另一些行动落在单个 AI 系统和具体用途上。同一个工具因使用方式不同,风险可以很不一样:内部聊天机器人与招聘或客户决策中的 AI 风险不同。页面提示逐一审查每个用途,并考虑系统随时间被复用、组合或误用的可能。治理决策、测试、事件和监控记录要清晰保留,以支持审计、审查和持续改进。

责任与治理:先明确谁负责

官方页面说明,AI 系统可以做出显著影响个人、社区和企业的自动化决定。总体上,组织最终对 AI 的使用方式和场景负责;AI 复杂性可能造成缺口,使结果无人承担明确责任。问责被列为负责任使用 AI 的第一步。

页面列出,分配、记录并清晰沟通谁负责 AI 管理系统的运行,包括安全负责任的政策、实践和程序,每个 AI 系统的开发与部署及持续人类控制和监督,对第三方开发和使用 AI 系统的监督,全组织测试,对关切、挑战和补救请求的监督,以及管理系统绩效和持续改进。对每个责任人,页面还列出定义并沟通所需能力和权限,确保有适当技能的人员和必要资源。

供应链方面,页面列出识别、记录并沟通模型开发者、系统开发者和系统部署者在整个生命周期中的共享责任,涉及性能、质量与安全的监控评估,人类监督和干预,以及问题、故障、失败、事件、争议结果、问题解决和系统更新流程。开发者对下游组织在集成、定制、增强其提供的 AI 模型或系统时的责任和义务也需要记录和沟通,包括风险、预期行为、预期用例下的结果和变化的透明度;合同义务可能因客户而异。

页面还列出评估并记录建立广泛 AI 理解和问责文化所需培训,提供培训弥补差距,定期检查技能是否更新;责任人的培训需求涉及法律和监管义务、个人身份信息、操作控制干预或终止每个 AI 系统、监督监控每个 AI 系统、采购开发或部署第三方 AI 系统,以及安全负责任地开发 AI 系统。治理框架方面,页面列出记录并沟通组织开发和部署 AI 系统的战略意图、相关法规及合规方式、安全负责任开发部署政策、流程和目标,包括端到端设计和开发流程、目标,以及人员违反政策和风险偏好的后果;管理系统还要主动识别缺陷和不合规,记录根因和纠正措施,规划变更,识别记录可能影响责任履行的内外部因素,提供人力和算力等资源,并监控政策合规差距。

从任务到影响:逐个用途看

官方页面说明,AI 系统可以高速、大规模运行,潜在影响往往被放大。没有仔细规划,一个 AI 系统可能带来广泛负面结果,例如不公平决定或不准确信息。AI 系统会从数据中学习并放大已有问题,如不想要的偏见;页面举例,如果招聘筛选中的 AI 有偏见问题,可能在没人注意前不公平地拒绝数百名合格候选人。负责任使用需要理解、规划和监控潜在影响,并让受影响者能够投诉和获得帮助。

页面列出,记录可能受影响的利益相关者类型(如员工和最终用户)及其需求,优先选择并记录哪些需求将在组织政策和程序中处理,记录并沟通防止对人造成伤害以及维护多样性、包容和公平的承诺。每个 AI 系统要记录范围,包括预期用例、可预见误用、能力、限制和预期背景;参与利益相关者,识别并记录潜在利益和伤害,包括对弱势群体的影响、不想要偏见或歧视输出的风险、个人信息的使用,以及系统对个人或群体做出或影响决定的情形。对每项记录在案的伤害风险,页面列出进行适当的利益相关者影响评估(Stakeholder Impact Assessment),并持续接触受影响利益相关者,识别新利益相关者,包括 AI 生命周期内的最终用户。

反馈和补救方面,页面列出创建、记录并沟通流程,让潜在受影响利益相关者提出关切、挑战或补救请求并获得回应,例如人权申诉和补救机制;流程包括沟通时间和频率、细节水平、沟通需求,并考虑 AI 知识水平和监管要求。页面还列出评估内部和外部利益相关者及相关方的可争议性要求,包括无障碍需求;实施并记录系统级机制,使 AI 使用和决定可被理解、挑战和上诉,机制需可访问、可理解,并在互动中的适当时机向用户提供。页面还列出监控和评估可争议性与补救流程,以识别和处理系统性风险。

风险管理:按 AI 特性和用例评估

官方页面说明,AI 风险会随系统类型和复杂性发生根本变化。风险常常来自 AI 系统在不同情况和用例中的行为,而不只是软件更新;小问题可能被迅速放大。页面举例:一个在营业时间回答简单问题、可由员工监控的聊天机器人,是低风险的 AI 使用;如果同一聊天机器人 24/7 运行、没有人类监督并回答更复杂问题,风险就会扩大。

框架方面,页面列出创建并记录针对 AI 特性和风险的风险管理框架;组织级风险容忍度和标准,用于确定可接受与不可接受的风险,包括对受影响利益相关者潜在伤害的严重性和可能性;AI 影响评估、风险评估和风险处理流程,包括生命周期中的重新评估标准;识别并记录构成不可接受风险的特定用例或特性。风险流程包括识别、评估和处理来自 AI 供应链其他方的风险,如第三方开发者和第三方部署者;开源 AI 模型、系统和组件的特定风险应由这些技术的提供者和消费者考虑。页面列出数据表(data sheets)、模型卡(model cards)或系统卡(system cards)等报告格式,用于沟通包括剩余风险在内的风险管理结果。

评估方面,页面列出建立分诊系统,确定哪些 AI 系统可能构成增强或不可接受风险;对每个 AI 系统的特定要求、特性和记录在案的用例进行风险评估和评价,包括第三方供应商开发或采购的系统。评估步骤包括识别对利益相关者伤害的潜在严重性和可能性,借鉴利益相关者影响评估;识别法律、商业和声誉风险,如未履行法律义务、组织对 ESG(环境、社会及治理)、多样性、包容和无障碍的承诺;考虑生命周期各阶段潜在放大和新兴的数据治理风险,包括模型训练前后;使用风险模型分析风险来源和路径;将估计风险值与预先确定的组织风险标准或监管机构、利益相关者定义的标准比较;记录代表不可接受风险水平的特定用例或特性;以清晰报告格式沟通风险评估。

控制与事件方面,页面列出创建、记录并实施风险处理计划,优先选择并实施处理选项(如风险规避、转移、接受、降低)和控制措施,实施后重新评估以验证有效性;创建并记录部署计划,包括剩余风险发生时的响应、恢复和沟通;研究、记录并实施安全措施的领先实践,作为适合已识别风险的保障。事件方面,页面列出跟踪、记录并在合理时间范围内向相关监管者和/或公众报告严重事件及可能纠正措施;报告未遂事件和纠正措施是良好实践;沟通纠正措施时考虑隐私和网络安全风险。页面还列出评估并履行报告和披露义务,例如与 AI 系统使用相关的《在线安全法》(Online Safety Act)义务,以及澳大利亚信息专员办公室(Office of the Australian Information Commissioner)的可通知数据泄露机制(Notifiable Data Breaches scheme)。

信息公开:AI 登记册与透明度

官方页面说明,人们应当知道自己何时在与 AI 互动,并理解 AI 决定何时影响自己。例如,当客户从聊天机器人获得服务和指导时,应当知道这不是人类专家。负责任使用 AI 需要告诉用户和利益相关者何时、如何与 AI 互动。

AI 登记册是集中记录全组织所有 AI 系统重要细节的地方。页面列出创建并维护最新、全组织范围的每个 AI 模型和系统清单,细节足以告知关键利益相关者并支持未来符合性评估,包括责任人、目的和业务目标、能力和限制、来源、微调和更新(如适用)、技术要求和组件、用于训练和测试的数据集及其来源、验收标准和测试结果、影响和风险评估及结果、已识别风险、潜在影响和风险处理计划、系统审计要求和结果、审查日期;页面提到可参考 AI 登记册模板(AI register template)。

透明度方面,页面列出创建、记录、实施并沟通政策流程,向 AI 用户和直接接触 AI 系统、AI 辅助决定或 AI 生成内容的受影响利益相关者说明何时、如何被告知 AI 的开发、部署和使用,以及系统的能力、限制和潜在风险;沟通要考虑时间和频率、细节水平、AI 知识水平、沟通义务和无障碍需求,并酌情纳入反馈机制。对每个 AI 系统,页面列出评估并记录每个用户和受影响利益相关者群体的透明度要求,透明度和可解释性的系统要求与措施,包括第三方提供的系统,取决于用例、利益相关者要求和披露风险。页面说明,尽可能选择更可解释、可说明的系统;对 AI 模型或系统的能力和限制进行内部测试,并在部署前向部署者清晰沟通结果。供应链透明度方面,页面说明开发者和部署者需要合作共享信息,建立能向所有方清晰沟通 AI 系统信息的机制,并记录或向上游提供者请求技术细节。

核对清单

  1. 官方页面写明指南面向的团队类型:构建或定制 AI 系统、以更复杂方式使用 AI、管理更高风险用例、需要更强控制与监督、需要更详细或专门指南;并写明较早阶段的组织先看基础指南(foundations guidance)。
  2. 官方页面写明 6 项基本实践,并列出全组织层面的安排包括治理框架、清晰角色、AI 登记册(AI register)和供应链问责。
  3. 官方页面在单个 AI 系统范围部分写明预期用例、可预见误用、能力、限制和预期背景;页面还写明逐一审查每个用途,并考虑系统随时间被复用、组合或误用。
  4. 官方页面在风险评估部分列出利益相关者影响评估(Stakeholder Impact Assessment)、组织级风险容忍度、风险处理计划,以及数据表(data sheets)、模型卡(model cards)或系统卡(system cards)等报告格式。
  5. 官方页面在事件报告与披露部分提到《在线安全法》(Online Safety Act)相关流程,以及澳大利亚信息专员办公室(Office of the Australian Information Commissioner)的可通知数据泄露机制(Notifiable Data Breaches scheme)。
  6. 官方页面提到 AI 登记册模板(AI register template),并列出透明度沟通中关于何时告知、告知细节、AI 知识水平、无障碍需求和反馈机制的要求。

资料来源

← 全部文章