助手任务选择表

学习场景 · 2026-11-18

青少年与生成式 AI:澳洲 eSafety 的立场说明

青少年使用 AI 时,澳大利亚 eSafety 专员(eSafety Commissioner)的《Generative AI – position statement》(生成式人工智能立场说明)说明,与生成式 AI 有关的可能威胁不只是理论上的,现实世界中的伤害已经存在。页面列出基于真实儿童图像生成儿童性剥削和虐待材料、生成看似真实成年人的性内容后勒索、以及通过冒充人类对话进行操纵等伤害,并认为系统性风险需要紧急考虑。该页面讨论生成式 AI 的定义、背景、机会与风险、行业做法和用户可查信息,面向公众说明澳大利亚在线安全与儿童安全场景中的立场。

青少年使用 AI:生成式 AI 的定义与区别

页面说明,「生成式 AI」这一术语描述使用机器学习创建数字内容的过程,内容包括新的文本、图像、音频、视频和多模态体验模拟。页面写道,生成式 AI 与其他形式 AI 的区别在于,其模型可以生成新的输出,而不只是像其他机器学习系统那样进行预测和分类。

页面解释,支撑 AI 的机器学习使用人工神经网络处理信息;这些数学系统按人脑结构组织,通过在用训练的数据集中寻找统计模式来「学习」技能。用于生成式 AI 的神经网络建立在庞大的数据集上,并用类似人类的「参数」处理;这些参数是界定某事可以如何完成或制造的要素或限制。

页面列举的应用包括:文本聊天机器人,即设计来模拟与人类对话的程序,例如 Anthropic 的 Claude、Bing Chat、ChatGPT、Google Gemini 和 Snapchat 的 My AI;图像或视频生成器,例如 Bing Image Creator、DALL-E 2、Midjourney 和 Stable Diffusion;语音生成器,例如 Microsoft VALL-E。

页面列出的可能机会与已存在的伤害

页面写道,近期进展使生成式 AI 快速改进,原因包括可用的训练数据更多、人工神经网络得到增强并拥有更大的数据集和参数,以及计算能力更强。页面提到,一些专家现在声称 AI 系统正在迅速走向「human-competitive intelligence」。页面说明,这几乎可能影响生活的各个方面,既有正面方式,也有负面方式。

页面列出生成式 AI 工具可能增强在线安全的一些机会:更有效、更大规模地检测和审核有害在线材料;提供以证据为基础、可扩展、易于理解且适合年龄的支持,以满足年轻人的需求;增强学习机会和数字素养技能;就数据收集和使用中的同意问题,建立更有效和更稳健的对话。

页面明确写道,与生成式 AI 有关的可能威胁不只是理论上的,现实世界中的伤害已经存在。伤害可能无意发生,原因包括用于训练的数据或模型存在缺陷,例如使用有偏见的信息进行训练。

页面也列出故意有害的使用方式:滥用生成式 AI,基于真实儿童图像生成儿童性剥削和虐待材料;生成看似显示真实成年人的性内容,然后通过威胁分享来勒索该人。页面还写道,生成式 AI 可通过令人信服地冒充人类对话、以高度个性化的方式回应来操纵和虐待他人,这类回应常常类似真实的人类回应。

系统性风险与相关方角色

页面认为,系统性风险也需要紧急考虑。生成式 AI 正被纳入主要搜索引擎、生产力软件、视频会议和社交媒体服务,并预计会整合到整个数字生态系统中。页面写道,应注意理解每个应用的人类风险、如何预防这些风险、伤害发生时怎么办、还需要哪些研究,以及如何确保行业提供足够的透明度和问责。

页面指出,所有相关方,包括技术开发者、整合或提供该技术接入的下游服务、监管者、研究者和公众,都应意识到生成式 AI 的潜在伤害,并在应对中发挥作用。

Safety by Design 的三项原则

页面在「新兴良好做法」部分写道,在线行业可以通过采用 Safety by Design(安全设计)方法发挥主导作用。Safety by Design 建立在三项原则之上:服务提供者责任、用户赋能与自主,以及透明度和问责。

页面说明,技术公司可以通过确保在产品生命周期的每个阶段纳入安全措施来坚持这些原则。eSafety 页面同时写明,eSafety 认识到需要保障用户权利、保留新工具的益处并促进健康的创新。

用户建议中关于数据与报告的信息

页面在「Advice for users」(用户建议)部分写道,理解生成式 AI 内容如何开发的系统、流程和商业模式是有帮助的。当服务生成内容时,它可能使用从开放网络获取的数据;这些数据可能包括关于你的信息,或来自你的数字足迹的信息,例如你的聊天历史或与生成式 AI 工具的「对话」。页面写道,你可能能够通过关闭聊天历史、选择哪些对话用于训练 AI 模型来管理你的数据。

页面指出,可以在 The eSafety Guide 中找到 Bing、Google Gemini、Chat GPT and GPT-4 等流行生成式 AI 服务的信息。页面的其他链接也列出 The eSafety Guide 覆盖的 ChatGPT、Google Gemini、Claude、Grok、Meta AI、Replika、Microsoft Copilot、Perplexity 和 Bing。页面还写明,可以向 eSafety 报告严重有害的在线虐待及非法或受限内容。

常见问题

页面列出哪些进一步资料主题?

页面列出这些主题:生成式 AI 生命周期;风险、伤害与机会;监管挑战与方法;eSafety 的做法;新兴良好实践与 Safety by Design 措施;用户建议。页面还提供一个可下载的立场说明 PDF,标注大小为 5.24MB,页面标注最后更新日期为 05/11/2026。

「Converge」系列中生成式 AI 与儿童安全一版讨论什么?

页面介绍 eSafety 的「Converge」系列,该系列考虑一种技术与伤害的汇合。其中《Generative AI and child safety》(生成式 AI 与儿童安全)一版探讨生成式 AI 与儿童性剥削和虐待的交集;页面说明,这一版讨论其普遍程度、影响,以及 eSafety、行业和更广泛数字生态系统在减少伤害中的作用。页面还列出批判性思维、虚假新闻与错误信息、Catfishing、数字福祉、分享学校照片和视频等资源,并提到社交媒体年龄限制及社交媒体「禁令」或延迟的常见问题。

核对清单

  1. 核对 eSafety 页面「Advice for users」部分是否说明生成内容可能使用从开放网络获取的数据,以及这些数据可能包括关于你的信息或来自你的数字足迹的信息。
  2. 核对页面是否把关闭聊天历史和选择哪些对话用于训练 AI 模型列为可能的数据管理方式。
  3. 核对页面中关于 The eSafety Guide 的说明:它列出哪些生成式 AI 服务,以及它如何描述保护个人信息和报告有害内容。
  4. 核对页面列出的可向 eSafety 报告的内容类型:严重有害的在线虐待,以及非法或受限内容。
  5. 核对 Safety by Design 的三项原则:服务提供者责任、用户赋能与自主,以及透明度和问责。

资料来源

← 全部文章