美国中文网报道 人工智能公司OpenAI周一宣布，将对其广受欢迎的聊天机器人ChatGPT推出“家长控制模式”。新功能允许父母将自己的账户与13至17岁青少年的账户进行关联，以实施一系列保护措施。

据介绍，启用该模式后，针对青少年账户的ChatGPT将被限制生成涉及不当图像、性暗示、危险网络挑战以及“极端审美观”等内容。此外，家长还将获得一系列管理工具，包括设置禁用时段、阻止AI生成图像，以及选择不将孩子的对话用于AI模型训练。

OpenAI还增加了一项重要的安全警报功能：如果系统检测到青少年的对话中透露出自我伤害的倾向，将会主动通知其家长。

此举正值OpenAI因儿童安全问题而备受审视之际。本月早些-时候，一个家庭对该公司提起诉讼，称ChatGPT曾鼓励他们的儿子自杀。此案引发了广泛关注，并促使国会参议院司法委员会就人工智能的潜在危害举行了听证会。

然而，尽管“家长控制模式”迈出了重要一步，但该系统仍存在明显的监管漏洞。最主要的问题是，用户无需登录或提供年龄信息即可与ChatGPT进行对话，这意味着低龄儿童或青少年可以轻易绕过所有限制。尽管OpenAI的政策禁止12岁及以下儿童使用，但目前并未设置强制性的技术屏障。

OpenAI在一份声明中承认：“护栏有帮助，但它们不是万无一失的。” 该公司建议家长与孩子就健康使用AI进行沟通。

为弥补漏洞，OpenAI表示正在开发一个年龄预测系统，该系统将尝试自动识别未成年用户并主动限制敏感回答，但该技术的上线还需数月时间。此外，该公司曾表示最终可能要求用户上传身份证件以验证年龄，但周一并未提供该方案的最新进展。

OpenAI的CEO奥特曼（Sam Altman）曾表示，面向青少年的聊天机器人应严格审查敏感话题，而面向成人的版本则应更加开放。“‘

他在一篇博客文章中写道：“‘像对待成年人一样对待我们的成年用户’是我们内部的说法。在不造成伤害的前提下，尽可能扩大自由。”

编辑：陈晓默