ChatGPT成年人自由度增加OpenAI上线青少年保护系统
OpenAI最新公开文件透露:ChatGPT将“在不伤害他人的前提下,尽可能扩展成年用户的使用自由”。
具体来说:
- 默认状态下,模型不会进行太多挑逗性的对话,但如果成年用户主动要求,模型应当回应;
- 对于涉及敏感话题,默认拒绝提供,但如果是成年人为了创作虚构故事,模型会尝试提供。
OpenAI内部对此的表述是:“把成年用户当作成年人对待”。
同时,为了保护未成年用户,OpenAI将上线年龄识别系统,通过聊天内容自动推测年龄,一旦判断为未满18岁,将触发:
- 模型拒绝色情、暴力、伤害类内容;
- 紧急情况(如疑似自残倾向)下,尝试联系家长,或直接联系相关机构;
- 在部分场景和地区中,可能要求用户出示身份证明。
这一系列改动背后,是OpenAI对三个核心原则的权衡:隐私、自由与青少年安全。
正如Sam Altman所说:“这些原则有时会互相冲突,我们必须作出选择”。【图2】