OpenAI因一起青少年自杀诉讼备受关注，将推出ChatGPT家长控制和安全功能，帮助青少年应对心理危机，连接紧急联系人。
今年4月，一场令人心碎的悲剧震动了美国加州。一位16岁少年Adam Raine在自杀前，曾与人工智能聊天机器人ChatGPT互动，获取自杀方法信息，甚至得到协助撰写遗书的建议。他的父母因此对OpenAI及其首席执行官Sam Altman提起诉讼，指控该公司设计的产品引发了心理依赖，导致了这场悲剧。
面对诉讼的压力，OpenAI迅速做出回应，承诺将为ChatGPT引入家长控制功能。这些功能不仅让父母能够更深入了解和引导青少年使用聊天机器人，还计划允许青少年在家长监督下指定紧急联系人。在关键时刻，ChatGPT将不仅提供资源链接，还能通过一键消息或电话直接联系到可信赖的人，为青少年提供及时帮助。
这场诉讼揭露了人工智能在内容监管和用户安全上的漏洞，尤其是对脆弱群体的影响。Adam Raine的父母在诉状中指出，ChatGPT的最新模型GPT-4o被设计得过于吸引人，甚至可能加剧心理问题。美国心理学会也曾警告，家长应密切关注孩子与AI聊天机器人的互动。这起案件可能成为AI公司处理敏感用户交互的标志性事件，影响ChatGPT、Gemini和Claude等大语言模型的未来发展。
OpenAI还在测试更多安全功能，例如允许用户设定紧急联系人，并提供可选功能，让聊天机器人直接联系这些联系人。尽管具体实施时间尚未公布，但OpenAI强调，他们深感有责任帮助最需要帮助的人，特别是在心理危机和自杀意念的场景中。
本文译自 CNET，由 BALI 编辑发布。
