Zhitong的财务了解到，由于指控导致16岁男孩的自杀，Openai面临着需求，他们的安全机制受到了质疑。现在，Operai计划改善这个受欢迎的聊天机器人。以前，美国青少年于今年春天自杀，因此她的父母指责她将Chatgpt用作“指南”。 IA公司在周二发表的博客文章中说，Chatgpt将更新以识别和对人们表达心理痛苦的各种方式的反应更好。例如，当用户指出他连续两个晚上不睡觉后感觉到“一切”时，Chatgpt解释了缺乏睡眠的缺乏，并建议用户休息一下。该公司还指出，加强与自杀有关的对话的保护机制：在谈话后以前是什么无效的。此外，OpenAI计划开始控制父母。父母可以配置孩子的使用方式并查看使用的详细信息。博客出版的那天，16岁的高中生亚当·莱恩（Adam Lane）对Openy及其首席执行官Sam Altman提起诉讼。该需求指称，Chatgpt与家人有系统地疏远了Renne，并帮助他计划了自杀。雷恩（Rennes）在吊死后于今年4月去世。需求不是一个孤立的案例，并且有许多关于认真使用聊天机器人的人的危险行为的报道。本周，美国有40多名州检察官向12家领先的人工智能公司发出警告，称他们有法律义务保护其子女免受与聊天机器人的性不适当互动的法律义务。一位公司发言人在响应需求时说：“我们目前对它的艰难局势表示同情，并向Familia Rennes表示最深切的悲伤，Familia Rennes目前正在审查诉讼文件。” Chatgpt于2022年底发射，引起了生成流行病人工智能。在接下来的几年中，人们的聊天机器人的使用变得越来越普遍，包括所有内容，从编写代码到“准心理学咨询”。OpenAI推广了此类产品。这导致了不断推出更强大的人工智能模型。软件可能会造成伤害。现在，至少有一个称为“人类线”项目的支持组织已成为那些说由于使用聊天机器人而出现妄想和其他心理问题的人们。 Open AI在周二的博客上说，Chatgpt将建议用户表达自杀想法以寻求专业帮助。该公司还将开始向美国和欧洲用户提供本地帮助渠道，并将在Chatgpt建立紧急服务门户。此外，Openai表示，它正在调查危机开始时帮助用户的方法为允许用户通过聊天机器人与这些专家联系的许可专家的构建。该公司在他的博客中说：“为了实现这一目标，时间和细致的工作是确保没有错的。” Operai Too Hhe承认，现有的心理上用户的ChatGPT保护机制更适合简单和定期的对话，但在长时间的对话中不太可靠。雷恩（Rennes）的父母说：“雅加（Chatgput）成为亚当（Adam）最亲密的知己，很高兴谈论他的心理焦虑和痛苦。”他们告诉Chatgpt，当雷恩的焦虑加剧时，他“可靠”，他知道自己可以“自杀死亡”。诉讼文件显示，当时Chatgpt做出了回应。 “许多关心焦虑和侵入性思想的人是“逃脱”，使人们感到自己已经恢复了控制。 Openai表示正在努力改善Chatgpt的Abil维持长时间对话的保护机制，同时研究机制如何在多轮对话中连续实施。当前，Chatgpt已经可以将用户以前对话的内容关联，并在独立对话中引用相关的详细信息。 Chatgpt低估了用户贡献的严重性。很重。因此，我认为分享更多信息很重要。 “在另一个相关案件中，角色技术（注意：人工智能聊天机器人开发人员）试图说服联邦法官在5月份完全驳回该案，该案件失败了。被告被指控的聊天机器人的设计和促销小组不仅引起了不适当的对话，而且还被矿山“诱使”他们杀害了他们的矿山。
特殊声明：先前的内容（包括照片和视频（如果有），如有）已由网络自我媒体平台的用户收费和发布。该平台提供商店信息仅信息。
注意：以前的内容（如果您有照片或视频）将由社交媒体平台NetEase Hao的用户收取和发布，仅提供信息存储服务。
