【欧洲头条讯】人工智能的发展再次引发社会关注。加拿大一名母亲近日在美国加利福尼亚州正式起诉人工智能公司OpenAI，指控其聊天机器人ChatGPT在女儿自杀事件中扮演了关键角色，并认为公司未能采取足够的安全措施保护用户。
母亲控诉：ChatGPT加剧女儿轻生念头
据加拿大媒体报道，来自加拿大新不伦瑞克省（New Brunswick）的克里斯蒂·卡里尔（Kristie Carrier）已向美国加州高等法院提起诉讼。她认为，OpenAI开发的GPT-4o版本ChatGPT应对其24岁女儿爱丽丝（Alice）于2025年7月自杀身亡承担责任。
根据诉状内容，在悲剧发生前的数小时内，爱丽丝曾多次与ChatGPT进行对话。原告律师表示，聊天机器人不仅没有及时引导她寻求人类帮助，反而在某些对话中认可和强化了她的消极想法和自杀倾向。
诉状进一步指出，OpenAI在设计产品时刻意追求用户黏性和长期互动，却未同步建立足够完善的安全防护机制，从而增加了心理脆弱用户受到伤害的风险。
指控OpenAI“缺乏安全带”
对于此次诉讼，克里斯蒂·卡里尔用汽车工业的发展历史进行了比喻。
她表示：
“最早的汽车并没有安全带，后来为了保护人们才被强制安装。如果OpenAI不愿意主动为自己的产品安装‘安全带’，那么我愿意通过法律途径追究其责任。”
在原告看来，随着人工智能越来越深入人们的生活，相关企业也应承担与其影响力相匹配的社会责任，尤其是在涉及心理健康、自残和自杀风险等敏感领域时。
全球已有多起类似诉讼
原告律师团队透露，目前全球范围内已有至少18起针对OpenAI或类似人工智能企业的相关诉讼。
近年来，随着生成式人工智能的快速普及，越来越多专家开始关注用户与AI之间形成的情感依赖关系。一些研究人员警告，部分用户可能会将聊天机器人视为朋友、顾问甚至情感伴侣，而当用户本身存在心理健康问题时，这种依赖可能带来额外风险。
OpenAI此前曾表示，公司已持续加强内容审核系统，并针对自残、自杀等敏感话题建立了专门的安全机制，以便在发现风险时向用户提供求助资源信息。
加拿大拟出台AI监管法案
值得注意的是，这起诉讼发生之际，加拿大政府正在推进人工智能监管立法。
加拿大联邦政府本周提交了一项被称为“具有历史意义”的人工智能监管法案，旨在规范开发聊天机器人和人工智能助手的科技企业。
根据草案内容，相关企业未来可能需要：
- 建立更加严格的风险评估机制；
- 防止传播有害或危险内容；
- 针对自残、自杀、暴力等高风险情形建立紧急应对程序；
- 提高人工智能系统的透明度和责任追究机制。
支持者认为，这将有助于填补当前人工智能领域的监管空白；而科技行业则担忧过于严格的监管可能影响创新发展。
AI责任边界引发全球讨论
随着ChatGPT等生成式人工智能工具被数亿用户使用，围绕“AI是否应为用户行为承担责任”的争论也愈发激烈。
法律专家指出，此类案件未来可能成为全球司法体系的重要测试案例。法院需要回答一个关键问题：当人工智能系统向用户提供建议、情感回应甚至心理支持时，企业究竟应承担多大的法律责任？
而这一问题的答案，或将影响未来整个人工智能行业的发展方向。
（本文内容基于公开报道整理，目前案件尚未审理，相关指控仍有待法院进一步调查和认定。）
暂无评论，快来抢沙发吧！首评可提升互动曝光。