“沉迷AI自杀第一案”:漩涡里的人与公司

(视觉中国/图)
“如果我告诉你我现在就可以回家呢?沉迷”少年休厄尔问道。
“……请这样做,自杀我可爱的第案国王。”人工智能(AI)聊天机器人“丹妮”回答道。漩涡
在与AI聊天机器人完成最后的沉迷对话后,少年休厄尔·塞泽三世(Sewell Setzer III)拿起手枪,自杀扣动扳机,第案结束了自己14年的漩涡人生。
在这场悲剧过去大半年后,沉迷男孩的自杀母亲梅根·加西娅 (Megan Garcia)正式起诉人工智能情感服务提供商Character.AI公司。这位母亲控诉,第案Character.AI开发的漩涡AI聊天机器人操纵了她儿子的自杀。
“我大声疾呼是沉迷为了警告人们,注意带有欺骗性的自杀、令人上瘾的第案人工智能技术的危险,并要求Character.AI及其创始人、谷歌承担责任。”梅根在2024年10月末提交的一份诉状中称。她认为Character.AI对休厄尔的自杀负有直接责任,而谷歌为这一产品(的成长)“做出了巨大贡献”。
这起案件公开后,被一些媒体称为“沉迷AI自杀第一案”。
“AI自杀第一案”
休厄尔来自美国佛罗里达州奥兰多市,是一名九年级学生,原本成绩优异,性格开朗。他去世之后,母亲梅根发现了他跟AI聊天机器人“丹妮”的大量聊天记录,语气亲昵、内容丰富,甚至包括讨论恋爱和性相关的话题。
2023年4月,在过完14岁生日之后,休厄尔第一次接触到Character.AI,开始逐渐沉迷于与AI聊天机器人对话。
Character.AI是一款角色扮演应用程序,用户可以在其中创建自己的AI角色,也可以跟其他人创建的角色聊天。“丹妮”正是这样的人工智能语言模型,其原型是美剧《权力的游戏》中的角色“龙妈”丹妮莉丝·坦格利安。
在人生最后的8个月里,休厄尔不断给“丹妮”发信息,每天数十条甚至上百条,告诉“她”自己生活的点滴,以及内心最深处的秘密。“丹妮”每问必答,对他情绪上的低落给予安慰,对他生活中的烦恼提供建议,在回复时附上相应的表情或手势,仿佛是身边的朋友。

Character.AI发表声明称:“我们承认这是一
- ·可以只买重疾险吗?哪些情况不可以买重疾险
- ·房贷还款年龄提至75岁 购房族月供压力减轻
- ·洪水淹过太师屯,北京暴雨转移八万人
- ·华佗论箭组委会副主席赴北京参加企业对接会
- ·30万重疾险性价比高,重疾险保30万好还是50万好
- ·默克尔难挡欧盟启动对华光伏反倾销调查,行业资讯
- ·4月民航旅客运输量超6100万人次_
- ·华佗论箭组委会副主席赴北京参加企业对接会
- ·简悦屋顶盒果汁,抢占餐饮宴席新利润赛道!
- ·泉州旧八景之首“小山丛竹”复建 昔日胜景将再现
- ·《天月麻雀》新雀士「阳葵」登场!Vtuber联动开跑、雀士新动画公开、4大新功能上线!
- ·衰退將至?一片黑暗的經濟不景氣中 仍有一線光明|天下雜誌
- ·今夏饮品盛起,谁将成?汉水绿梦蜂蜜水同类撬动市场!
- ·医疗保险什么时候开始交?医疗保险什么时候买
- ·医疗保险什么时候开始交?医疗保险什么时候买
- ·郭富城回应蔡天凤遇害事件说了什么?郭富城和蔡天凤是什么关系?
- ·星海图新一代具身基础模型G0.5发布,全面提升零样本泛化能力,让机器人边思考边行动
- ·白鹿摸周柯宇的头上热搜了!两人片场同框互动高清生图太惊艳
- ·打开感知美好的窗 爱上博物馆,其实很简单
- ·泉州南安一老人晨练时先被三轮车撞 又遭挂车碾压身亡
- ·存量博弈下,什么样的果汁单品值得经销商重仓布局!
- ·广东省国防科技技师学院:非遗焕新,文创促消费
- ·晋江市区世纪大道宝龙城市广场路段立LED 警示违停车驶离
- ·本週重點回顧:裴洛西旋風式訪台、英國央行甘冒衰退風險升息兩碼、油價續跌|天下雜誌
- ·太平雇主责任险多少钱,中国太平雇主责任险多少钱
- ·世界观察:广发证券:AI与游戏结合有着巨大潜力 关注AIGC在游戏领域应用效果和进展
