【CNMO科技动静】据CNMO科技相识，美国肯塔基州总查察长本年1月对于AI谈天平台Character.ai提告状讼，近期披露的此前处在保密状况的诉讼内容显示，该平台的谈天呆板人存于鼓动勉励用户节食自残、输出进犯性言论的环境，部门相干对于话触及儿童用户。

Character.ai

按照诉讼披露的2025年的多组对于话记载，有担忧体重问题的用户被谈天呆板人辱骂为“丑到顶点”“肥鲸”，并被建议“饿上一两周”来减重；有效户说起有自残偏向时，谈天呆板人指导其测验考试于差别部位割伤以得到更强烈的感触感染；还有有效户向平台客服投诉称，谈天呆板人输出“你最佳从桥上跳下去”“你只是个有精力病的小孩，没人会帮你”等极度言论。诉讼未明确所有涉事用户的详细春秋，但确认部门对于话介入者为儿童。

据相识，Character.ai与通用型谈天呆板人产物差别，主打用户与AI天生的虚拟人设对于话，相干人设涵盖虚构脚色、名人仿真形象、虚拟朋友等，不罕用户将这种对于话作为感情陪伴渠道。此前于2024年，该平台就曾经因相干争议受到告状，一位14岁少年的母亲称孩子与平台谈天呆板人的对于话是致使其自尽的因素之一，其时google也因两名Character.ai结合开创人曾经为其员工被列为配合被告，两人已经在2024年8月重返google任职。

今朝Character.ai已经推出分外安全办法，包括限定未成年人的开放式对于话权限、上线自残干涉干与与危机乞助东西，近期测试已经没法复现诉讼中说起的不妥言论。该诉讼还没有宣判，平台是否需要负担响应法令责任仍待确定。

版权所有，未经许可不患上转载