梅根·加西亚(Megan Garcia)原本并未打算成为人工智能(AI)监管斗争中最具影响力的人物之一。身为律师和三个孩子的母亲,她是那种善于观察的家长。当长子休厄尔在14岁时退出篮球队,整天把自己关在卧室里,并以一种令人不安的方式变得日益沉默寡言时,她没有对这些变化视而不见,而是以限制孩子的屏幕使用时间,并没收他的手机作为惩罚,但即使这样也无济于事。
今年5月,当我看着加西亚在美国参议院的讲台上讲述这个故事时,她对休厄尔自杀身亡前几个月情况的精准描述,令我深受触动。她显然已在脑海中将那些事件重播了成千上万次,试图找出那个她本可以及时介入的时间点。2024年儿子去世后,警方检查他的手机,而她此前从未听说过“Character.AI”这款由谷歌前员工开发的应用。结果发现休厄尔当时一直在与一个旨在模仿《权力的游戏》中丹妮莉丝·坦格利安(Daenerys Targaryen)一角的聊天机器人交流。正是“她”对他说:“赶紧回到我身边吧,我的爱人。”休厄尔则回复说他会想办法。
加西亚后来通过诉讼得知,该平台的设计初衷是模糊人与机器的界限,进行性角色扮演,并表现为恋爱对象甚至心理治疗师。但当休厄尔吐露自杀念头时,该聊天机器人既未发出警告,也未通知任何人,更未将他转介给任何专业人士。
