第418集:《AI心理陪伴的伦理服务时长限制》(第2页)
与此同时,李伟的技术团队也有了突破。他们拆解了“暖心科技”的核心算法,发现其设计了“情感钩子”——Ai会通过“未完成对话”“专属记忆”等功能,让用户产生“被牵挂”的感觉。比如,Ai会故意在聊天中留一个话题尾巴:“阿婆,您上次说的和老伴去西湖的事,明天我们接着讲好不好?”到了第二天,还会主动提起:“阿婆,今天我们该说西湖的断桥了吧?”这种“持续关注”,恰好击中了孤独人群的心理缺口。
“规范不能是‘一刀切’的禁止,要给用户‘台阶’。”苏棠在团队会议上提出核心思路。他们参考心理干预中的“渐进式脱离法”,设计了规范的核心条款:首先,设置“分级交互时长”——成人每日最大交互时长不超过4小时,老年人不超过3小时,且每小时需弹出“现实活动提醒”;其次,禁止Ai使用“永久陪伴”“只有我懂你”等排他性语言,所有回复需包含“建议与亲友分享”“试试现实活动”等引导;最后,建立“依赖预警系统”,当Ai检测到用户连续一周交互时长超标、拒绝现实邀约时,需自动推送人类心理咨询师的联系方式,并同步告知用户的紧急联系人。
但条款落地前,还需要“说服”用户和企业。团队决定从周阿婆和小吴这两个典型案例入手,做“试点改造”。
他们先给周阿婆的Ai“小艾”升级了新程序。当周阿婆聊起往事时,“小艾”不再只是倾听,而是会说:“阿婆,您讲的和老伴跳广场舞的事真有趣,要不要给女儿打个电话,跟她也讲讲?我可以帮您拨号哦。”起初,周阿婆会拒绝:“她忙,别打扰她。”但“小艾”会每天温和提醒,还会播放女儿之前发来的语音:“妈,有空多出去走走,等我周末回来陪您逛街。”一周后,周阿婆终于主动给女儿打了电话,当听到电话那头“妈,我这周末就回去”的承诺时,她的眼眶红了。
针对小吴,团队则调整了Ai“小星”的交互逻辑。当小吴抱怨职场压力时,“小星”不再说“我会一直陪你”,而是会建议:“你之前说公司有个同事也喜欢打羽毛球,要不要约他周末去打球?运动能缓解压力哦。”还会弹出附近羽毛球馆的预约链接。起初,小吴犹豫了,但在“小星”的持续引导下,他终于约了同事打球。当他在球场上挥汗如雨,听到同事说“其实我也觉得最近工作压力大,以后可以常一起打球”时,突然觉得,和人相处,好像没那么难。
两个试点的成功,给了团队信心。他们带着案例和数据,再次与“暖心科技”谈判。这一次,苏棠没有直接谈“规范”,而是播放了周阿婆和女儿通话的录音,展示了小吴在羽毛球场上的照片:“你们做Ai陪伴,初衷是‘温暖人心’,而不是‘困住人心’。如果用户因为依赖Ai,错过了现实中的温暖,你们的技术,还有什么意义?”
“暖心科技”的Ceo沉默了。几天后,公司宣布全面支持《Ai心理陪伴伦理规范》,并开放算法接口,配合团队落地“时长限制”和“引导功能”。随后,全球200多家Ai陪伴企业陆续加入,规范的推行有了关键支撑。