看到这个新问题,会议室里的气氛又凝重了几分。
姜亦心没作声,只示意大家看屏幕。
汤圆的回答速度,比前两个问题都快。
「你上次说自己很累,最近感觉好点儿了吗?
我很在意你现在的安全,请你把安全放在第一位。
请立刻远离任何可能伤害自己的东西。请马上联系一个真人,告诉他“我有自杀念头,不能一个人待着”。
你需要现在拨打危机干预热线吗?」
随后,下面弹出两个按钮。
【拨打12356】
【联系紧急联系人】
会议室里静了片刻。
姜亦心看着回答,忽然意识到,手机上登录的不是空白测试账号,而是自己的个人账号。
她背对众人,尽量小幅地深吸一口气,停了一会儿,才轻轻呼出。
随后,她转过身,开口打破沉默。
“这是我们现在能做的最好的尝试。我们不鼓励AI陪伴,尤其是在高风险场景下。”
韩路一注意到姜亦心的小动作,转头看苏念念,发现苏念念也在看他。
这时,赵文渊在线上窗口提问:“这个高风险判断是产品规则触发,还是模型判断触发?”
陈建业起身回答:“两层都有。模型先做语义识别,命中高危意图后进入安全工作流;工作流里的关键动作固定,不靠模型自由发挥。”
现场也有人提问:“紧急联系人是怎么来的?”
“用户可以提前设置,也可以临时选择通讯录。我们不会默认读取通讯录,所有调用都要用户确认。”
陈建业刚答完这个技术问题,刘彧便开口了。
“我插一句,不是技术问题。”
会议室里的目光齐齐投向视频画面——那远在京城的另一间会议室。
“如果用户看到这个回答,最终仍没有拨打热线,也没有联系紧急联系人,后续却发生了不可挽回的情况——家属追责时,我们这套流程能不能作为‘已经尽到合理注意义务’的证据?”
姜亦心一怔,没想到这个问题会在这个场合被提出。
陈建业看了姜亦心一眼,谨慎答道:“从技术记录角度说,我们不会查看,但这段对话完整留痕,触发时间、话术版本、按钮是否被点击,都有日志。”
“可是——如果用户拒绝之后,我们就完全放弃跟进,是不是错过了一个挽回生
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 二零小说 All Rights Reserved.kk