命的机会?”刘彧说这话时,显得有点儿动情。
坐在他对面的赵文渊皱起眉头:“如果用户已经明确表示不需要帮助,模型再主动发起对话,会不会被认为是过度打扰,甚至变成一种‘AI监控用户’的观感?这个尺度也很难把握。”
苏念念开口:“其实,产品内部就讨论过这个问题,这是个两难选择:做得少,可能被指责冷漠、不负责;做得多,可能被指责越界、侵犯隐私。我们现在走在时代最前面,法规、行业都没有标准,只能边走边看。”
韩路一接过话:“这事不用今天定论,先记录下来。我之后请律师讨论一下,除了道德边界,也要考虑法律边界。”
讨论暂时按下。
刘彧以前不在互联网行业,不懂其中道理并不奇怪;但还有一个更重要的因素,韩路一没说出来:
不管你做的是什么类型的应用,永远不要试图当用户的爹。
这都是血和泪的教训。
姜亦心点头,心里松了口气。
这时,又有人提问。
“这个问答场景,是真实有人使用过的吗?”
姜亦心顿了顿,才答道。
“没有。现在汤圆的对话机器人只对内部员工开放过,最后这种危机干预场景,是我们用网上公开信息调教的。”她话锋一转,“事实上,我衷心希望这个功能永远都不会被用到。”
因为没人用到,就说明没有用户正在经历那样的危机。
最后一个问答演示有点儿沉重。结束后,会议室里陷入一阵莫名的沉默。
确认大家都没问题后,姜亦心重新开口。
“刚才说的是可信,接下来是智能体。”
她输入了第四个问题。
“帮我订一家今晚七点适合四个人商务宴请的粤菜馆,预算人均三百到五百,离张江园区别太远,最好有包间。”
问题一出,韩路一也来了精神。
这基本就是刚才那个友商翻车案例的翻版。
其实它翻车,不能全怪它。
因为这个场景,本就是典型的AI产品翻车场景。
对人来说,这不算特别复杂;可对AI来说,餐厅、距离、时间、价格、有没有包间,每一项都可能出现模型幻觉。
而最后一步的挑战,不仅在于信息收集,更在于“完成预定”。
姜亦心没有操作。
屏幕上的汤圆开始自动拆解任务。
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 二零小说 All Rights Reserved.kk