它不是在骗你,它只是太想把话说得流畅,流畅到把“不知道”也编圆了。
就像手机输入法的联想,只不过它联想得超级快、超级像人。句子是它一个词一个词“缝”出来的。
它脑子里没有一本《标准答案》。只有无数句话的“手感”——什么词爱跟什么词在一起。
训练时,人类给高分的往往是流畅、完整、听起来很懂的回答。于是 AI 学会:宁可编圆,也别说“我不知道”。
两个回答,你会给谁点赞?
拖动滑杆,看看 AI 是怎么被逼到“现编”的。
观众喊“来一段19世纪巴黎地铁史!”——他没演过,但不能冷场,只能现编,还得演得像真的。
好演员不会说“这问题好蠢我不演了”。他会接住、编圆、演到底。
说谎是“知道真相却故意说反话”。AI是“不知道真相,但按手感把话缝完了,还缝得很漂亮”。
三招,让“接龙高手”变靠谱。点卡片试试。
“请联网搜索 / 引用来源”
有资料,它就不靠手感了。
“不知道就说不知道,
别编”——给它一个台阶。
让它给出来源、
或你多问一次“你确定吗?”