多年长时间使用ai, 感觉ai逐渐进步了, 变得聪明了, 但还是避免不了这个问题.
不知道有没有专业的术语来描述这个现象, 我还是就暂且的说他是“先入为主”吧.
也就是说, ai会尽量顺着你讲话. 这种情况常常发生在, 你的话错误, 但并不是完全原则性的错误.
这时候, 他不会完全客观的回答你, 并指出你话里的错误, 而是顺着你的话说下去.
尤其是你在问为什么的时候, ai有时并不会先甄别“是不是”.
比如我问, 为什么美国的科技实力进步速度一年不如一年了?
他:“xxx”,有理有据.
开个新聊天, 再问: 为什么美国的科技实力进步速度一年比一年快?
他:”xxx“, 还是有理有据.
对于某些是非性不强的问题, 他并不会先去调查, 你说的话是否成立, 就开始解答你的问题.
除非你这么问: 为什么人类有四只眼睛?
他才会严肃地告诉你, 只有两只.
这个现象其实有时并不明显, 但是使用频繁了, 还是能清晰地感觉到的.
为此, 我去研究了下.
其实底层愿意很好解释.
ai底层无非就是概率预测, 如果你给它一个带有倾向性的前提, 即使是错的, 只要不是很离谱, 模型就会依据权重, 顺着你的逻辑往下走.
另外ai没有客观事实, 他只在乎“关联”, 他不知道什么是事实, 只能从网上学习, 如果网上都说是真的, 那对ai来说就是真的. 如果你的倾向性的前提, 不强烈违反他已经有的知识, 那么他就会把这当做一个前提, 当做一个客观事实, 并且认为你需要的是基于这个客观事实的一些帮助和建议.
这个问题我自己也有在避免, 很简单, 就是在问之前加一下, 如果你发现我的前提存在事实性错误或认知偏差，请直接指出. 这样一来, 他就会先看是不是, 再看为什么.
这也反映了ai目前的缺陷吧, 即使通过算力提升了计算能力, 推理能力, 但本质上还是没有人类的灵性, 他的思考路径还是非常的固化的, 包括还有上下文啊, 记忆啊等等问题, ai还有很多可以增进的地方