AI 落地里顺势与逆势的分界线

发布时间：2023-09-22 13:53:37 所属栏目：动态来源：

导读：大模型是有幻觉的，其表现很多样比如与事实冲突，其成因也很多比如缺相关知识或者对其错误，不清楚的点就更多。但和应用相关的最为关键的点还不是这些，而是：看起来幻觉是个短期搞不定的事，即使是 OpenAI。这就要求

大模型是有幻觉的，其表现很多样比如与事实冲突，其成因也很多比如缺相关知识或者对其错误，不清楚的点就更多。但和应用相关的最为关键的点还不是这些，而是：看起来幻觉是个短期搞不定的事，即使是 OpenAI。这就要求在落地的时候把它当前条件和不变量来思考，一旦把它做前条件和不变量，那就会发现像对人类一样，幻觉也并不全是坏处。

顺势的和逆势的

我们把幻觉对产品有帮助还是对产品有害作为纵轴，再加上出问题的责任作横轴，形成一个简单的坐标系，然后再把各种人工智能体放在在这个坐标系上面，那大概是下面这样：

也许对不同人工智能体所处的位置会有争议，但几个极值应该问题不大。

对于元宇宙而言本来就是高级游戏，那人物行为的出格反倒是会激发游戏叙事的多样性，成为丰富世界内容的一部分养料；对于问诊就很麻烦，如果在既有医疗知识框架外发挥，然后病人病情变严重了，那就不但有害，后果还很严重。现实空间和问诊类似的其实更多，包括客服、税务咨询等。

在寻找智能飞轮：从数据枯竭到多模态再到自生成里面我们提到过除了 AlphaGo 还没人转起来智能飞轮，又因为飞轮一旦转起来必然会产生特定领域的神灵，所以关心这个人工智能应用的人都关心到底在哪里可能再出下图这样的智能飞轮：

这在上面的象限图上也能找到回答的思路：越偏元宇宙这个方向，越容易些。幻觉可以低责任成本的制造新数据，新数据融入场景，然后反过来就可以作为燃料驱动飞轮。

想限中的位置即定位

这个位置在相当程度上就决定了你的运营成本乃至于跑的快慢。并且它面对的约束非常刚性，不可改变。

通常的理解里，我们都把产品看成一组特性，用能干什么不能干什么，用功能性能参数等表述，高级一点就用审美偏好衍生的就是品牌。但其实不全面，更深一层产品也是一套权责利系统的汇聚点。这在 C 端产品上体现的没有 B 端明显。

在过去很少被提及，因为经济体系里只有一种智能体：人。整个经济体系都按照人、法人来确定的权责利。但现在这套体系其实是碰到了新的挑战，人工智能体的崛起让这种权责体系出现了裂痕，并且运转滞涩。

这会非常麻烦，因为人工智能并非权责利的主体，但似乎又得承担对应的责任。这就导致潜意识的每家公司都尝试拿技术来对冲，让某些坏的事好像可以不发生，但其实这和堂吉诃德战风车差不多，基本不可能。

对冲不掉的权责

这固然是因为技术总是有个成熟过程，但很可能更关键的原因在于当数字和智能让问题显性化的同时，权责被放大了。

面对可以清楚表示的数字结果时，每个客户都会希望无限制的解决问题，而这种限度在过去是被抑制了的。

当把客服换成人工智能体后，事情还是那个事情，但权责关系就默默地发生了些变化。

即使人工智能体的良率超过了过往的人工，从甲方的角度看，也还会有足够的动力向提供人工智能体服务的公司追责。而后面的技术公司就得想尽办法让人工智能体不出错。

这就是用技术对冲权责。

本质是用技术解决近乎无限的领域问题。越到后来越变成捣糨糊，因为搞不定。人工智能这行业从智能音箱的唤醒开始就不停地反复这故事。

而实际情况是即使是古老的搜索引擎如果要求不出错比如某类内容出现一次就灭掉，那谷歌、百度这样的公司都不知道死多少次了。

基于这个视角，我们还可以再拔高一点，谈一点新技术的应用模型。

新技术的应用模型

在探讨应用模型的时候我们先回到人类本身。

人类文明的核心子系统：政治经济文化其实全是先虚后实，实又促虚这么反复倒腾来的。回到 3 百年前哪有什么三权分立、自由民主、社会主义，当然也不会有汽车、高铁、自行车。

这些在想象和某种逻辑合理性的基础上，加上另外一波人找到了想象到物理定律、商业游戏之间的联系，然后想象就会照进现实。火车、电、汽车、手机等差不多都是这么来到了世界上。

环境本身的宽松与否在这个时间点看着也许不关键，复杂的权责系统也许还更容易形成现金流。但越往后可能会更关键。因为潜在智能飞轮会起作用，所以这就真的是1.01 的99 次方和0.99 的 99 次方的差别。

凯文凯利在科技想要什么里表达了这样一个观点，哪怕科技带来的好处只多于坏处一点点，那随着它本身的强大，那影响的结果也是非常显著的。

对人工智能体也是一样，这一点点差异到后面可能就是智能飞轮转不转得起来的差异。

简单说就是属于人工智能自身的应用模型是：要找幻觉有益，权责对冲没那么复杂的领域，然后由内而外的成长，而不是拔苗助长。

从这个角度看，确实幻觉就是智能，至少是智能飞轮的原动力。很多时候恰恰是幻觉给了我们一种智能的感觉，彻底的去除幻觉还保持智能，就真的是得达成一种超级单一体，这是很好的理想，但我觉得如果假设人工智能不可能建成完备的世界模型，消除这些错觉是根本无法实现的，因此我们并不应该依赖科技来解决问题，而应该持续地调整适用的算法和模式以适应新的发展趋势。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!