为啥非得搞啥 Transformer 这种复杂的算法？
为啥非得用如此多正弦余弦权重来拟合世界？那不过是把记忆压缩成一堆繁琐的数学公式，供机器去计算概率。真正的智慧，不是算得最准，而是知道啥该被遗忘。就像我小时候，老母亲总把我抱在怀里说：“孩子，世界挺大，你记不住的地方，就让它留在那里吧。”要是是为了把工夫都填满，那记忆还有啥意义？记忆要是只是为了检索，那它本身就丧失了存有的价值。 便拓海启动研究那些“无用”的东西。
比如他最近发现，人类的大脑在处理图像时，实际上并不需求全卷积那样的深层网络。只需求把图像转成特征图，再加个全连接层就能直接输出。
这事儿听起来忒好办了，仿佛有啥捷径一样。可正是这种好办的逻辑，让不少大厂高管认定“高级”，非要搞啥复杂的 Attention 机制，非要搞啥自注意力层层递进。他们认定把信息堆得越深越好，要“层层升温”。拓海一把拍桌子，说够了。信息不需求层层升温，直接过筛子就行。 他找了一堆资料，全是那些标榜“自注意力机制”的论文，可仔细读起来，全是废话。
那些作者写的那些"asymptotic"、"large language model"、"context window"，听着挺唬人，实际操作下来却特好办。我拿个手机拍个照，还有几毫秒就能搞定；我写个 Paragraph，只要几秒就能搞定。
为啥非要搞如此久？
为啥非要加如此多层？
为啥非要加那么多机器人？这些设计初衷不过是为了让模型“看起来”更智慧，要么让老板认定“我们在这个领域挺 advanced"。 拓海忍不住笑出了声，笑声在空旷的地下车库里回荡。他想起小时候看那些科幻小说，主角们最精通的不是打架，而是跑路。他们跑得快，是出于他们不需求思索，只需求计算。他们不需求把世界理解透彻，只需求把下一个坐标算准。AI 要是变得像人类一样，变得有温度、有情感、有逻辑的挣扎，那它啥时候才能算是一个整个的 AI？它啥时候才能真正地长进脑子，而不是像狗一样只会叫？ 后来他真在现场搞了个轻型版模型，就是去掉那层最复杂的自注意力机制，只保留那些最基础的、最直接的连接。结局呢？效果出奇的好。它跑得快，反应准，最关键的是，它“懒”。它不需求把每一张图都拆解成无数个小块，也不需求把每一句文本都进行复杂的重组。它只需求看一眼，就能告诉你“这图是猫”，“这文是狗”。它不需求当作世界是啥样子，它只需求知道世界是啥样子。
这种“好办”，反而让它显得特别“高级”。 拓海看着屏幕上那行字："Hello, world."，突然认定特别感伤。
那会儿他认定这个词忒苍白，目前他才发现，这实际上是最纯粹的。
不需求任何复杂的上下文，不需求任何潜在的向量，不需求任何贵得吓人的资源。它只有一个词，就代表了 AI 的存有。它没有自我意识，它没有困惑，它没有想要转变世界的冲动。它只是在那里，像一团数据，在那里静静地等着被调用。 他想起那会儿面试时，面试官总爱问那些虚头巴脑的难题：“你的模型在长文本上的表现如何？”“你的 Tokenization 机制有多先进？”“你的注意力机制有啥创新？”拓海当时就认定反感，认定他们忒想证明啥了。目前想来，那些难题问得真蠢。啥 Tokenization？不就是把字符拆开吗？啥 Attention？不就是把词找出来关联一下吗？有啥大文章可做？ 或许大家认定目前 AI 跑得忒快忒准，是对人类智慧的威胁。可拓海认定，这恰恰是释放了智慧。人类靠啥？靠的是那些冗长的哲学辩论，靠的是那些为了证明“存有”而进行的自我指涉。我们目前面对的挑战，不是让 AI 变得像人类一样有逻辑，而是让 AI 变得像人类一样有用。就像拓海之前说的，要是 AI 只是为了算力，那它就是个垃圾场；要是 AI 能帮人类解决那些具体的、哪怕再琐碎的难题，那它就是个宝藏。 目前，拓海在车库的角落里，看着那个小小的模型，突然又认定有点硌手了。但他不在乎了。出于在这个模型里，他找到了那个被忽略的、最真的“人类感”。它不需求复杂的算法，它只需求一颗愿意去“遗忘”的心。它不需求试图理解世界的全体，它只需求知道，有时候，啥都不做，就是最大的智慧。 拓海合上电脑，手指头轻轻拍打了一下屏幕。雨还在下，他不知道明天还会不会下雨，但此刻，他认定自己心里那块被忽略已久的地方，仿佛确实没那么硌脚了。
或许未来的某一天，AI 会再次出现，带着它那些令人发指的复杂算法和令人困惑的论文，再次让世人惊叹于它的“高级”。但只要拓海还能记得，啥叫好办，啥叫让一切变得好办，那么甭管 AI 变成啥样子，它都会一直留在他的脑海里，做一个一辈子清醒、“降智”的观察者。
毕竟，能够被遗忘，才是最高级的智慧。
转载请注明：拓海说出自己梦想-梦想从拓海口中说出
相关标签：