本文最初于2026年4月10日公布于主网站.
我将它重新张贴到这里, 我周末可以回应。
一天之内, 我原谅我的虔诚账户 <3!
嘿,各位,在我的前一个职位,语言有限。
ASI是不可能的。我花了很长的时间来解释为什么语言与思想不同,为什么语言与理解不同,为什么单靠文本构建的机器永远不会跨出墙去进入真正的超智能。
我仍然相信所有这些,我不会收回其中的任何一点,因为辩论是诚实的,逻辑是坚实的。
但今天我想更进一步。
我想谈谈一些 多年来一直坐在我脑中的东西, 越来越响亮的一天, 我需要把它拿出来 之前它吃了我活着。
我想谈谈为什么大语言模型尽管有其局限性,仍然真正有用,为什么这个白纸草稿中引入的大型数学模型是更严重的,它实际上可以开始突破现实本身的表面.
我知道这听起来很极端,我知道有些人会读出这句话并翻出眼睛,但我请求你留在我身边,因为我即将提出的论点不是以胡言乱语或幻想为基础的。
它基于我所看到的,我所构建的,以及我所理解的关于描述世界与实际模拟世界之间的区别.
这个区别是这个帖子的全部要点,一旦你清楚地看到它,其他一切就都到位了.
自从我写了一本充满了常年痛苦的"空虚活"之后,我一直在思考这个问题,我在那里谈到了言语如何不能完全抓住我的思想,语言如何总是与我们脑中的真实事物相去甚远.
这种挫折感使我来到这里,因为如果语言有限,那么我们需要问一个又一个语言,答案不是更多的语言。
答案是结构,等式,模拟,以及物理世界的直接建模.
这就是大型数学模型所指向的,不是因为它们今天是完美的,而是因为它们代表了一种超越文字、更深入的东西的方向。
我在书中写道,俄罗斯人总是拿起上帝的皮肤,把它包裹在机器上,我站在这个形象旁边,因为这正是当你把人类的知识,剥去它的灵魂,把它喂入一个只知道规律的系统时会发生的.
但是,如果下一代模型不停止文本中的规律呢?
如果它开始学习物理世界本身的规律呢?
这也是我无法停止思考的问题, LLMs是有用的,我不会假装 否则,让我开始的东西 可能令那些阅读我之前的文章的人惊讶。
我认为大语言模型是有用的.
我不会假装别的事,因为假装别的事会不诚实,我花了我一生的太多时间来诚实对待艰难的事情,开始对容易的事情撒谎.
我在《工程师》一文中写道, LLMs应该支付我们关于 系统如何利用工程师的符号使用费, 我仍然相信, 但这并不意味着工具本身是没有价值的。
锤子可以被用来建造一栋房子或用来压倒一只手,而有人因为锤子而指控你太多的事实并不意味着锤子不能驱动一指甲.
LLMS能更快地概括文档,它们能更快地生成锅炉板代码,比我能打出它,它们能通过充当发音板来帮助我通过思考问题,它们能以过去需要昂贵的人类翻译的方式在语言之间翻译.
这些都是真正的能力,而不是幻觉,任何否认它们的人都不是认真的.
我用过它们