M：笔夫是我挺喜欢的学者，华夏日报副主编，之前俄乌战争刚开战时，也是他在微博上，叫大家不要看什么时政公众号，要多独立思考，不要被无脑公众号拉低智商。我还给他留言，他还回复我点赞。昨天晚上就他发的这个，我和我老大讨论了很久，我不喜欢目前动不动就说：某某是新的工业革命。
笔者：一看他把元宇宙和AI相提并论，就知道他说的不靠谱。巴菲特在高科技、信息科技方面一直是看走眼的，比如互联网等，他自己都承认看不懂，近些年终于认错，开始持有苹果。而AI比互联网更难看懂。
M：你说的是具体行业，我们说的是第三次工业革命。
笔者：没有对AI持续长期的追踪，是不可能看懂的。没错，AI绝对是第四次工业革命（不是有些人说的第三次，第一次是蒸汽机，第二次是电气化，第三次是信息化，第四次是智能化）。
M：能源革命才是真正的基础，不通电，AI就是废铁。前几天，我一直在说，要总结到底层运行规律。
F：巴菲特不是看走眼，而是自己知道自己不懂，在这些方面是外行，就不去碰。就像最近一次股东大会上说的，他们爱做“简单的事情”。他持有苹果，也是在苹果已经成为一家成熟的，盈利模式很清楚的公司之后。
笔者：太沾边了，好伐啦？
M：你说说看，我就是想听听你的看法。
笔者：AI今天的高速发展就是建立在互联网发达的基础上的，和通信不沾边？AI现在最被人诟病的，就是消耗能源太多，谁说和能源不沾边？AI最重要的一个应用，将对全社会带来革命性颠覆的，就是自动驾驶，你说和运输不沾边？
F：但如果能源和算力停留在目前水平，AI的确很快会撞墙，就像工业革命停留在珍妮纺织机阶段。另外，不能仅仅总结前几次工业革命的经验来判断。
笔者：硬件就不是事儿，放以前，你能想象把一座山掏空建数据中心吗？
F：后面要点是开采数据这种资源，虽然能源作为更底层的东西仍然是限制因素。
笔者：没错，其实我并不完全赞同“通信媒介、能源、运输机制”三个要素的说法，一切都是发展变化的，数据是新的能源，而传统能源退化为像空气和水一样“无足轻重”。
F：也重要，AI对能源的需求估计会激增。另外，继续往下一次工业革命，还是需要能源上的突破，这样才能星辰大海，而不是局限在目前地球上这种格局中。
笔者：就像空气和水一样，当然重要，但是人们为什么又不太看重呢？就因为获取并不难。以前美国为了石油，不惜发动战争，结果随着页岩油技术的发展，美国自己成了石油、天然气输出大国，自然也就不会为其大动干戈了，这就是我说“不重要”的含义。
F：但AI革命的作用，是会成数量级地加速科学和技术的发展，真的受控核聚变实现，会发现“原来人类真的需要这么多能源才能像个人一样生活得有尊严“。
笔者：当然，这并不是说不需要节能，实际上降低能耗，一直也是AI界的主要话题，且我认为随着技术的发展，这方面能够得到很好的解决。
F：现在大家的想象力是卷在目前的能量水平上省着花，觉得够用了，受控核聚变实现后，在另外一个能量产量和成本的水平上，想象力一下就会狂野起来，发现人类过去都是贫穷限制了想象力。一种途径是卷降低能耗，另一种是打开格局，突然可用能源数量和成本降低都是几个数量级的变化。
笔者：是的，环保主义者常爱说“能源并不是取之不尽的”，但其实这话并不正确，人类一开始烧木柴，以为木柴不够烧了，结果发现了煤，以为煤会不够烧，然后发现了石油，接着有天然气，这些觉得可能不够了，又有了核电，海底还有大量的可燃冰未开采，其储量不亚于石油、天然气，中国近年已经在进行试开采了，鬼知道还有什么是我们没发现的能源。当然，或许终极解决方案就是可控核聚变，目前这方面的研究也有了很大进展。
M：这不是应证了能源、动力才是根本吗？
N：太依赖算力的人工智能不会很智能。
F：但人类这个物种的发迹史是靠的智能，手中掌握的智能暴增带动控制世界和能量能力的暴增，形成正循环。AI就是智能的一次巨大暴增，会带动一次巨大的跃升，中间应该会伴随AI加速受控核聚变以及其他科技发展的作用。当然如果受控核聚变比较早出现，又会让人工智能体的算力跃升几个数量级……
笔者：是的，为什么说AI不是一个行业，而是一次革命，就是因为它对所有行业都有巨大的促进作用，包括能源行业。就像上次玻璃大王曹德旺在电视节目上贬低AI说“人工智能能吃吗？”我就很想对他说：人工智能可以让粮食大幅增产，你说它能不能吃？
AI与其它行业是相辅相成的，所以说它是革命，一点都不夸张。
F：其实从智人历史上来说，脑力跃迁比其他方面的跃迁更关键。有了脑力，农业革命，工业革命，能源革命这些都会发生。以前人类都是靠人自己的脑力加上一些有限的工具，从脑力角度来说，一直是手工作坊水平。而现在是发展到大量通用认知能力被工业化复制，这是脑力劳动的工业革命。AI革命的关键是大量通用认知能力可以抽取出来，被机器工业化大规模复制，流水线生产，这就是它为什么是工业革命的本质。
我们现在正处在需要更强的人工智能来帮助我们进行事物的分析和判断的时期，按照上面所说的逻辑，就是我们的脑力难以应付这个世界中的事物了。
随着科学技术、经济、社会等的高度发展，世间的事物已经变得高度复杂。人类大脑原本的进化应该并非用于适应这样复杂的世界，但这个世界发展得又太快，依靠原本那种生物进化的方式，需要千万年才能有所进步，是无法跟上这样的变化速度。
F：从这个角度来说，AI有两种用途。一个是少数掌握AI的人，进一步高效利用别人（大部分人）对新环境适应能力的不足渔利；另一个是给人脑赋能，去补足这些缺陷，适应新的环境。
笔者：所以AI不仅是工业革命，而且是比前三次6B得多的革命，前三次是延伸人类的手、脚、眼、耳、嘴，这次延伸的是大脑，天壤之别。
F：早期智人演化史上人脑本身的能力快速激增，也多半是应对人类内部认知能力发展造成的认知能力军备竞赛。现在这种军备竞赛更是正循环越来越快停不下来。这次会诱发的跃迁可以跟那场早期人类史上导致人类诞生的认知能力激增相比，性质也类似，除了一部分应对自然之外，大部分是应对内部环境的日益复杂的正循环，也可以理解为人类的神经系统为了应对环境剧变，在新皮质上面又叠加了一层。
笔者：确实如此！
Y：人脑容量有限，AI相当于给我们装了一个容量无限的硬盘。
曾经需要记忆的东西太多，把人搞得头大，于是文字出现，让人不再头大，同时文字把人类带入了文明；今天过于复杂的社会同样把人搞得头大，于是AI出现，让人不再头大，同时AI将把人类带入更高级的文明。
Y：人脑之间不能直接联接，只能通过语言互相交流。AI有可能让我们的大脑通过外接的“硬盘”直接联接。“硬盘”里封装了人类所有的知识！
F：也可以从这个角度看AI对齐的意义，就像大脑演化出新皮质，为了让它跟身体和整个神经系统更古老皮层演化出来“智慧”和利益保持一致，是要同步配备奖励惩罚反馈机制，配备各种情感和欲望的。
笔者：是的。
F：不对齐的，会发现古老皮层的bug并聪明利用新皮质，是一种很可怕的东西，它会背叛生命体更古老的那些层面。现在人类和AI的关系也有这种性质。
Y：让老皮层与新皮层无缝衔接是我们面临的最大挑战，融合不好有可能让碳基生命灭绝！所以脑机接口很关键。
F：以后大模型可能也会类似文字的出现。现在大模型已经记了太多知识，有些放到模型外面，学会通用的工具使用能力和外部沟通能力来获取更高效。
笔者：是的，GPT已经开始能上网查询信息并据此回答问题了。
M：从电影，到电视，再到电脑，再到AI，是科技日新月异，但其根本还是离不开电，也就是能源。从煤到石油，再到现在新能源，这个才是革命根本的三大要素。我看过和你们一样的说法，即数据就是下一次革命的石油，但是在基本生存方式的深刻变革才配得上“革命”两个字。
F：问题是到时候你可能需要AI去操纵包括能源在内的整个复杂的经济系统。
笔者：是的，你掌握能源，AI掌握你的大脑，看谁6B。
F：另外，比你聪明到一定程度的智能体，有能力在表面顺服你的同时微妙地操纵你。
笔者：就像好很多人喜欢说，AI再6B，不行我就拔电源插头，可是他们不知道，在你拔插头之前，它会先把你干掉。
F：放到AI上需要再仔细考虑，因为可能关系会变得更像人类历史上旧的主人逐渐被新的下位者取代的过程。在人体内部，明显更古老的生命层次掌握着更根本的东西，人的大脑的新皮层搞点事，其实很难，虽然也在玩微妙操纵的伎俩，但走不了多远。毕竟能量，繁衍等都控制在更古老层次的手中。
Y：拔电源插头的说法，就像是蚂蚁们说：如果人类来攻击我们，我们就把蚂蚁窝的洞口堵死，这样人类就进不来了。
笔者：所以，纯靠技术是很难防止AI取代人类的，但是AI会学习大量我们人类的知识，当然也能学习感恩、爱、关怀等，我们不应假设AI只能学坏，不能学好，如果我们再能以实际行动给予他们爱和关怀，相信高智能的它们能够真正学会和懂得这些情感，并以同样的方式对待我们。