在一个明亮的手术室里，一台机器人正在进行着一项复杂的心脏手术。它的动作精确无误，避免了人手可能导致的任何颤抖或误差。然而，这台机器人并不只是按照预定的程序在操作——它在学习，在不断地调整手术策略，适应着手术过程中的各种不确定性和变数。
这不是一部科幻电影的场景，而是智能涌现的一种体现。这台机器人通过分析大量的手术数据、学习经验和不断适应，展现出了一种“智能”——一种并非由明确的规则和指令预设的、而是从无数的数据和经验中自主涌现出来的智能。
怎样的过程让它能做到这一点？智能涌现又是如何影响着我们日常生活中的各种方面，从医疗健康到科学研究，再到我们的日常消费决策呢？这些问题背后，隐藏着一个充满无限可能和机遇的新世界等待着我们去探索。。。
前阵子，无意间刷到了文君的一篇AI智能涌现（链接见文末），视角非常独特，也很受用，于是邀约他做了一场直播，以及我们把直播内容整理成了一期播客，文章+播客，两个内容基本全面的阐述了到底什么是AI智能涌现（或者至少说这是一种合理的解释）。
这篇文章，我使用GPT4基于播客内容和文君的文章，做了一个整理，也加上了一些自己的思考，方便大家快速学习。
Take Away：
1. 涌现的价值
2. AI智能涌现的定义
3. 微观的渐变，引起宏观的质变
4. 涌现的特点
01 智能涌现对不同群体的影响和价值
我们会发现一个现象，现在大模型存在的意义是能够切实创造价值，从这一点我们想想，知道了AI的智能涌现后，可以思考出什么：
举例，AlphaFold：
DeepMind 的 AlphaFold 通过学习大量的蛋白质结构数据，发展出了预测蛋白质空间结构的能力，这在生物学和药物开发领域具有重大意义。这种从数据中学习并自主做出预测的能力，正是智能涌现的一种表现。
再举例：Duolingo
这款语言学习应用使用机器学习算法分析用户的学习行为和进度，自动调整课程内容和难度，提供个性化的学习体验。它并非基于固定的规则来决定怎样调整课程，而是通过学习来自动适应用户的需要，这也体现了智能涌现的特性。
理解AI智能涌现能够解决的问题，无疑帮我们指明了方向，相当于我们确信，这个思路是可以搞定某些难题的！
文君举了个例子：
假设在平行时空内，两个探险队，进入同样一个山洞探险，突然山崩了，入口被堵住，山洞里是个迷宫，大家物质资源都一样，唯一差别就是领队。
A领队知道山洞肯定有出口，B领队不知道有没有出口。
两支队伍的存活几率会大不相同！
为啥呢？
知道山洞有出口的A领队能够带领团队保持冷静、有组织地寻找出路，因为他们有一个清晰的目标和信仰。
而不确定是否有出口的B领队可能会在恐慌和无组织的探寻中耗尽资源。
这个例子展现了信念和知识对于策略和结果的巨大影响。
在AI的领域，我们的’信念’——即智能涌现的理解——同样可以为我们指出一条路径，告诉我们某些看似不可能的问题是可以通过积累更多的数据、构建更大的模型来解决的。这种信念将推动我们不断探索、不断创新，最终找到解决问题的’出口’。
所以，理解和信任AI智能涌现，会在未来某个时刻，帮助我们“找到出路”。
02 啥是AI智能涌现？
所以，我们回归本质，
先给AI的智能涌现做一个初步的定义：
当大模型达到一定的规模和复杂度时，开始表现出一些预先没有被明确编程的能力或行为。
换句话说，AI开始“自发”地展现出一些新的、有时令人惊讶的智能特性。比如语言理解能力、生成能力、逻辑推理能力等等。
文君用了一粒沙子不会坍塌，但海量的沙子组成的沙堡“涌现”出了坍塌来解释。
Super再尝试举个例子：
想象一下，你正在玩一款模拟城市建设的电脑游戏。你只是不断地添加更多的房子、道路和其他基础设施。
突然有一天，你注意到你的“城市”开始展现出一些你从未预料到的复杂行为——
例如，交通流量的自我调整或居民的自主迁移。
这些行为并不是你明确计划的，也不是你按照某个规则设定的，而是自然而然地发生的。
这就是一个智能涌现的简单例子。
这里面延展开了就会有很多有趣的推论：
比如，AI智能的涌现，和什么有关？算力、算法、数据、训练时长、参数规模？
比如，参数量的提升和智能涌现的相关性是什么？会不会边际递减？即提升了20倍的参数量，但只有很少的智能涌现？
。。。
为何“智能涌现”值得关注
智能涌现不仅仅是一个理论概念，它在现实世界中也有着巨大的应用潜力。
例如，在自然语言处理（NLP）领域，我们已经看到了一些超大型的语言模型（如GPT-3）展现出令人惊讶的创作能力——它们可以创作诗歌、编写文章，甚至生成代码，而这些都没有在它的原始训练数据或程序中被明确指定。
在这种情况下，我们可以看到，模型通过学习大量的文本数据，自主地“理解”了语言的一些基本规律和模式，并能够将这些知识应用到全新的、未见过的任务中。
GPT-3的例子只是冰山一角。
智能涌现现象可能会在AI的各个领域产生深远的影响，包括计算机视觉、机器学习、自动驾驶等等。
因此，深入理解这一概念对于从事AI研究和应用的专业人士、企业家以及对技术感兴趣的普通人来说，都是极其有价值的。
03 理解智能涌现
微观的渐变，引起宏观的质变。
为何会发生涌现？
底层子系统的线性累加，会在上级系统出现涌现的现象。
什么叫子系统的线性累加呢？
我们可以借用生物学中的一个现象来进行类比。考虑一下蚁群的例子：
单个蚂蚁的行为相对简单，它们按照一些基本规则行动，例如寻找食物和避免危险。然而，当成千上万的蚂蚁聚集在一起时，它们的集体行为却显得极其复杂和有组织，形成了一个高效的社会系统——即使没有一个“领导者”来指挥它们。这种从简单规则中产生复杂行为的现象就是一种智能涌现。
类似的，在AI领域，当我们使用大量的数据来训练一个巨大的神经网络时，模型开始展现出我们没有直接编程进去的能力。
例如，在训练机器翻译模型的过程中，我们并没有明确告诉模型如何理解语言的语法和语义，但它通过学习大量的句子对翻译示例，自己“学会”了这些规则，并能够将这些知识应用到新的未见过的句子中。
智能涌现的特点
智能涌现通常带有一些显著的特点，包括自适应、创新和复杂性。在GPT-3的例子中，我们可以观察到这些特点：
尽管模型是在一个固定的数据集上训练的，它仍然能够适应各种各样的新任务，
比如写作、编程、设计等；它能够生成新颖的、富有创造性的输出，
比如写出一首诗或者创作一段文章；并且它能够理解和生成复杂的、结构化的内容。
一个值得注意的点是，智能涌现的出现通常伴随着一定的不可预测性和不可解释性。就像我们不能完全预测或理解一个大型神经网络的每一个决策一样，我们也不能总是准确预测一个智能系统的“涌现”行为。
结尾
在这场智能涌现的探索旅程中，我们一同见证了一个世界的诞生——一个由数据、算法、机器学习共同编织，充满无限可能和机遇的新世界。我们看到了它如何改变我们理解世界的方式，也看到了它如何在我们生活的每一个角落播下变革的种子。
智能涌现，不仅仅是科学家和工程师的舞台，它关乎我们每一个人的未来。它在静默中改变着我们的生活、工作、甚至我们的思考方式。我们不再是单纯的观察者，而是这个新世界的共同创造者。我们的决策、我们的行为，都在塑造着智能涌现的轨迹和未来。
在这条探索未知的道路上，每一个问题、每一个答案、每一个思考，都是我们共同构建未来的珍贵砖石。让我们一起分享、一起讨论、一起创造——在智能涌现的波澜中，找到我们各自的方向，为我们共同的未来添砖加瓦。
愿每一个在智能涌现中找到灵感的你，都能在这片浩瀚的知识海洋中，找到属于自己的星光。
本文参考：
《什么是AI的“智能涌现”，以及为什么理解它对创业者、从业者、普通人都价值巨大 》
也欢迎订阅文君的公众号：
对谈文君：独家解读AI智能涌现背后的奥秘，普通人也能秒懂！
（本集播客欢迎扫码收听）
原创文章，作者：Super黄，如若转载，请注明出处：https://www.agent-universe.cn/2023/10/9874.html
