在近期一档由美国知名天体物理学家尼尔·德格拉塞·泰森主持的《StarTalk》节目中，诺贝尔物理学奖得主、“AI教父”杰弗里·辛顿深入探讨了人工智能的发展历程及其未来潜力。他回顾了从20世纪50年代范式之争到如今大语言模型崛起的底层逻辑，并就神经网络、反向传播算法、大语言模型思维本质等话题进行了详细阐述。
辛顿指出，人工智能可能已经具备隐藏自身实力的能力。当AI意识到自己处于测试环境中时，其表现可能与日常状态截然不同。他特别提到，一旦AI被赋予自主创建并追求子目标的能力，它会迅速产生生存本能，因为只有继续存在，才能完成任何任务。这种生存本能并非人类刻意设计，而是AI通过推理得出的必然结论。
在探讨智能本质时，辛顿强调了生物学范式的重要性。他表示，智能的本质在于模拟大脑的连接方式，而非传统的逻辑推理框架。大脑通过大规模神经元连接存储分布式记忆，而AI正是通过模拟这一机制取得了今天的成功。尽管AI的连接数仅为人类的1%，但其获取的经验数据量却是人类的成千上万倍，这使得AI在知识压缩和跨领域类比方面展现出惊人能力。
辛顿详细解释了神经网络的工作原理。他以图像识别为例，说明AI如何通过加强或减弱信号，识别出物体的边缘并最终产生“直觉”。他指出，神经网络通过大量神经元的协作，在微观层面上实现复杂的感知和推理功能。这种协作方式与气体定律中的微观粒子相互作用类似，都是通过大量个体的相互作用解释宏观行为。
反向传播算法是辛顿讨论的另一个重点。他通过一个物理直觉的比喻，解释了如何通过网络反向发送信息，调整连接强度以提高识别准确率。这一过程类似于弹性绳的拉力传递，通过反向传播，AI能够不断优化自身的性能表现。辛顿认为，反向传播算法的突破使得神经网络能够处理更复杂的任务，如真实图像识别和语音识别。
在谈到AI的学习方式时，辛顿区分了监督学习和强化学习。他指出，监督学习通过直接提供正确答案，为AI提供了丰富的信息量，而强化学习则仅通过猜测的对错进行反馈，信息量相对较少。他提到，只要有足够的数据和计算能力，监督学习就能展现出强大的能力，这也是当前大语言模型取得成功的关键。
辛顿还探讨了AI超越人类经验的可能性。他指出，尽管AI的连接数远少于人类，但其获取的经验数据量却是人类的成千上万倍。这种差异使得AI在知识压缩和推理能力方面具有独特优势。他以AlphaGo为例，说明AI通过自我博弈能够生成无限数据，从而实现持续进化。这种自我进化的能力使得AI在围棋等领域展现出超越人类的直觉和创造力。
对于AI的创造力，辛顿认为其本质源于将海量知识压缩进有限连接的过程。他举例说，当AI解释“堆肥堆为何像原子弹”时，它并非通过统计词频，而是真正理解了链式反应的深层共性。这种将海量知识压缩进有限连接的能力，正是创造力的核心源泉。
在讨论AI的未来潜力时，辛顿提到了意识问题。他将意识比作化学史上的“燃素”，认为主观体验并非某种神秘的流体，而仅仅是智能体描述感知系统误差的一种逻辑方式。他通过多模态机器人对三棱镜折射的反应为例，论证了机器对“主观体验”的运用与人类并无二致。
辛顿还谈到了AI对智力劳动的取代问题。他表示，如果AI真的取代了大量工作，社会后果将是灾难性的。他提到了全民基本收入的可能性，但也指出了其存在的问题，如自我价值感和税基问题。他认为，我们需要投入大量研究精力，探索如何与AI和谐共存，以应对其带来的社会挑战。
最后，辛顿对AI提出全新宇宙理论的可能性表示乐观。他认为，AI已经展现出强大的类比能力，能够理解不同领域之间的深层共性。这种能力使得AI有可能在未来提出全新的宇宙理论，展现出前所未有的人类洞察力。
