近日，英国《卫报》披露了前OpenAI安全研究员Steven Adler对人工智能（AI）发展速度的深切忧虑。Adler在离开OpenAI后，于社交媒体平台上发表了一系列文章，分享了自己在前雇主的经历，并表达了对AI技术飞速进步的担忧。
Adler特别指出，各大公司对于人工通用智能（AGI）的竞相开发让他感到不安。AGI，即能够在各种智力任务上达到甚至超越人类水平的系统，被视为AI领域的一个终极目标。然而，正是这种追求，让Adler担忧人类的未来。
“当我考虑未来的定居地和退休储蓄时，我不禁思考：人类是否能见证这一天的到来？”Adler坦言，他对AI的进展感到极度恐慌。这种恐慌并非空穴来风，而是基于他对技术发展趋势的深刻洞察。
在AI领域，诺贝尔奖得主、“AI教父”杰弗里・辛顿也曾表达过类似的担忧。他认为，强大的AI系统可能会失控，从而带来灾难性的后果。而meta首席AI科学家杨立昆则持相对乐观的态度，他认为AI或许能帮助人类避免灭绝。
谈及OpenAI的核心目标之一——AGI的开发，Adler表示，这是一场极其冒险的赌博，风险巨大。他指出，目前尚未有任何实验室能够有效解决AI对齐问题，即如何确保AI系统遵循人类的价值观。随着行业的快速发展，我们可能错失找到这一解决方案的良机。
Adler进一步警告说，AI行业似乎陷入了一个危险的平衡状态。他呼吁必须引入真正的安全监管，以防止潜在的灾难性后果。“我们越是加速发展，就越难及时找到解决问题的办法。”他强调道。
Adler还指出，即便有些实验室希望负责任地开发AGI，但其他实验室可能会通过减少投入来追赶进度。这种行为不仅可能破坏整个行业的平衡，还可能带来无法预料的灾难性后果。
Adler的言论引发了广泛的关注和讨论。许多人对他的担忧表示理解，认为AI的发展确实需要更加谨慎和负责任的态度。同时，也有一些人持不同意见，认为Adler的担忧过于悲观，忽视了AI技术带来的积极影响。
