奥尔特曼提醒AI失控风险：人类或无法夺回控制权，多实验室竞争更安全

OpenAI首席执行官萨姆·奥尔特曼近期在Raj Shamani主持的播客节目中，就人工智能可能失控的路径进行了详细说明。他提出两种情景：其一，人类逐步将控制权转移给自主式AI；其二，某个单一主体在AI领域形成压倒性优势。

奥尔特曼指出，第一种情形下，AI系统的能力可能远超人类，而我们在有意或无意的过程中将决策权交由这些系统，最终将面临无法收回的境地。他特别强调，这种失控并非突然发生，而是随着AI能力逐步提升而累积形成的结构性风险。

关于第二种情形，奥尔特曼认为，无论是一人、一家公司还是一个国家，若在AI技术上占据绝对主导地位，都将带来安全隐患。他主张多个不同技术路线的AI实验室保持竞争状态，能够显著降低整体风险。这种分散化的格局，比所有用户依赖同一家企业更加稳健。

这一对过度集中的担忧，也促使马斯克的团队以及OpenAI的部分前高管选择离开，创建新的竞争性公司。奥尔特曼分析称，部分从业者选择独立创业，核心动力在于他们相信自己才具备开发这项关键技术的能力，背后的利害关系极为重大，足以影响人类社会的走向。

尽管对失控风险保持高度警惕，奥尔特曼对AI的长期前景仍持乐观态度。他特别提到基础科学研究领域，认为下一代AI模型将推动科学发现不断向前，最终为人类带来更美好的生活环境。在他看来，技术发展的动力与风险管控可以并行不悖。