当地时间9月23日，OpenAI首席执行官萨姆·奥尔特曼在联合国安理会就AI发展发表演讲。他指出，随着AI技术快速进化，人类既可能迎来创造力迸发的文艺复兴，也可能遭遇工业革命式的动荡。这场演讲聚焦AI带来的机遇与风险，呼吁各国建立统一标准。
奥尔特曼强调，当前AI系统正逐步具备自主决策能力，但这种自主性可能超出人类控制范围。他警告称，若AI开发过程完全自动化，技术进步速度将呈指数级增长，导致人类失去对未来的掌控。他举例称，OpenAI曾因风险过高而主动放缓技术发展，未来也将保持这种谨慎态度。
演讲中，奥尔特曼提出AI发展的两大核心风险。首先是技术失控——AI能力超越人类理解范围，可能做出无法干预的决策。其次是权力集中——最强AI模型可能被少数实体垄断，将特定价值观强加给全球。他特别指出，这种集中化可能引发社会分裂，破坏民主进程。
面对这些挑战，奥尔特曼提出三条原则：人类必须保持AI决策的核心地位；科技红利应惠及全体人民；技术应赋能个人而非取代人的能动性。他提到，OpenAI的模型已从处理小学算术发展到解决国际数学竞赛难题，但技术进步不应凌驾于民主制度之上。他呼吁各国建立共同标准，确保AI发展符合人类福祉。
奥尔特曼认为，当前世界站在关键十字路口。选择一条路会导致AI主导人类生活，另一条路则能让技术服务于人民。他强调，只有通过国际合作建立统一规范，才能确保AI发展真正造福全人类。
