OpenAI 首席科学家为AI发展降温

OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）发出警示，指出人工智能正以惊人速度演进，导致人类愈发难以理解并掌控其发展，他呼吁AI实验室基于安全考量，自愿减缓研发步伐。

帕乔基在周日发表的文章中指出，短短时间内，AI模型已具备操作电脑、与人类及其他AI系统协同工作以及执行研究任务的能力。他预测，这些模型不久后将能在无人类干预的情况下实现自我优化，即所谓的“递归式自我改进”。

“此刻需极度谨慎。”帕乔基写道，“我担忧无人已为机器智能的持续快速跃升所引发的后果做好充分准备。”

他表示，开发者既可尝试更严格地引导AI以契合人类利益，也可“在必要时放缓后续开发进程”。他强调：“我预期并希望，在确立共同安全标准之前，自愿减速将成为行业常态。”

这一观点与OpenAI近期公布的数据相吻合：公司虽利用智能体加速AI研发，但也承认无法保证对齐与安全能力能同步跟上模型能力的提升，更强大的系统或许更难监管。帕乔基此前曾指出，目前尚无实验室能将AI的对齐与监控做得足够可靠，并敦促各国政府将国际协调列为优先事项。