据《商业内幕》5月13日报道，OpenAI前研究员、现任“AI未来项目”负责人丹尼尔·科科塔伊洛指出，AI行业正争相构建连开发者自己都尚未真正理解或掌控的系统。
科科塔伊洛在去年5月接受该媒体采访时解释道，AI公司的核心困境在于“对齐”难题——也就是如何确保未来的人工智能系统，即便在多个领域已超越人类，仍能可靠地遵循人类的指令与价值观。
他表示，目前研究人员对先进AI模型的内部决策机制了解有限，这种不透明性使得难以保证未来系统能真正“对齐”，并稳定执行人类期望的目标。
“某种意义上，这已是公开的秘密，但至今没有切实可行的解决方案。”他在谈到AI对齐的落地时坦言。
科科塔伊洛于2022年至2024年间在OpenAI从事预测性研究，主要关注AI系统的进步速度，以及企业开发更强大模型可能带来的经济、政治和安全风险。之后他离开了该公司。
如今，他通过自己创办的非营利研究机构“AI未来项目”，继续聚焦类似议题，重点分析AI系统的发展速度，以及若企业持续优先追求速度和竞争，将催生哪些风险。
“一旦超级智能诞生，人类就不再是这颗星球的主宰者——至少不再默认是。”科科塔伊洛警告道。
他认为，许多人仍然严重低估了AI的发展速度，因为相关讨论听起来往往像科幻小说。而他发出这一警告之际，AI公司正持续投入数十亿美元，用于打造更强大的模型和更大规模的数据中心。
本站为个人博客，博客所发布的一切修改补丁、注册机和注册信息及软件的文章仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。本站信息来自网络，版权争议与本站无关，您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。访问和下载本站内容，说明您已同意上述条款。本站为非盈利性站点，VIP功能仅仅作为用户喜欢本站捐赠打赏功能，本站不贩卖软件，所有内容不作为商业行为。
