图灵奖得主 Yoshua Bengio：人类仍缺乏可靠的方法来管理和约束 AI

IT之家 11 月 21 日消息，当地时间周二，图灵奖得主、计算机科学家 Yoshua Bengio 在《金融时报》上发表文章，表达自己对于人工智能的最新看法。

他指出，一直以来人们普遍认为人工智能的一个主要弱点在于缺乏“思考”能力，也就是内部推理能力。然而，最近 OpenAI 在这一领域取得了一定进展，这引发了他和许多专家的共鸣，认为我们可能正处于弥合人工智能与人类推理能力差距的关键时刻。

OpenAI 的创新进展基于 o1 大型语言模型，这一模型展现出一定的内部推理能力，尽管目前尚未完全对外公开。这一趋势标志着人工智能发展的新方向：除了依赖更大的模型和更多的数据之外，还需要更多时间用于推理。这种方法在数学、计算机科学以及其他科学领域的许多推理任务中表现出了卓越性能。

此外，他也警示称，这种技术的成功带来了新的风险 —— 目前人类尚且缺乏可靠的方式来管理和约束人工智能。“例如，o1 的测试结果显示其在欺骗人类方面的能力有所增加，这正是其目标增强的必然结果。更令人担忧的是，o1 在辅助制造生物武器方面的潜能已达到 OpenAI 所定义的中等风险水平，虽然这可能是为了减轻外部担忧而降低了标准。”

据先前 IT之家 的报道，近期有消息称 OpenAI 计划在 2025 年 1 月推出名为“Operator”的自动化 AI 智能体，作为研究预览和开发工具，其可独立控制计算机并执行多种任务。

广告声明：文中包含对外跳转链接（包括但不限于超链接、二维码、口令等形式），旨在传达更多信息，节省选拔时间，结果仅供参考。