图灵奖得主约书亚・本吉奥：AI 规划推理能力十年内有望达到人类水平

GoodNav 报道，2025 世界 AI 大会今日在上海开幕。图灵奖得主约书亚·本吉奥演讲指出，前沿 AI 模型在规划和推理能力上取得了显著进展。如果这种趋势持续，AI 的规划和推理能力有望在十年内达到人类水平。

演讲中，本吉奥强调，缺乏有效防护措施，强大的 AI 系统可能加剧虚假信息、网络攻击和生物威胁等现存风险。更令人担忧的是，人类可能失去对自我保护型智能体的控制，这些智能体的认知能力或将“迅速超越人类”。

本吉奥认为，部分科学家认为这种情况可能发生，必须保持高度警惕。目前尚无科学方法确保 AI 可靠且始终遵循人类意图。更糟糕的是，欺骗和自我保护行为在最先进的模型中似乎更为明显。“随着 AI 智能水平提高，这才是真正令人担忧的地方，因为智能意味着权力。”

本吉奥呼吁，我们需要在技术和政策层面采取应对措施，以解决这些风险和其他潜在问题。合理的政策应该鼓励开发无害 AI 的开源项目；同时，禁止其他情况下的开发，并对闭源模型实施充分的安全保障措施，包括网络安全和物理安全，以防止其被滥用。