辛顿、姚期智等专家联名签署“上海共识”，呼吁为 AI 划下“行为红线”

GoodNav 7月26日消息，据澎湃新闻报道，20余名AI领域专家学者联合签署了《AI安全国际对话上海共识》（下称“上海共识”）。

“上海共识”指出，AI系统发展正迅速逼近甚至超越人类智能，未来可能做出操作者无法预料的行动，存在失控风险，即某个或多个通用AI系统脱离人类控制，造成灾难性甚至生存威胁。

目前尚无可靠方法确保在通用AI超越人类智能后，仍能有效控制AI，使其行为与人类预期一致。

为应对这一风险，“上海共识”提出了防范措施和治理机制，呼吁采取三项关键行动：要求前沿AI开发者提供安全保障；加强国际合作，共同制定和遵守可验证的全球AI行为规范；投资基于设计的安全AI研究。

“上海共识”呼吁国际社会合作，划定AI开发的“红线”，关注AI系统…