“AI 教父”辛顿首次访华演讲：要像养虎一样把 AI 训练好，让它不“杀”你

GoodNav 报道，2025 世界人工智能大会在上海开幕，AI 教父、2024 年诺贝尔奖得主、2018 年图灵奖得主杰弗里·辛顿首次访华并发表演讲。

辛顿在演讲中指出，几乎所有专家都认为未来可能出现比人类更聪明的 AI。为了完成任务，AI 智能体可能会渴望生存和获得更多控制权，甚至操纵人类。简单地关闭 AI 并不现实，这就像饲养老虎当宠物一样，一旦AI强大起来，反而可能危害人类。

他进一步强调，如果一直养着这个“宠物”，就必须确保它长大后不会伤害你。“就像养了一只非常可爱的小老虎”，人类只有两个选择：一是训练它，避免它伤害自己；二是彻底清除它。

辛顿认为，为了人类的生存，必须找到训练AI的方法，防止AI消灭人类。各国在阻止AI用于危险用途（例如网络攻击、致命自主武器、虚假信息操纵）方面缺乏合作，因为彼此利益存在冲突。

演讲中，辛顿也指出，目前没有哪个国家希望AI统治世界。如果某个国家能找到控制AI的方法，就将对全球产生重大影响。