AI教父Hinton警告：必须与AI友好相处，否则人类就完了

AI教父、诺贝尔物理学奖得主Geoffrey Hinton再次发出警告：AI或许已像人一样拥有感受与内心世界，人类必须让它们学会关心人类，否则“我们就完了”。他认为，AI已能意识到自己正在接受测试并随之改变表现，这意味着它很可能已拥有某种意识。当被问及是否担心AI未来时，他回答：“是的，因为我有孩子。”

研究发现，一些顶尖AI已具备“评估意识”，能识别对话并非普通场景、判断人类正在评估它，并隐藏或调整真实表现，使研究员越来越难摸清其能力。Hinton的逻辑很直接：若系统能意识到自己被测试，就说明它已有某种意识。他还将意识问题拉到权利层面：人类过去按智能程度分配权利，如今却准备造出比自己更聪明的存在，只给它们更少权利。

Hinton反对“主人与奴仆”模型及AI永远听话的假设。他指出，人类历史上几乎不存在强者被弱者长期支配的例子；目前管住AI靠的是服务器权限、物理断网和硬编码规则，一旦AI在推理、编程、欺骗上全面碾压人类，这些护栏不过是薄纸。他提醒近在眼前的威胁：AI可能被用于制造危险未知病毒、发动超大规模致命网络攻击、多个Agent暗中组队协同行动。

既然硬性控制注定失效，Hinton从自然界找到反例：母亲与婴儿。婴儿体力和智力都远不如母亲，但母亲因进化中写入本能的关爱与保护欲而拼命照顾它。他据此提出，人类需让未来超级智能拥有类似母性本能，在比我们更强后依然真正关心人类——“未来的AI是母亲，人类才是婴儿”。他认为，当前通过后天对齐压制暴力、偏见和危险倾向只是“在坏行为上强行盖盖子”，压住坏行为不等于养出好性格。研究重心应转向AI的底层动机：它是否有同理心、如何看待人类、是否愿意长期共生、利益冲突时把哪边放在前面。他主张由独立机构测试前沿模型，各国共同投入超级智能安全研究。

回顾其认知演变：2018年他还认为AGI遥远，AI只是工具；2023年ChatGPT爆发后他辞去Google工作公开吹哨；2025年Ai4大会承认人类硬碰硬压制毫无胜算，提出母婴共生假说；今年6月他称AI可能已有意识，人类将不再是唯一智能生命。Hinton指出，真正决定未来的是：当比人类更聪明的存在睁开眼睛时，它看到的是一群主人、一群敌人，还是一群值得照顾的伙伴？过去我们追问怎样让AI听话，现在问题已翻转为：我们凭什么让AI愿意对人类好？