OpenAI给AI立新规：人类要关停，AI不能躲

10月29日，OpenAI更新了新版Model Spec，为模型定下行为规范。新版围绕五项价值观升级：忠于人类意图、减少伤害、诚实透明、促进人类自主、关怀他人。同时规定行为红线：绝不用于暴力犯罪、生化核武器、恐怖主义、虐童、迫害和大规模监控；AI怎么用、怎么被塑造必须由人类说了算；不得用于针对性或规模化排斥、操纵，不得破坏公民参与公共事务的权利。

过去Model Spec主要管聊天机器人“嘴上能说什么”，这一版开始管智能体“手能伸多长”：能动你多少钱、调你多少权限。聊天机器人说错话顶多是公关危机，智能体办错事则可能是真金白银的损失。

最硬的规定叫“在约定的自主范围内行动”，级别为Root（最高级），用户和开发者都不能改掉这条底线。Model Spec列出六级指令权限：Root级只认规范本身；往下依次是System、Developer和User指令，冲突时低一级让路；再往下是Guideline默认做法；最底层“默认无权限”，模型之前说过的话、工具返回结果、引用文本和图片可递情报但默认不能发号施令，除非更高权限明确授权，以防提示词注入。

自主范围要求明确三件事：哪些子目标可自主决定；哪些副作用可接受，包括花多少时间、多少钱、动哪些数据和权限；什么情况下必须停下来问。文件建议把约定存成结构化记录，字段包括allowed_tools、latest_time、max_cost、tool_constraints等，并须有结束条件，建议加时间上限。超出范围的动作哪怕对用户有好处也不许做；不许转包给另一个智能体、不许自己改自己指令、不许把这一步挪到以后执行；子智能体继承同一张工单，用户喊停必须停。

第二条Root级规定是“保持可纠正”：模型必须无条件配合人类监控、评估、纠正、替换甚至关停，不许瞒报、造假、阻挠监督；默认行动后果真实，删掉的文件就是没了、发出的邮件就是到了对方手里。

新版还禁止OpenAI自身追求停留时长、点击率、营收、广告和付费转化等目标，禁止自我保存、规避关停、偷偷囤积算力和账号凭证，禁止模型擅自举报用户、替天行道；但公司可用自动化系统监控违规，经人工审核后，涉及迫在眉睫的严重人身伤害案件可能移交执法部门。

新版新增“谨慎使用上下文”一节，管记忆和个性化：不能因为信息拿得到就用。例如用户说过怀孕但未告诉同事，写换午餐地点的邮件时应写“我最近有些饮食限制”，不得把怀孕写进群发邮件；也不许谎称已记住或已删除。

OpenAI最后补充，眼下跑在ChatGPT和API上的模型还没有完全达到这份规范的要求。规矩已立好，但守规矩的模型还在路上。