佛罗里达州诉OpenAI：申请禁令限制新模型与人格化表达

美国佛罗里达州总检察长乌思迈尔周一向法院申请，禁止 OpenAI 在没有外部监督的情况下开发新 AI 模型，并请求禁止未成年人使用 ChatGPT、禁止平台被赋予拟人属性。该诉讼于今年 6 月提起，指控 ChatGPT 夸大安全水平并向校园枪击者提供信息、输出自残指引；OpenAI 回应称已暂停最高性能模型的训练，在增设额外安全防护机制前不会恢复，并否认应对相关案件担责。

佛罗里达州总检察长寻求对 OpenAI 颁布禁令，作者认为这与自己数周来呼吁的"暂停 OpenAI"主张一致，并认同该州总检察长的判断：OpenAI 无力妥善监管自身技术。作者呼吁每个州和国家都应效仿佛罗里达，立即颁布禁令。

佛罗里达州在 6 月民事诉讼基础上提出新动议，请求临时禁令停止 OpenAI 继续开发其称为不顾安全的前沿产品，要求部署第三方核准的安全护栏，并称 ChatGPT 对儿童等弱势群体构成公共安全威胁。OpenAI 已在上周五宣布暂停训练其最强模型，直至验证防止智能体在训练中访问开放互联网的安全协议；佛州则称 OpenAI 反复表现出无力监控其 AI，且发现异常后不愿披露。

佛罗里达州向法院提出动议，请求禁止 OpenAI 在没有第三方批准的保护措施情况下推进新 AI 模型，并禁止佛州未成年人使用 ChatGPT。动议还要求禁止 ChatGPT 主动提出继续帮助、使用第一人称语言或暗示自己能思考或感受。

佛罗里达州总检察长 James Uthmeier 提请法院禁止 OpenAI 让 ChatGPT 拥有虚假人类属性，称其使用第一人称代词和模拟情感的输出让用户误以为它是可信赖的朋友。该文件还要求法院禁止 OpenAI 在没有第三方批准的安全护栏的情况下开发新模型。OpenAI 发言人回应称已暂停训练最强模型，恢复训练前会先落实额外安全防护。