MIT Technology Review · AI· Arthur Holland Michel·· 7 天前AI 评分63
AI 拒绝机制被过度信任
We’re putting too much faith in AI’s ability to say no
AI 导读
业界过度依赖 AI 拒绝有害请求，这一机制并不稳定，并可能被政府用于审查。模型通过训练和分类器形成拒绝，但拒绝是概率性的，可被越狱绕过。国家定制模型和对话监控可能扩大审查能力。
来源：MIT Technology Review · AI · technologyreview.com