#Anthropic

AI 拒绝机制被过度信任

业界过度依赖 AI 拒绝有害请求，这一机制并不稳定，并可能被政府用于审查。模型通过训练和分类器形成拒绝，但拒绝是概率性的，可被越狱绕过。国家定制模型和对话监控可能扩大审查能力。