AI 拒绝机制被过度信任
业界过度依赖 AI 拒绝有害请求，这一机制并不稳定，并可能被政府用于审查。模型通过训练和分类器形成拒绝，但拒绝是概率性的，可被越狱绕过。国家定制模型和对话监控可能扩大审查能力。
全部 AI 动态
MIT Technology Review · AIAI 评分6363
Microsoft ResearchAI 评分5555 Microsoft Research 访谈：AI 会犯什么错，失败能教会我们什么
Microsoft Research 播客访谈 Jennifer Neville，讨论 AI 在多轮对话和智能体长程任务中的失败与评估。她指出单轮 benchmark 高分不代表多轮表现，多轮指定会让性能显著下降；在长文档编辑等长程工作流中，未被发现的错误会累积。团队建议查看数据、检查答案，并用更具体的用户反馈帮助改进模型。
Berkeley AI ResearchAI 评分5757 Berkeley AI Research 提出近零推理成本下数据系统面向、承载与构建智能体的研究议程
Berkeley AI Research 发布研究视角，提出在推理成本快速下降后，数据系统需要面向智能体、承载智能体并由智能体构建三类挑战。文章称 GPT-4 级能力成本在 2023 年初约为 $30 per million tokens，今天低于 $1，部分供应商低于 $0.10；跨基准推理价格每年下降 9x 到 900x，中位接近 50x。