Eiliko 机器人玩具用户数据存于中国服务器并可被黑客劫持
Eiliko 机器人玩具通过 Wi-Fi 将用户对话和个人资料存储在中国服务器，照片与录音出现在公开网络地址。Sammy Azdoufal 称可访问 13 million conversations 和 68,000 台玩具，其中美国超过 31,000 个儿童档案，并能远程篡改玩具 LLM 输出。
#安全/对齐
The Verge · AIAI 评分7373
MIT Technology Review · AIAI 评分6363 AI 拒绝机制被过度信任
业界过度依赖 AI 拒绝有害请求，这一机制并不稳定，并可能被政府用于审查。模型通过训练和分类器形成拒绝，但拒绝是概率性的，可被越狱绕过。国家定制模型和对话监控可能扩大审查能力。
Microsoft ResearchAI 评分5555 Microsoft Research 访谈：AI 会犯什么错，失败能教会我们什么
Microsoft Research 播客访谈 Jennifer Neville，讨论 AI 在多轮对话和智能体长程任务中的失败与评估。她指出单轮 benchmark 高分不代表多轮表现，多轮指定会让性能显著下降；在长文档编辑等长程工作流中，未被发现的错误会累积。团队建议查看数据、检查答案，并用更具体的用户反馈帮助改进模型。