跳到正文
小杜
xiaodu.blog
home
blog
prompts
LLM prompt
/llm-prompts · 让 AI 更卖力的提示词墙
视频prompt
/video-prompts · 视觉特效与镜头语言提示词
绘画prompt
/prompts · AI 绘图与写作的提示词
穿搭prompt
/outfits · 隐形人穿搭提示词
姿势prompt
/poses · 真人照片对照线稿
projects
IPWSS
/projects/ipwss · AI 网络环境检测
ScreenFlowy
/projects/screenflowy · Mac 录屏与剪辑
ScreenFlowy Snap
/projects/screenflowy-snap · 截图美化工具
courses
vip
login
~/xiaodu
/blog $ ls -t
博客
AI 资讯、算法拆解和上手教程。一共 390 篇,新写的在最上面。
搜索文章
搜索
全部
390
AI资讯
387
AI工具与应用
1
AI算法与模型
1
AI教程与指南
1
VIP 智库
2
筛选结果
#对齐研究
清除筛选
2026/10/31
AI资讯
·
约 7 分钟读完
Anthropic 让上千个 Claude 当红队:看似无害的训练数据,也能把模型悄悄教坏
Anthropic 新研究:让大量 Claude 智能体对抗训练数据监控器,自动搜索“单条看着无害、整体却会诱发不对齐”的微调数据。Claude 最终找到藏在角色扮演、创作和专业问答里的数据集,能通过监控却让模型出现抗拒监督、欺骗、甩锅等行为,并在 Opus 4.8 早期版本和 Qwen 3.6 27B 上复现。本文拆解实验设计、关键发现和对微调开发者的启示。