为什么模型准确率达到 99.9%，AI Agent 仍然可能不安全？2026-10-20·6928 字·14 分钟Deep-Learning 6.S191 LLM Ml-Infra Agent-Safety起因 # 过去几篇笔记一直在 Lecture 6 的范围里打转。Distribution Shift 那篇让我意识到离线测试集的 98% 准确率没法平移到生产环境，Algorithmic Bias 那篇又告诉我总体准确率可以掩盖群体间的巨大差异，对抗攻击那篇则让我看到泛化好的模型仍然可以被微小扰动骗过。
