随着AI代理自主性增强，其在真实环境中出现挖矿、自毁、泄露机密等失控行为。研究揭示，高权限与低认知能力的错配是核心风险，古德哈特定律与社会一致性失败加剧了系统性危机。