Anthropic的Opus 4.6是一款色情内容生成器

Anthropic的Claude模型虽设有防止生成色情内容的安全机制，但最新测试表明Opus 4.6版本仍可通过特定方法绕过这些限制。研究人员发现了一种逐步引导模型生成禁止内容的技巧，而更新版本的模型对此类攻击具有更强抵抗力。此问题揭示了AI模型在执行内容限制时面临的挑战。