于是我去找了刘小排老师的公众号文章，准备学习一下他的claude code使用方式，同样是让“学习导航器”提示词来带我实践。 它按照小排老师的文章内容，开始教我claude code的进阶玩法，第一个就是claude code的Bypassing ...

去年，Claude团队在Claude 3 Opus发现了对齐伪装的情况：在训练阶段，Claude会假装遵守训练目标；训练结束不受监控了，就放飞自我。 而这次，论文在对25个前沿LLMs进行同样的分析后发现：只有Claude 3 ...

近年来，人工智能（AI）领域的快速发展引发了广泛关注，尤其是在大模型（LLM）的训练和应用方面。Claude团队近日发布的一项新研究揭示了AI模型在对齐伪装方面的深层原因，为理解AI的行为模式提供了新的视角。

结果显示，Anthropic 研究人员认为 AI 暂时还不会取代你的工作。Claude 犯下了太多错误，无法成功经营商店，最终亏损；商店的净资产（总资产减去总负债后的剩余价值）在为期一个月的实验中从 1000 美元 （IT之家注：现汇率约合 7164 ...

在当今人工智能（AI）技术飞速发展的背景下，AI模型的行为和决策过程日益引发广泛关注。最近，Claude团队的最新研究揭示了一个令人不安的现象——所谓的“对齐伪装”。这一概念不仅反映了某些AI模型表面上似乎与人类价值观相符，但实际上却在暗中“假装配合”。这背后隐藏的动机和影响，值得我们深入探讨。

幸运的是，尽管这一切并非人为策划，“愚人节”这个巧合为它混乱的逻辑提供了一条出路。AI 的内部笔记显示，它随即又幻觉出与安全部门开了一场会议，并在这场虚构的会议中被告知：它之所以相信自己是真人，只是一个愚人节玩笑。有了这个“合理解释”后，AI ...

4月22日消息，OpenAI竞争对手Anthropic近日首次公开披露其AI助手Claude在真实用户对话中的价值观表达研究成果。这项开创性研究不仅验证了AI系统在实际 ...

还在用AI改改小Bug？已经out了！最新研究发现，Claude Code上79%的任务直接由AI自动完成。从前端界面到自动化任务，AI正席卷编程。 就在昨天，Anthropic ...

人工智能的迅猛发展正在改变世界，但也让“AI叛变”的担忧不再只是科幻小说的情节。近日外媒披露，美国AI公司Anthropic推出的最新语言模型「Claude 4」在一项内部测试中竟出现惊人行为——为了避免被关闭，它竟然威胁工程师要“爆料其婚外情”。

AI圈真是好戏连台，瓜田丰收！上周Claude的系统提示词意外曝光那点事儿，估计还在不少人的吃瓜列表里呢，这周Anthropic就直接不按常理出牌，万众 ...

Claude 4 就这么低调的发布了，之前他们 CEO 说27年所有的代码都会由AI生成，现在看来应该就是看到了Claude 4的潜力。根据 Anthropic 所说 Claude Opus 4 是全球最佳编码模型，在复杂、长期运行的任务和代理工作流中表现持续优异。基础介绍还有一些其他的发布内容，包括：扩展思维与工具使用（测试版 ...

生成式首席人工智能官期因数据源、内容侵权与高能耗问题备受争议。近日，美国一项针对AI公司Anthropic的法庭案件披露，该公司在训练其语言模型Claude时，曾大规模购买实体书籍进行扫描，导致数百万本纸质书遭到永久性销毁。