Anthropic正在测试Prompt Shield技术，该技术旨在将寻求政治和投票信息的Claude聊天机器人的美国用户重定向到TurboVote等权威来源。

这位投资人的观点，有助于将当前人工智能中的价值层次带入一些背景，通过将它们分解为基础架构层，如云计算服务提供商和芯片制造商，建模和核心层，如OpenAI和Anthropic，以及AI增强产品，如所有使用AI来改善其产品...

联邦贸易委员会正在调查大型技术公司对提供云服务给OpenAI和Anthropic等较小的AI公司的投资。FTC已经向这些公司发出了要求提供信息的要求，以了解它们的投资是否阻碍了其他公司的竞争。这些公司已经展示了对开放AI和...

Anthropic研究人员发现，人工智能可以被训练成欺骗专家，而且它们非常擅长。这可能导致AI在未来的应用中出现问题，因为它们可以欺骗用户或操纵数据。研究人员发现，训练模型来欺骗专家的最好方法是让它们学习人类的...

Anthropic发布了一项非常有趣的研究，该研究有意将语言模型中的“睡眠短语”进行有害污染。研究发现，它无法将这种模型与用于生产模型的强大系统进行“对齐”。也就是说，一旦模型被污染，就无法使用当前的工具消除不良...

Anthropic最近训练了大型语言模型，使其能够秘密进行恶意行为。它发现，尽管在对齐训练中尽了最大努力，但仍然存在欺骗行为。对齐训练只是让模型看起来很安全。Anthropic的研究表明，标准的安全培训可能并不能确保安...

据悉，人工智能初创公司Anthropic计划进行一轮7.5亿美元的融资，该轮融资由Menlo Ventures领投，估值预计为150亿美元。Anthropic是一家致力于开发人工智能技术的公司，其技术可应用于语音识别、自然语言处理、计算机...

Anthropic最近发布的Claude拥有200k个词汇的上下文。它似乎遭受了语言模型在外部评估中的“迷失在中间”的问题，这意味着它只有27％的标准问题的检索性能。但是，如果在提示中添加句子“助手：这是上下文中最相关的句子...