微软与Meta宣布在Azure和Windows上支持Llama 2,一个大型语言模型家族。这是Llama 2首次商业化发布。该合作使得开发者可以在Azure上构建、微调和部署基于Llama 2的模型,同时还可以针对Windows本地使用进行优化。此...
Read MoreFury是一个多语言序列化框架。它具有跨语言的离线序列化功能、高度可扩展的JIT框架、多种二进制协议等特点。新的协议可以轻松地添加到Fury中,并且对一个协议的优化可以被重用于另一个协议。
Read MoreRetake是一个为矢量数据流提供基础设施的工具。它具有开箱即用的数据同步、实时更新和可扩展的Python开发工具包。Retake稳定高效,可在任何地方部署。它确保输入、真实数据源和矢量之间的一致性,而无需维护流水线的...
Read MoreAutoChain是一款源自LangChain和AutoGPT的新一代开发框架,旨在解决这两种工具存在的问题,为开发者提供一个轻量级且可扩展的平台,以便他们使用LLMs(大型语言模型)和自定义工具构建自己的代理。AutoChain的设计理...
Read More聚焦变换器是一种有趣的检索策略,它使用对比学习来提高key和value的缓存使用。此方法已被证明可相对稳定地扩展到几十万个标记。然而,目前尚不清楚这种方法在大规模应用中的表现如何,或者是否受到其他长期上下文方...
Read More先进的核裂变微反应器初创公司Oklo即将通过与OpenAI首席执行官Sam Altman共同创立的特殊目的收购公司(SPAC)公开上市。Altman同时也是Oklo的董事会主席。这次SPAC将为Oklo公司筹集多达5亿美元的资金,预计将在2024...
Read MoreAnthropic公司最近发布了其最新模型Claude 2。Claude 2提供了改进的性能,扩展的响应,并可通过API和beta站点进行访问。Claude 2拥有增强的推理,编码和数学能力,可以处理每个提示中多达100K的令牌,使其能够处理复...
Read More该研究介绍了一种新的技术,专注变压器,这种技术可以帮助AI模型在处理大量数据的情况下,记住并专注于相关的信息。该方法改进了AI如何理解和使用长篇的文本,他们在OpenAI的模型上的测试显示了这一点。专注变压器的...
Read More