LanceDB是一款针对AI应用的新型开发者友好型无服务器向量数据库。它可嵌入应用程序中，无需管理服务器，其扩展性依赖于磁盘而非内存，具有低延迟性。LanceDB支持向量搜索、全文搜索和SQL，并针对多模态数据进行了优...

最近获得2000万美元投资的together公司，已经对Llama 2进行了微调，通过在位置嵌入上进行线性扩展，使其在处理上下文时可以处理高达32k的token。他们在许多有趣的基准测试中进行了测试，但是他们警告说，现代语言模...

一款酷炫的应用程序让你能够以吠声进行对话，或者用你的旋律来表达。该应用程序利用声音嵌入空间中的最近邻居实现语音转换。声音嵌入是一种表示声音特性的方式，它能够捕捉到声音中的一些重要特征，比如音调、音色等...

近日，Shopify首席执行官Tobi Lutke宣布推出Sidekick，这是一个嵌入Shopify网站的AI助手，旨在帮助创业者和店主开展业务。Sidekick的功能强大，能够协助处理各种商业活动，包括订单处理、库存管理、销售策略等。这个...

tinyvector是一个小巧而快速的向量嵌入数据库。它非常易于定制，并且在小到中等规模的数据集上具有与先进的向量数据库相当的速度。tinyvector可以轻松扩展到超过1亿个向量维度而不会出现问题。

embedchain是一个用于创建基于大型语言模型的聊天机器人的框架。它抽象了加载数据集、分块、创建嵌入和存储到向量数据库的整个过程。用户可以通过链接到媒体文件，如视频、PDF、博客文章或网站，创建聊天机器人。这...

本文讨论了几种加速大型语言模型（LLM）训练和推理的技术，以使用高达100K个输入令牌的大上下文窗口。这些技术包括：ALiBi位置嵌入，稀疏注意力，闪电注意力，多查询注意力，条件计算以及使用80GB的A100 GPU。

近日，开发者们在GitHub上发布了一个名为localGPT的Repo，该项目利用Vicuna-7B模型和InstructorEmbeddings实现了离线文档问答功能。以下是该项目的主要亮点： - 使用Vicuna-7B模型：该模型是由EleutherAI开发的巨型...