Hono 是一款专为边缘计算设计的超快 Web 框架。它小巧,简单,可在任何 JavaScript 运行时上运行。Hono 具有内置中间件、自定义中间件和第三方中间件。它采用超级清晰的 API 和一流的 TypeScript 支持。Hono 的出现...
Read MoreOpenAgents是一款用于编写语言模型插件的框架,它为用户提供了完全的控制权。该框架可以帮助用户快速构建自己的语言模型,同时具备高度的灵活性和可扩展性,用户可以根据自己的需求自由地进行定制和扩展。OpenAgents...
Read More大多数组织机构没有资源在GPU上运行大型模型,但是有一个强大的开源推动力量在本地运行这些模型。本文探讨了这种推动力量以及LangChain + Ollama集成。 LLN(Local Low Rank Normalization)是一种用于处理基于卷积...
Read More人工智能驱动软件的下一步演变并非聊天机器人,而是利用LLMs来完成实际工作的应用。AI基础设施联盟的此篇电子书全面覆盖了此领域的各个方面,包括Prompt工程、LLM逻辑和推理、主要框架如LlamaIndex、LangChain、Hays...
Read MoreFastStream是一个Python框架,用于构建与事件流交互的异步服务。该框架旨在简化在异步代码中执行事件流处理的过程。FastStream 提供了一个轻量级且易于使用的API,允许开发人员将事件流处理任务与异步服务相结合。Fa...
Read MoreOpenLM是一个专为训练最多可达70亿参数的中等规模语言模型设计的库和框架。它的设计理念是注重GPU速度和可修改性。作为收敛性验证,已经有在1.25T标记上训练的模型可供使用。这种新型的框架和库能够更好地满足中等规...
Read MoreMinum是一款极简实验性Web框架。它具有带有磁盘持久化的内存数据库、服务器端模板、日志和测试框架、HTML解析等功能。 Minum的编译大小只有150千字节,其中包括必需的依赖项在内,生产代码仅有3,757行。
Read More