Llama Stack 定义并标准化了将生成式AI应用推向市场所需的核心构建模块。这些构建模块以可互操作的API形式呈现，并由广泛的提供商提供其实现。它们被组装成易于开发者从零到生产的发行版。Llama Stack 的目标是简化...

Hazy Research的最新研究表明，通过Ollama使用本地模型，并结合长上下文云端模型作为协调器，可以在仅花费17%成本的情况下，实现97%的任务性能。这一发现为企业在AI部署中提供了更高效、更经济的解决方案。本地模型...

近日，GitHub上出现了一款名为OllamaTalk的开源项目，该项目基于Flutter框架开发，旨在为Ollama提供一个简洁易用的前端界面。OllamaTalk的设计理念是简化用户与Ollama的交互过程，使其更加直观和高效。通过Flutter的...

DeepEval是一个开源框架，专注于评估和测试大型语言模型系统。它整合了最新的研究成果，通过本地运行的模型来评估模型输出。DeepEval支持通过RAG、微调、LangChain、LlamaIndex等多种方式实现的应用。该框架可帮助开...

近日，GitHub Gist上发布了一个关于Llama推理模型的最小化工作复现版本。该模型最初由OpenAI提出，并由DeepSeek发布。该模型通过数学问题的格式和正确性奖励进行训练，展示了在长时间训练后出现的“顿悟”时刻。这一进...

Llama.vim近日宣布推出本地LLM辅助文本补全功能，这一创新技术将为开发者提供更高效的代码编写体验。通过集成本地LLM模型，Llama.vim能够在离线环境下实现智能文本补全，显著提升开发效率。该功能不仅支持多种编程语...

SambaNova推出的EvaByte模型在字节级语言建模领域取得了显著进展。尽管其性能仅与两代前的模型（如Llama 2）相当，但对于长期受限于10亿参数以下的字节级模型来说，这无疑是一个重要的突破。EvaByte的成功不仅展示了...

近日，Hugging Face Hub发布了全新的Dolphin 3.0模型，该模型基于Llama 3.1 8B架构开发，专注于通过系统提示接受指令。Dolphin 3.0在保持Llama基础模型强大性能的同时，展现了在多角色扮演和个性化任务中的卓越表现...