漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-06-05 talkingdev

开源| QVAC SDK震撼更新:本地运行大模型,上下文容量暴增5倍,TurboQuant技术加持

Tether团队近日发布了QVAC SDK的最新版本,这是一款面向本地设备、专注于构建跨平台P2P应用的开源工具包。此次更新的核心亮点在于集成了名为TurboQuant的全新优化技术。通过这一技术,开发者在相同硬件条件下,能够...

Read More
2026-06-05 talkingdev

开源|Ollama Model Tester:一键对比本地大模型性能的CLI工具

随着本地大语言模型(LLM)的普及,Ollama作为一款简洁的本地模型运行工具,受到开发者和研究者的广泛关注。然而,面对众多不同参数规模、训练策略的Ollama模型,如何快速、客观地选出最适合特定任务的模型,成为实...

Read More
2026-04-07 talkingdev

开源|Ghost Pepper:macOS本地长按语音转文字工具,基于WhisperKit与本地LLM,数据不出设备

开发者matthartman近日在GitHub上开源了名为Ghost Pepper的macOS应用,它是一款完全在本地运行的“长按说话”语音转文字工具。该工具的核心技术栈结合了OpenAI开源的WhisperKit语音识别模型与本地运行的大型语言模型(...

Read More
2026-04-06 talkingdev

开源|Gemma Gem:首个完全在设备端通过WebGPU运行谷歌Gemma 4模型的浏览器扩展

近日,GitHub上出现了一个名为Gemma Gem的开源项目,它是一个Chrome浏览器扩展,能够将谷歌最新发布的Gemma 4大型语言模型完全在用户本地设备上运行。该项目最大的技术亮点在于,它通过新兴的WebGPU API来实现高性能...

Read More
2026-03-23 talkingdev

开源|Project N.O.M.A.D.:一款集成AI与离线知识库的生存级便携服务器

近日,GitHub上出现了一个名为Project N.O.M.A.D.(Node for Offline Media, Archives, and Data)的开源项目,它是一款自包含、优先离线的知识服务器,旨在为用户提供无需互联网连接的工具、教育资源和人工智能能力...

Read More
2026-03-11 talkingdev

开源|RCLI:完全本地的macOS语音AI助手,无需云端即可控制电脑与文档问答

近日,GitHub上开源项目RCLI引发开发者社区关注。该项目是一款专为搭载Apple Silicon芯片的macOS设备设计的全本地化语音AI助手。其核心价值在于构建了一个完整的端侧AI处理流水线,集成了语音识别(Speech-to-Text)...

Read More
2026-03-11 talkingdev

开源|RCLI:本地化语音AI助手登陆macOS,无需云端即可控制应用与查询文档

近日,GitHub开源项目RCLI(RunanywhereAI/RCLI)发布,为macOS用户带来了一款完全在设备端运行的语音人工智能助手。该工具的核心创新在于其“全本地化”架构,集成了本地语音AI与检索增强生成(RAG)技术,用户可直接...

Read More
2026-02-26 talkingdev

开源|苹果发布Python版Foundation Models SDK,为开发者解锁本地AI模型能力

苹果公司近日在GitHub上开源了其Foundation Models SDK的Python版本,为开发者社区提供了一个直接访问其设备端核心AI模型——Apple Intelligence的官方接口。该SDK通过Pythonic的封装,将苹果的Foundation Models框架...

Read More
  1. Next Page