社交媒体平台上的信息泛滥，很多用户都会选择过滤掉自己不感兴趣或者不适合的内容，而这个 Chrome 扩展可以让你使用本地语言模型按照你选择的标准来过滤社交媒体帖子。这个扩展可以通过自定义正则表达式、关键词、情...

ExLlamaV2是一个在GitHub上开源的项目，它是为现代消费级图像处理单元（GPU）上运行本地语言模型（LLMs）而设计的推理库。这款推理库的出现，可以帮助用户在个人电脑上使用现代GPU进行深度学习模型的推理计算，而无...

Llama.cpp是一个运行本地语言模型的简便方式。然而，它目前受到底层GGML格式的限制。为了解决这个问题，我们提出了一个新的格式，并开始进行集成。新的GGML格式将更加灵活，可以支持更多的模型，这将有助于推动机器...