Aphrodite引擎可以用于减少VRAM需求，提高AI推理工作负载的吞吐量。Pygmalion推理引擎是一种全新的AI推理引擎，它可以在减少VRAM需求的同时提高吞吐量。该引擎基于Aphrodite引擎并进行了优化，可以在保持准确性的同...

近日，一款名为GPTNewspaper的开源项目在GitHub上发布。该项目利用了自然语言处理技术，通过6个代理协同工作，实现了报纸的自动化生成。这6个代理分别是：检索代理、摘要代理、文章代理、编辑代理、格式代理和排版代...

Monte Carlo Tree Search (MCTS)是一种先进的搜索算法。它被用于AlphaGo中，研究人员现在正在努力将其与语言模型集成。MCTS的实现一直以来都非常棘手，但是Jax的出现使得它变得更为容易。现在，开发者们可以在GitHub...

AccessKit为跨平台和编程语言提供UI可访问性基础设施。它具有一个数据模式，定义了使UI可供屏幕阅读器和其他辅助技术访问所需的所有数据。该模式主要基于Chromium的跨平台可访问性抽象，并定义了辅助技术可以请求的...

近日，GitHub上一个名为Plock的Repo备受关注。该Repo提供了一种新的方法，可以让用户在任何可以输入文本的地方直接使用LLM。LLM是一种专业术语，代表着一种很强的自然语言处理技术。用户只需在输入框中输入相应的命...

Enchanted 是一个开源的 iOS 应用，它允许你在移动设备上运行语言模型。该应用能够快速地识别语音和文本并进行分类，是一个非常有用的工具。这个项目的代码已经在 GitHub 上公开，并且允许开发者自由调整和使用。

该项目介绍了MAcro Recommendation Graph（MAG）和Macro Graph Neural Networks（MacGNN），这些方法通过将相似的行为模式分组为宏节点来解决图神经网络的计算复杂性，从而显着减少了节点数。MAG和MacGNN能够有效地...

Shortwave发布了一个基于人工智能的自动补全功能，类似于GitHub Copilot，但专门为撰写电子邮件而设计。它从发送的电子邮件中学习，并提供上下文建议。