近日，一款云原生的AI网关——BricksLLM，引起了广泛关注。这款使用Go语言编写的AI网关可以作为OpenAI的代理，并允许用户创建具有速率限制、成本限制和TTL的API密钥。BricksLLM是一个开源项目，可在GitHub上找到。它的...

Giskard是一个开源的测试框架，用于测试从表格到LLMs的机器学习模型。它通过检查模型的输出和真实值之间的差异来评估模型的性能。Giskard不仅可以测试模型的预测能力，还可以测量它的稳定性、可解释性和鲁棒性。Gisk...

LLM可视化是一个网站，用于展示nano-gpt模型如何将6个字母的序列按字母顺序排序。nano-gpt模型是由85,000个参数组成的模型，其基础是GPT-2，该模型可用于生成自然语言文本。该网站使用了交互式的可视化工具，用户可...

Ollama就像是llama cpp模型周围的软件包管理器。它具有易用性和质量生活功能，甚至可以在CPU上轻松运行模型。本示例展示了如何运行两个优秀的模型，Dolphin和Samantha，它们是用于对话任务的优秀未过滤模型。

随着开放模型在许多企业任务中变得有用，人们开始探索部署优化。然而，这个领域很复杂且分散。本文深入探讨了许多用于加速语言模型服务的标准技术。

一种名为OneLLM的新型AI模型正在掀起波澜，它使用一种独特的方法将所有这些模态与语言对齐，理解包括图像、音频甚至脑活动在内的八种不同类型的数据。OneLLM的这种多模态理解方法可能会推动AI在语义理解方面的进一步...

本研究介绍了使用大喜利幽默生成游戏来探索LLMs中的跳跃思维能力。这种方法挑战LLMs展现出非连续思维的能力，这是一项对于生成对各种类型的多模式信息具有创造性和幽默感的回应至关重要的技能。

Lightspeed分享了来自Google和TitanML关于通过提示或微调优化LLMs的内幕。 这些技术可以优化自然语言处理模型，从而帮助它们更好地适应真实世界的应用。 在这篇文章中，您将了解到这些优化技术的工作原理以及它们如...