该仓库介绍了Wanda，一种通过选择性地丢弃不太重要的网络权重来减少大型语言模型复杂性的独特方法。与其他方法不同，Wanda无需重新训练或大量计算，能够在保持性能的同时实现有效的模型剪枝。

Autolabel是一个Python库，可以使用你选择的任何大型语言模型（LLM）来标注、清理和丰富文本数据集。

这项研究介绍了LOw-Memory Optimization（LOMO），这是一种旨在显著减少大型语言模型（LLM）训练所需资源的优化器，目前这一过程需要大量的GPU资源。LOMO的创新方法使得只需使用一台具有8个RTX 3090 GPU（每个具有24...

本文讨论了几种加速大型语言模型（LLM）训练和推理的技术，以使用高达100K个输入令牌的大上下文窗口。这些技术包括：ALiBi位置嵌入，稀疏注意力，闪电注意力，多查询注意力，条件计算以及使用80GB的A100 GPU。

本研究调查了强大的语言模型是否能够教授较不先进的人工智能系统并提高其性能。研究提出了两个人工智能之间的“学生-教师”关系，并探讨了“教师”人工智能应该在什么时候、如何以及解释给“学生”人工智能，以提升其能力...

近日，研究人员提出了一种名为“对比输入解码（CID）”的新方法，旨在通过生成反映两个略有不同输入的独特特征的文本来揭示AI语言模型对微小变化的反应，从而使其响应更加易于理解和管理。这对于确保公平性和实用性至...

近日，研究人员提出了一种名为Sparse-Quantized Representation（SpQR）的新技术，可以实现对大型语言模型（LLMs）的几乎无损压缩，克服了量化带来的精度损失。这项技术使得强大的LLMs可以在像笔记本电脑和手机这样...

## 概述 本文讨论GPT分词器，这是大型语言模型用于将文本转换为预测所需的标记。我们介绍了一个Observable笔记本工具，它允许用户将文本转换为标记，反之亦然，并在完整的标记表中运行搜索。 ## 核心要点 - GPT分词...