近日,一项名为LLMLingua的新项目在GitHub上开源。该项目使用对齐后的小型语言模型检测提示中的无关标记,并实现对黑盒LLM的压缩推理,从而实现了高达20倍的压缩比,且性能损失最小。简言之,LLMLingua能够帮助开发...
Read More这是一个正在建设中的资源库,旨在帮助人们掌握最新的创新技术。它主要面向初学者,包括学习Python、深度学习和语言建模的资源。如果你想了解生成式AI,那么这个资源库是一个很好的起点。学习这项技术需要耐心和毅力...
Read MoreFlamingo是DeepMind的一个模型,可以处理图像和文本。它能够回答视觉问题,并具有强大的语言建模性能。这项工作是对这些模型的复制研究。它还使用了MPT和Red pajama基础模型,这些模型在许可使用上较为灵活。这个复...
Read More