漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2023-11-28 talkingdev

ZipLoRA: 低秩学习矩阵合并技术提升模型性能

本文介绍了一种名为 ZipLoRA 的技术,该技术可以将多个低秩学习矩阵(LoRAs)合并在一起,从而改善模型性能。相比于常规的微调,LoRAs 更加经济实惠,但是也会改变模型的行为。本文提出的 ZipLoRA 技术可以在保留每...

Read More
2023-09-06 talkingdev

BLoRA开源,同一GPU上批量处理LoRAs

LoRAs是一种小型的参数适配器,通过插入到某些层次来改变底层模型的行为。你可以为基础模型进行批量生成,以提高性能。此外,你还可以对LoRA修改后的模型进行批量处理,并向不同的用户提供具有不同性能的模型。这种...

Read More
2023-08-18 talkingdev

LoRA探索者:改变模型性能的低阶适配器

LoRA,全称低阶适配器,可以帮助改变模型性能。这意味着,你不需要对模型中的每个参数进行微调,只需训练一个可以轻松插入的子集。在这种情况下,社区中训练了许多可以改变SDXL行为的LoRA。这个空间可以帮助你探索其...

Read More