Ramp Labs开源PorTAL框架:一次训练即可跨模型复用LoRA任务表示
talkingdev • 2026-07-28
1815 views
Ramp Labs近日正式开源了PorTAL框架,这是一个面向共享任务表示与跨模型LoRA适配的前沿工具。PorTAL的核心思路在于将任务知识与基座模型解耦:它首先学习一个与模型架构无关的“任务隐变量”,再通过轻量级的逐模型对齐模块,直接生成适用于各个目标基座的标准逐层LoRA权重。这意味着,用户只需对某项任务进行一次训练,就能将该任务表示快速适配到多个不同的冻结基座模型上,无需针对每个模型重新微调。框架目前覆盖从混合注意力模型到多模态系统的广泛范围,已支持Gemma 4 E2B、Mistral 7B等模型。生成的适配器可直接导出为Hugging Face PEFT标准格式,极大简化了部署和共享流程。这一设计不仅显著降低了多模型维护成本,也为参数高效微调(PEFT)在大模型生态中的规模化应用提供了一条通用路径,有望加速多模型协作与任务迁移的研究进程。
核心要点
- PorTAL学习与基座无关的任务隐变量和轻量对齐,生成标准LoRA权重
- 一次训练即可将任务适配到多种冻结基座模型,无需重复微调
- 适配器可导出为Hugging Face PEFT格式,兼容主流模型生态