漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2023-12-06 talkingdev

AIConfig开源,为模型商和开发者极大降低适配成本

LastMile AI开源了一个名为AI Config的库,旨在将模型、参数和提示解耦和抽象开来。AI Config使得开发者可以轻松地在模型提供商之间切换,并开发与模型无关的应用程序。AI Config库还支持多个模型以及灵活的参数配置...

Read More
2023-11-23 talkingdev

微软和英伟达简化了在Windows上运行AI模型的过程

微软宣布了Windows AI Studio,这是一个供开发人员访问和配置AI模型的中心,提供了来自Azure AI Studio和Hugging Face的工具以及模型配置界面和性能测试模板等功能。英伟达更新了其TensorRT-LLM,支持GeForce RTX 30...

Read More
2023-08-10 talkingdev

Parea AI:专为监控和调试LLM应用的开发者工具包

Parea AI是一个开发者工具包,专门用于调试和监控LLM应用。用户可以以版本化的方式实验提示和模型配置。在较大规模上,使用自定义的Python评估指标来评估提示。通过API监控LLM应用,并在仪表板上查看分析数据。Parea...

Read More