漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2024-06-21 talkingdev

自托管Llama-3 8B-Instruct的成本分析

自我托管像Llama-3 8B-Instruct这样的LLM,其成本可能远高于使用ChatGPT,大约每百万令牌需要花费17美元,而ChatGPT只需要1美元。不过,自我托管硬件的成本可以降低到每百万令牌不到0.01美元,尽管这需要大约5.5年的...

Read More
2024-04-30 talkingdev

Dokploy:开源版Vercel,应用云托管PaaS平台

Dokploy是一个免费的、可自我托管的平台即服务(PaaS)解决方案。它简化了应用程序和数据库的部署和管理。Dokploy允许开发者在任意的虚拟私有服务器(VPS)上高效、安全地部署应用程序。其主要特性包括整合Traefik,...

Read More
2023-10-04 talkingdev

LangChain联合n8n推出低代码平台,让你分钟内构建下一个LLM应用

你的AI应用需要从其他API获取数据,你将如何得到它?大多数开发者都会费力地通过脚本和众多文档页来建立一个两周后就可能出故障的流水线。如果你能在没有API问题的情况下,以10倍的速度构建复杂的自动化工作流,你会...

Read More
2023-08-23 talkingdev

开源Whisper API:实现自我托管的语音转文本转录

近日,一个名为Whisper API的开源项目在GitHub上引起了广泛关注。该项目提供了一个自我托管的API,用于进行语音到文本的转录。这一切都是通过使用一个精心调整的Whisper自动语音识别模型来实现的。这个项目的出现将...

Read More