漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-10-19 talkingdev

DeepSeek-V4.1-Flash-1017 发布:KV缓存占用仅890字节/Token,性能反超DeepSeek-V4-Flash

DeepSeek在Hugging Face上发布了DeepSeek-V4.1-Flash-1017。该模型在推理、编码、智能体任务和视觉基准上带来显著提升,同时减少任务执行时间和输出长度,在多个智能体框架中推动性能-成本帕累托前沿前移。技术层面...

Read More
2026-04-08 talkingdev

开源|TriAttention:基于三角函数的KV缓存压缩技术,助力大模型长上下文推理在内存受限GPU上本地部署

近日,GitHub上开源了一个名为TriAttention的项目,其核心是一种创新的KV(键值)缓存压缩技术。该技术旨在解决大语言模型在处理长上下文任务时,因KV缓存占用内存巨大而难以在消费级或内存受限的GPU上高效部署的行...

Read More