DeepSeek在Hugging Face上发布了DeepSeek-V4.1-Flash-1017。该模型在推理、编码、智能体任务和视觉基准上带来显著提升,同时减少任务执行时间和输出长度,在多个智能体框架中推动性能-成本帕累托前沿前移。技术层面...
Read More近日,GitHub上开源了一个名为TriAttention的项目,其核心是一种创新的KV(键值)缓存压缩技术。该技术旨在解决大语言模型在处理长上下文任务时,因KV缓存占用内存巨大而难以在消费级或内存受限的GPU上高效部署的行...
Read More