Tile Language是一种简洁的领域特定语言（DSL），旨在简化和优化高性能GPU/CPU内核（如GEMM、Dequant GEMM、FlashAttention和LinearAttention）的开发流程。该语言采用类似Python的语法，并基于TVM（Tensor Virtual...

Prima CPP是llama.cpp的一个扩展项目，旨在通过内存映射（mmaping）技术，使大型模型能够在低内存环境中高效运行。这一技术突破为资源受限的设备部署先进AI模型提供了可能，尤其适用于边缘计算和移动端场景。通过优...

人工智能研究机构Prime Intellect近日取得重大突破，成功通过完全分布式的方式训练了一个参数量高达320亿（32B）的神经网络模型，并创新性地结合强化学习技术提升模型的推理能力。值得关注的是，该团队已将其核心训...

近日，一款名为Unsure Calculator的创新工具在技术社区引发关注。该工具被设计为一款基于概率的快速估算计算器，其核心理念是让用户能够像在餐巾纸上进行快速计算一样，轻松处理包含不确定性的数学问题。Unsure Calc...

NVIDIA在GitHub开源项目TensorRT-LLM中发布了名为Auto Deploy的创新工具，该技术实现了将PyTorch和Hugging Face模型转化为高效可部署格式的重大突破。通过TensorRT-LLM的优化编译器，模型推理速度可提升数倍，特别适...

AllenAI最新推出的Data Decide工具为预训练过程中的数据筛选提供了创新解决方案。这一框架能够帮助研究人员和开发者更科学地评估和选择预训练数据，显著提升模型训练效率和质量。该工具通过系统化的评估指标，量化不...

Pinterest研究团队在arXiv最新发表的论文中，提出了一种革命性的多任务学习框架——深度分层集成网络（Deep Hierarchical Ensemble Networks），该技术通过特征组合与辅助学习的协同机制，在广告系统转化率（CVR）预测...

谷歌近日基于其Gemma模型系列推出了专为医疗科学领域优化的TxGemma开源模型。该模型在治疗方案的发现方面展现出卓越性能，不仅超越了大多数专用模型，还在所有开源通用模型中表现最佳。TxGemma的发布标志着人工智能...