Jina AI最新推出了一款名为'LLM friendly HTML conversion'的GitHub项目，该项目旨在将网络链接转换为适用于大型语言模型（LLM）的友好Markdown格式。这一工具的开发，将极大地便利开发者和研究者利用LLM进行各种任...

Mistral公司近日发布了一款新型的8x22B模型，并通过磁力链接供用户下载体验。根据社区首批基准测试结果显示，该模型作为基础模型表现突出，其77 MMLU（与推理能力密切相关的指标）得分令人瞩目。这一新模型的出现，...

Chronon是一个全新的平台，旨在帮助组织轻松推进AI/ML项目，无需关注复杂的数据计算和服务编排问题。该平台通过抽象化处理，能够执行批处理和流计算、可伸缩的回填、低延迟服务等功能，从而最大化组织内部数据的利用...

MLPerf 近日更新了其推理基准测试，新增了如 Llama 2 70B 和 Stable Diffusion XL 等大型语言模型，这一变化体现了整个行业对于大型生成型人工智能的转移。在最新测试中，Nvidia 的系统，尤其是搭载了 H200 处理器的...

微软开发的TypeSpec是一种新型API定义语言，它借鉴了TypeScript的语法，提供了一种比JSON或YAML更简洁、易读的方式来编写OpenAPI。TypeSpec通过允许将API模式定义为可复用组件，解决了OpenAPI的冗长和缺乏可复用组件...

Lightning Whisper MLX是一款针对苹果硅芯片优化的Whisper语音识别算法的高速实现版本。它采用批量解码技术以提高吞吐量，运用蒸馏模型以加快解码速度，并引入量化模型以加速内存传输。相较于传统的Whisper CPP，Lig...

AI21实验室近日发布了一款新型语言模型——Jamba，它采用了独特的模型结构，旨在实现比Transformers更高的效率，同时保持相当的性能水平。Jamba模型的最大亮点在于其创新性地融合了MoE（Mixture of Experts）层，这使...

近日，英伟达的GPU在MLPerf推理测试中取得了优异的成绩，尤其是H200型号。MLPerf推理测试是业界公认的深度学习性能评估基准，对AI系统的推理能力进行全方位评测。在此次测试中，英伟达的GPU展现了其在处理复杂机器学...