Humanity.tools（Tools for Humanity）为Worldcoin Orb开发了一个安全且强大的计算环境，该环境采用NVIDIA Jetson进行处理，并使用Arm Cortex M4微控制器执行实时功能。Orb运行Rust应用程序，并使用NVIDIA的TensorRT...

英伟达在其GitHub仓库Optimum-Nvidia中发布了TensorRT的最新更新，这一更新使得AI推理速度大幅提高，达到了比基线快28倍的速度。特别是在Llama 2的基准测试中，能够达到每秒处理1200个令牌的惊人速度。这一进步得益...

人工智能公司xAI近日宣布推出其最新模型Grok 1.5，该模型具有128k的上下文长度，能够更好地理解复杂的问题并提供准确的回答。Grok 1.5的推理能力得到了显著提升，尤其在信息检索和编程领域表现出色。这使得开发者和...

近日，英伟达的GPU在MLPerf推理测试中取得了优异的成绩，尤其是H200型号。MLPerf推理测试是业界公认的深度学习性能评估基准，对AI系统的推理能力进行全方位评测。在此次测试中，英伟达的GPU展现了其在处理复杂机器学...

Anyscale与NVIDIA最近宣布了一项新的合作伙伴关系，旨在帮助客户将生成式AI模型扩展到生产环境中。通过这次合作，客户可以将Ray与Anyscale的托管运行环境相结合，以提高资源管理、可观测性和自动扩缩容的能力。这项...

研究人员开发了一种名为“Quiet-STaR”的新技术，通过赋予AI系统“内心独白”，显著提升了其在推理测试中的性能。该技术已经被应用于Mistral 7B语言模型，并且取得了令人瞩目的效果。这一项技术的进步意味着AI系统能够更...

PuzzleVQA是一个专为测试大型多模态模型，如GPT-4V的抽象推理能力而设计的数据集。该数据集通过一系列复杂的视觉问题和答案对，评估模型在理解和推理方面的表现。这些问题往往需要模型进行深层次的逻辑思考和抽象概...

Chain-of-Spot（CoS）技术近日提出了一种交互式推理方法，该方法大幅提升了大型视觉语言模型（LVLMs）处理和理解图像的能力。CoS通过识别图像中对于特定问题或指令的关键区域，使得LVLMs能够在不损失图像分辨率的前...