Llama cpp现已支持跨多台机器的分布式推理。这一功能目前仅限于FP16（半精度浮点数），但对于开源部署来说，这无疑是一个巨大的进步。通过分布式推理，开发者可以更高效地利用集群资源，提升模型推理的速度和效率。...

近日，在GitHub上出现了一个新的项目，名为Llama3.np，这是一个纯NumPy实现的Llama 3模型。NumPy是一种使用Python进行科学计算的基础软件包，而Llama 3模型则是一种流行的机器学习模型。Llama3.np 项目旨在提供一种...

IBM近日宣布，将其Granite代码模型开源，以便更好地服务于开源社区，推动各平台的编程工作更为轻松和高效。这些模型的参数量在3亿到340亿之间，并覆盖了多种编程任务。这一举动，对于开发者们来说无疑是一大福音，他...

谷歌近日发布了一份新的数据集，包含了1.5万张极其详细和全面标注的图像。这个数据集的特点在于其精确度和全面性，每张图像都进行了详尽的标注，提供了丰富且精确的数据资源，为研究人员提供了强大的工具，可以用于...

过去十年，创业公司和大型企业利用和滥用开源软件，积累了数十亿的收益。然而，企业级开源已经死亡-开源文化依赖于信任，在多次破坏开发者信任后，一些公司已经失去了开源社区的支持。贡献者许可协议是商业公司用来...

一款名为SWE-agent的开源软件代理在软件工程(SWE)基准测试中取得了12%的成功率，覆盖率达到100%。该代理利用GPT-4技术辅助编写软件并解决PRs（Pull Requests）。此代理的出现，不仅展示了人工智能在软件开发领域的潜...

近期，名为'Jia Tan'的攻击者实施了针对广泛使用的开源软件库xz的首次严重的供应链攻击。在攻击发生前，Jia Tan作为xz压缩库的一名贡献者，已经勤奋高效地工作了两年多。此次攻击事件引起了开源社区的广泛关注，对开...

Meta公司近日发布了一个名为Torchtune的原生PyTorch库，专门用于精细调整语言模型。该库旨在为开发者提供更为便捷的工具，以便在PyTorch框架中进行语言模型的微调工作。通过Torchtune，开发者可以更容易地实现模型性...