苹果公司或许是消费级人工智能的潜在领导者，虽然他们从未明确提及过AI技术，但在以下几个方面表现出色： - **变压器键盘**：苹果公司新推出的MacBook Pro配备了变压器键盘，这意味着每个键都有自己的处理器，可以...

最近，一篇名为“Activation-aware Weight Quantization (AWQ)”的论文在GitHub上开源。这篇论文提出了一种新的方法，可以更高效地压缩大型语言模型（LLMs），克服了高硬件要求和慢速令牌生成的问题。AWQ可以选择性地...

在技术领域中，微调是一种比完全微调更便宜的模型微调方式。它通过仅更新模型的一个小而精心选择的子集来工作。然而，即使如此，在普通硬件上微调大型（超过13B参数）模型的成本仍然太高。量化减少了模型中参数的精...

Flux.ai的教程介绍了如何将人工智能应用于硬件设计，概述了将AI集成到设计过程中的潜在优势，如提高效率、准确性和创新性，同时还提供了实施这些技术的实用指南。 ## 核心要点： - AI可以在硬件设计中提高效率、准...

HuggingFace发布了新的研究成果，使得在普通硬件上能够完成对65B参数模型的微调。这项研究使得量化技术不再局限于推理阶段，而是可以应用于训练过程中，从而大幅减少了模型所需空间。以下是该研究的三个核心点： -...

## 新闻概要： - Meta发布了一款专门用于AI推理工作负载的定制芯片。 - 这款7纳米芯片的功耗较低，与许多替代硬件相比速度相当。 - 尽管与其他科技巨头相比有些安静，但Meta的AI硬件计划仍在积极推进。 ## 详细内...

Ltesniffer是一个开源LTE下/上行窃听器，可以用于嗅探LTE网络中的数据包。它是一个基于软件定义无线电（SDR）的项目，利用SDR硬件来接收和发送LTE信号，并将接收到的信号转换为数字信号进行分析。以下是该项目的三个...

Mosaic ML正在开发一个工具包，使模型训练变得非常容易。他们在公共云上复制了稳定扩散训练，只需47,000美元。该代码已经开源。他们的平台可以自动从硬件故障中恢复。有趣的是，这个模型得到了用户高度评价，可能是...