在预训练中，如何积极选择下一批最好的样本是一个挑战性和开放性的问题。DeepMind的这项工作探索了如何只花费10%的浮点运算和硬挖掘负样本，仍然能匹配各种任务的最新技术。在这个过程中，他们采用了一种名为“联合样...

检索增强指令调整（RA-IT）通过大型语言模型对信息进行提取，从而提高了信息提取的效率。这种技术的出现，为我们理解和处理大量信息提供了新的可能。RA-IT不仅可以提高信息提取的速度，还可以提高提取信息的准确性，...

近日，AI与Morph Labs联合发布了一篇关于信息检索增强型生成（RAG）模型微调的优秀博客文章。在文章中，他们展示了一些合成数据的使用情况。信息检索增强型生成模型是一种新型的深度学习模型，它结合了信息检索技术...

EvalAlign是一种新型的用于改进文本到图像生成模型评估的指标。与现有的评估指标不同，EvalAlign提供了细粒度的准确性和稳定性。它主要关注图像的真实性和文本与图像的对齐性。与其他评估指标不同的是，EvalAlign不...

PE-Rank是一种新的段落排名方法，通过使用单一的段落嵌入来进行上下文压缩，从而提高了效率。段落排名在许多技术领域都有重要的应用，如信息检索、机器翻译和自然语言处理等。传统的段落排名方法往往需要大量的计算...

苹果在iOS 18中引入了AccessorySetupKit，这是一项革新性的API，它使得第三方配件能够提供与AirPods和AirTag等苹果官方配件相同的设置体验。运行iOS 18的设备在检测到兼容配件时，将自动弹出配对确认窗口。该系统将...

当前，大多数用于Transformers的计算花费在线性层上。这项工作利用muP和Monarch矩阵构建了一个结构化表示，不仅减少了计算量，而且比原始的密集层拥有更好的扩展规则。这项技术可以提高计算效率，降低运算成本，为AI...

苹果公司在其最新操作系统iOS 18中，将为iPhone的Messages应用引入RCS（Rich Communication Services）通信协议。该协议将替代传统的SMS，成为Android与iOS设备间默认的通信协议。RCS支持即时输入指示、已读回执、更...