近期，研究人员开发出了一种新型算法，用以解决图书馆书籍排序问题，即如何在最短时间内将新书放置到书架上，并保持某种排序顺序。这一问题同样适用于硬盘和数据库中文件的排列。该算法的效率接近理论上的理想状态，...

Mistral Saba是一款基于中东和南亚地区精心策划数据集训练的24B参数模型。尽管其规模仅为同类模型的五分之一，但Mistral Saba在提供更准确和相关响应方面表现出色，同时显著降低了计算成本和响应时间。这一突破性技...

近日，一款名为SmolGPT的轻量级PyTorch实现框架正式发布，旨在帮助开发者从零开始训练小型LLM（Large Language Model）。该框架以其简洁的设计和高效的性能吸引了广泛关注。SmolGPT通过优化模型结构和训练流程，显著...

1Prompt1Story是一种无需训练的文本到图像生成方法，通过单一串联提示实现一致的图像生成。该方法的核心在于将多个提示信息串联成一个整体，从而在生成过程中保持一致性。与传统的训练依赖型方法不同，1Prompt1Story...

本文综述了基础模型的参数高效微调技术，深入探讨了在保持多样化任务性能的同时，如何最小化计算成本的方法。随着基础模型（如LLM）的广泛应用，参数高效微调技术（如LoRA、RAG等）成为研究热点。这些技术通过减少需...

近日，UniAct作为一种全新的Embodied Foundation Model框架正式亮相，其独特之处在于能够在Universal Action Space中高效运作。这一技术的推出标志着人工智能在动作空间建模领域迈出了重要一步。UniAct通过整合多模...

Llama 3.3是一个最新的人工智能自编码器模型，拥有70亿参数规模。此次更新不仅提升了模型的容量和性能，还开放了API接口，使得开发者和研究人员能够更方便地接入并利用这一强大的模型资源。稀疏自编码器是一种高效的...

在预训练中，如何积极选择下一批最好的样本是一个挑战性和开放性的问题。DeepMind的这项工作探索了如何只花费10%的浮点运算和硬挖掘负样本，仍然能匹配各种任务的最新技术。在这个过程中，他们采用了一种名为“联合样...