谷歌最新发布的Gemini Diffusion标志着大语言模型架构的重大突破,这是该公司首次采用扩散模型(Diffusion Model)完全替代传统的Transformer架构。技术文档显示,该模型在保持与Gemini 2.0 Flash-Lite相当性能表现...
Read MoreBLIP3-o作为一种新型的扩散Transformer架构,通过序列预训练方法实现了技术突破,并在多模态基准测试中取得了当前最优异的成绩。该研究不仅发布了完整的代码和权重文件,还附带了一个包含6万条指令的微调数据集,为...
Read More知名开发者Giles Thomas在其技术博客中发表了《从零构建大型语言模型》系列的第13篇文章,深入探讨了Transformer架构中注意力机制的核心原理。文章通过逆向工程视角指出,传统认知中复杂的注意力头(attention heads...
Read More最新研究通过理论与实证分析揭示了单层Transformer模型在完成奇偶校验等复杂任务时的学习机制。研究表明,这类极简架构不仅能捕捉输入数据的配对关系,其训练动态还展现出与深层模型截然不同的特征。尤为值得注意的...
Read More艾伦人工智能研究所(Allen Institute for AI)近日发布了OLMo-2-1B语言模型,这是一款参数规模为1B的小型开源模型。该项目的突破性意义在于其完全透明的训练范式:研究团队不仅公开了模型权重,还完整披露了训练数...
Read More关系图Transformer(Relational Graph Transformers)作为一种前沿的人工智能技术,正在企业数据处理领域引发革命性变革。该技术通过图神经网络与Transformer架构的创新融合,能够有效解决企业级数据中的复杂关系建...
Read MoreIBM研究院近日推出开源大语言模型Bamba,该模型创新性地结合了Transformer架构的序列建模能力和状态空间模型(SSM)的推理速度优势。作为IBM Granite系列模型的技术前导,Bamba通过注意力机制与状态空间方程的混合设...
Read More随着人工智能模型复杂度呈指数级增长,可解释性研究已成为保障AI系统安全可靠的核心议题。斯坦福大学研究员Dario Amodei在最新论述中指出,当前Transformer架构的参数量已突破万亿级别,但决策黑箱问题导致医疗诊断...
Read More