近日,Reka和Google的Yi Tay发表了一篇精彩的文章,详细讲述了编码器、prefixlm、降噪目标等现代语言建模技巧。在这篇文章中,Yi Tay详细分析了一些对于语言建模领域的最新的研究成果和思考。他深入剖析了编码器的工...
Read MoreAndrej Karpathy的新公司Eureka Labs,是一家专注于教育的人工智能公司,旨在改变我们学习新事物的方式。他们的目标是通过人工智能的应用,突破传统教育模式的局限,开启一种全新的学习方式。相信在未来,Eureka Lab...
Read MoreReka是一家专业训练大型基础模型的公司,尽管资金规模只是顶级玩家的一小部分,但其发展速度却迅速赶超了一些业界最佳参与者。近日,Reka发布了其内部评估套件Vibe-Eval的一个子集,该套件被用于确定其模型的强度。...
Read MoreReka的创始人、著名GPU评论家Yi Tay在一篇博客文章中概述了他们在谷歌之外训练极强语言模型的经验。主要的挑战来自于集群和硬件的不稳定性,他们还发现软件的成熟度也是一个挑战。尽管如此,他们还是成功地训练出了...
Read MoreAI初创公司Reka宣布推出了一个新的模型,该模型具备210亿个参数,完全从头开始训练。它是本地多模态的,胜过了Llama 70B和Mixtral在多项关键基准测试中。重要的是,考虑到该公司的创始人曾经工作的公司,它也匹配了G...
Read MoreNVIDIA Research开发了Eureka,这是一种由OpenAI的GPT-4驱动的AI代理,可以自主地对机器人进行复杂任务的训练。该代理使用了深度学习技术,可以逐步地引导机器人完成任务。通过Eureka,机器人可以在没有人类干预的情...
Read MoreReka近日推出一款名为Yasa-1的多模态模型,该模型能处理音频、视频和文本,是极其受欢迎的T5语言模型的创造者带来的最新力作。Yasa-1在许多任务中都展示了优秀的表现,目前正处于私人预览阶段。Yasa-1继承了T5的精神...
Read More