新型注意力机制提升网页理解能力

近日，研究人员开发出新的维基百科网页套件（WikiWeb2M），旨在提高多模态网页理解能力，该套件包含200万个网页和一种特殊的注意力机制，可提高生成描述、总结部分和创建上下文图像标题等任务的性能。 ## 主要内容： - 研究人员开发出新的维基百科网页套件（WikiWeb2M）。 - 该套件包含200万个网页和一种特殊的注意力机制。 - 新的注意力机制提高了生成描述、总结部分和创建上下文图像标题等任务的性能。