漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品

结束了!GPT-4的详细信息被泄露出来了

talkingdev • 2023-07-12

1254921 views

近日,一份粘贴文本公开了GPT-4的详细结构信息。GPT-4的规模比GPT-3大了10倍以上,预计总共拥有1.8万亿参数,跨越了120层。OpenAI使用了混合专家模型以保持成本合理。据估计,训练这个模型的费用约为6300万美元。更多详细信息已在文本中公开。

核心要点

  • GPT-4的详细结构信息被泄露
  • GPT-4的规模是GPT-3的10倍以上,总共拥有1.8万亿参数,跨越了120层
  • 训练GPT-4的费用约为6300万美元

Read more >