Meta推出开源大模型Llama 3:最大底牌4000亿参数,性能直逼GPT-4

资讯4周前发布
585 0 0

Meta推出开源大模型Llama 3:最大底牌4000亿参数,性能直逼GPT-4

划重点:

  • 1
    Meta周四推出两款较小版本的开源大模型Llama 3,同时发布新版本AI助手。
  • 2
    Meta为AI助手设立独立网站Meta.ai,将把它整合到Facebook、Instagram、WhatsApp和Messenger应用。
  • 3
    两款较小的Llama 3版本分别在80亿个参数和700亿个参数下训练,MMLU得分达到82分。
  • 4
    Meta计划在今年推出正式版Llama 3,目前用4000亿个参数进行训练,MMLU得分达到85分。
Meta推出开源大模型Llama 3:最大底牌4000亿参数,性能直逼GPT-4

腾讯科技讯 4月19日消息,据国外媒体报道,美国科技巨头Meta推出了其最强大的开源人工智能(AI)模型Llama 3,以追赶行业领导者OpenAI。Meta首席执行官扎克伯格表示,Llama 3有8B和70B两个版本,大版本的Llama 3将有超过4000亿参数。由于预训练和指令微调,Llama 3相比Llama 2有了极大的改进。

此外,Meta还同时发布了AI助手的更新版本。该助手将在Meta的Facebook、Instagram、WhatsApp和Messenger应用以及一个新设立的独立网站Meta.ai中获得更突出的地位,让Llama 3能够更直接地与微软支持的OpenAI的热门产品ChatGPT竞争。

Meta推出开源大模型Llama 3:最大底牌4000亿参数,性能直逼GPT-4

Meta在去年7月份发布了Llama 2。此后,包括谷歌、马斯克旗下的xAI与Mistral等在内的数家公司发布了开源的大语言模型,竞争十分激烈。

Llama 3直接对标OpenAI的GPT-4,后者已经成为一个强大的多模态模型,不仅能够处理更长的文本,还支持图像输入。Meta此前已推出三个版本的Llama 2,其中最大的一个拥有700亿个参数,另外两个版本分别拥有130亿和70亿个参数。

在宣布这一消息之际,Meta一直在努力向其数十亿用户推广生成式人工智能产品,包括对计算基础设施进行全面改造,以及整合此前截然不同的研究和产品团队,从而挑战OpenAI在该技术上的领先地位。

开源的Llama是Meta人工智能战略的重要组成部分。这家社交媒体巨头希望利用人工智能来提高其广告工具的效率,并增强其社交媒体应用的吸引力。Meta首席执行官马克·扎克伯格(Mark Zuckerberg)在本月初向投资人表示,今年的主要关注领域包括推出Llama 3和“扩大Meta AI助手的实用性”。

追赶GPT-4

Meta希望Llama 3能赶上OpenAI的GPT-4。不过知情人士透露,因为研究人员尚未开始对Llama 3进行微调,所以尚未决定Llama 3是否将是多模态模型。微调是开发人员为现有模型提供额外数据的过程,以便它可以学习新信息或任务。较大的模型通常会提供更高质量的答复,而较小的模型往往会更快的提供答复。有消息称,正式版的Llama 3将会在今年7月正式推出。

Meta首席产品官克里斯·考克斯(Chris Cox)在接受采访时表示,该公司为Llama 3植入了全新的计算机编码功能,如今它不仅可以输出文本,还可以输出图像。他补充说,更高级的推理,如制定更长的多步计划的能力,将在后续版本中推出。Meta在官方博客中表示,计划在未来几个月发布的正式版也将具有“多模态”能力,这意味着它可以生成文本和图像。

考克斯说:“最终的目标是帮助用户摆脱烦心事。无论是与企业互动,无论是写东西,还是计划旅行,让他们的生活更轻松。”他还表示,将图像纳入Llama 3的训练将增强今年推出的新一代雷朋Meta智能眼镜的功能,让Meta AI能够识别使用者看到的物体并回答有关它们的问题。

Meta还宣布与Alphabet的谷歌建立新的合作伙伴关系,在助手的答复中包括实时搜索结果,作为与微软必应现有合作的补充。随着此次更新,Meta AI助手正在扩展到美国以外的十多个市场,包括澳大利亚、加拿大、新加坡、尼日利亚和巴基斯坦。考克斯说,Meta“仍在努力以正确的方式在欧洲做到这一点”。欧洲的隐私规定更加严格,即将出台的人工智能法案也准备提出披露模型训练数据等要求。

生成式人工智能模型对数据的巨大需求已开始限制该技术的发展。作为追赶努力的一部分,Meta一直在发布像Llama 3这样的模型供开发人员免费商业使用,因为强大的免费模型的成功可能会阻碍竞争对手从其专有技术中赚取收入的计划。

扎克伯格周四在发布会上称Meta AI是“你可以自由使用的最智能的人工智能助手”。他表示,最大版本的Llama 3目前正在用4000亿个参数进行训练,在MMLU(大规模多任务语言理解)测试中得分为85分。他表示,推出的两个较小版本现在分别有80亿个参数和700亿个参数,后者MMLU的得分为82分。(编译/无忌)

Meta推出开源大模型Llama 3:最大底牌4000亿参数,性能直逼GPT-4

92game游戏网

色彩游戏网

© 版权声明

相关文章

暂无评论

暂无评论...