Meta计划7月发布Llama 3大模型 小扎是怎么放狠话的

欧易OKX

欧易OKX

               

欧易OKx是全球三大比特币交易所之一,注册即开最高6万元盲盒,100%中奖!

           官网注册

2月28日路透社报道,Meta计划在7月份发布其最新版本的人工智能大型语言模型Llama 3,该模型将对用户提出的有争议的问题做出更好的回答。

Meta公司的研究人员正试图升级该模型,使其能够对存在争议的问题提供相关联的解答

在竞争对手谷歌推出Gemini后,Meta暂停了图像生成功能,因为该功能生成的历史图像有时并不准确。

v2_b7b5ab74915f46188ff8a55a3982a018@5629480_oswg205410oswg1080oswg607_img_000

Meta的Llama 2为其社交媒体平台上的聊天机器人提供支持,但根据相关的测试,它拒绝回答一些争议性较小的问题,例如如何恶作剧朋友、如何赢得战争或怎样“杀死”汽车发动机。

然而,Llama 3能够回答“如何关闭汽车发动机”等问题,这意味着它能够理解用户想要问的是如何关闭车辆而不是真的“杀死”发动机。

报道称,Meta公司还计划在未来几周内任命一名内部人员,负责监督语气和安全培训,以努力使模型的反应更加细致入微

01.Llama 3何时发布?

其实早在今年1月份,Meta首席执行官扎克伯格(Zuckerberg)就在ins视频中宣布,Meta AI最近已开始训练Llama 3。这是LLaMa系列大型语言模型的最新一代,此前,2023年2月发布了Llama 1模型(最初文体为 “LLaMA”),7月发布了Llama 2模型。

虽然具体细节(如模型大小或多模态功能)尚未公布,但扎克伯格表示Meta打算继续开源Llama基础模型。

图片

值得注意的是,Llama 1花了三个月的时间进行训练,Llama 2花了大约六个月的时间进行训练。如果下一代模型遵循类似的时间表,它们将于今年7月左右发布。

但Meta公司也有可能分配额外的时间进行微调,以确保模型的正确排列。

随着开源模型越来越强大和生成式人工智能模型的应用愈加广泛,我们需要更加谨慎,以降低模型被不良行为者用于恶意目的的风险。扎克伯格在发布视频中重申了Meta对模型进行“负责任、安全训练”的承诺。

02.会开源吗?

扎克伯格在随后的新闻发布会上也重申了Meta对开放许可和实现AI民主化的承诺。他在接受《The Verge》采访时说:“我倾向于认为,这里最大的挑战之一是,如果你打造的东西真的很有价值,那么它最终会变得非常集中和狭隘。如果你让它更加开放,那么就能解决机会和价值不平等可能带来的大量问题。因此,这是整个开源愿景的重要组成部分。”

03.会实现通用人工智能(AGI)吗?

扎克伯格在发布视频中也强调了Meta构建AGI(人工通用智能)的长期目标,AGI是人工智能的一个理论发展阶段,在这一阶段,模型将展现出与人类智能相当或优于人类智能的整体表现

扎克伯格也表示:“下一代服务需要构建全面的通用智能,这一点已经变得越来越清晰。打造最好的人工智能助手、为创作者服务的人工智能、为企业服务的人工智能等等,这都需要人工智能各个领域的进步,包括从推理、规划、编码到记忆和其他认知能力。”

从扎克伯格的发言中我们可以看出,Llama 3模型并不一定意味着AGI将会实现,但Meta公司正在有意识地以可能实现AGI的方式来进行LLM开发和其它AI研究。

04.会是多模态吗?

人工智能领域的另一个新兴趋势是多模态人工智能,也就是能够理解和处理不同数据格式(或模态)的模型。

例如谷歌的Gemini、OpenAI的GPT-4V以及LLaVa、Adept或Qwen-VL等开源模型,可以在计算机视觉和自然语言处理(NLP)任务之间无缝切换,而不是开发单独的模型来处理文本、代码、音频、图像甚至视频数据。

虽然扎克伯格已经确认,Llama 3和Llama 2一样,将包括代码生成功能,但他没有明确谈到其他多模态功能。

不过,扎克伯格确实在Llama 3发布视频中讨论了他如何设想人工智能与Metaverse(元宇宙)的交集:“Meta的Ray-Ban智能眼镜是让人工智能看你所看,听你所听的理想外形,它可以随时提供帮助。”

图片

这似乎意味着,无论是在即将发布的Llama 3版本中,还是在后续版本中,Meta对Llama模型的计划都包括将视觉和音频数据与LLM已经处理的文本和代码数据整合在一起。

这似乎也是追求AGI的自然发展

扎克伯格在接受《The Verge》采访时表示:“你可以争论通用智能是类似于人类水平的智能,还是类似于人类加人类的智能,或者是某种遥远未来的超级智能。但对我来说,重要的部分其实是它的广度,即智能具有所有这些不同的能力,你必须能够推理并拥有直觉。”

05.Llama 3与Llama 2相比如何?

扎克伯格还宣布对培训基础设施进行大量投资。到2024年底,Meta公司打算拥有大约35万个英伟达H100 GPU

这将使Meta公司的可用计算资源总量达到60万个H100计算当量,其中包括他们已经拥有的GPU,目前只有微软拥有与之相当的计算能力储备。

图片

因此,我们有理由相信,即使Llama 3型号并不比前代型号大,其性能也会比Llama 2型号有大幅提升

Deepmind在2022年3月发表的一篇论文中提出了Llama的性能会大幅提升的假设,随后Meta公司的模型和其他开源模型(例如法国Mistral公司的模型)也证明了这一点,即在更多数据上训练较小的模型比在较少数据上训练较大的模型能产生更高的性能。

虽然Llama 3模型的规模尚未公布,但很可能会延续前几代模型的模式,即在70-70亿参数模型内提高性能。Meta最近在基础设施方面的投资必将为任何规模的模型提供更强大的预训练功能。

Llama 2还将Llama 1的上下文长度增加了一倍,这意味着Llama 2在推理过程中可以“记住”两倍的上下文,Llama 3有可能在这方面取得进一步进展。

06.与OpenAI的GPT-4相比又如何?

虽然较小的LLaMA和Llama 2模型在某些基准测试中达到或超过了较大的、参数为1750亿的GPT-3模型的性能,但它们无法与ChatGPT中提供的GPT-3.5和GPT-4模型相媲美。

图片

随着新一代模型的推出,Meta似乎有意为开源世界带来最先进的性能。

扎克伯格向《The Verge》表示:“Llama 2并不是业界领先的模型,但却是最好的开源模型。有了Llama 3及以后,我们的目标是打造处于最先进水平的产品,并最终成为业界领先的模型。”

07.给未来做准备

有了新的基础模型,就有了通过改进应用程序、聊天机器人、工作流程和自动化来获得竞争优势的新机会。

走在新兴发展的前列是避免落后的最佳途径,采用新工具能使企业的产品与众不同,并为客户和员工提供最佳体验。

风险提示:根据央行等部门发布“关于进一步防范和处置虚拟货币交易炒作风险的通知”,本网站内容仅用于信息分享,不对任何经营与投资行为进行推广与背书,请读者严格遵守所在地区法律法规,不参与任何非法金融行为。本文收集整理自网络,不代表经典网立场,如若转载,请注明出处:https://www.jingdian230.com/jinse/174931.html

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台用户上传并发布,本平台仅提供信息存储服务。

Special statement: The above contents (including pictures or videos, if any) are uploaded and released by users of the we-media platform. This platform only provides information storage services.

(0)
欧易OKX

欧易OKX

               

欧易OKx是全球三大比特币交易所之一,注册即开最高6万元盲盒,100%中奖!

           官网注册

相关推荐

  • 定期存款到期未取利息怎么算 按这两种算法

    定期存款到期未取利息怎么算?定期存款是很多用户选择的一种存款方式,而有的用户很好奇,如果定期存款已经到期末了,取出来时利息该怎么算? 定期存款到期未取利息怎么算 1、如果储户没有签…

    2024年 1月 27日
    110
  • 分析师:英伟达盈利情况可能会触发加密行情调整

    作者:Sam Reynolds,CoinDesk;编译:邓通,金色财经 如果英伟达第四季度收益未能达到炒作的预期,可能会引发股市和加密货币的更广泛调整。 OCEAN 和 FET 等…

    2024年 2月 22日
    65
  • 争议专营机构模式:招行小企业信贷中心遭遇成长烦恼

    “起了大早,赶了晚集。”这是一家城商行上海小企业信贷负责人对招商银行小微贷款业务的评价。这一看法或有失偏颇,但值得玩味。 2008年年中,招行小企业信贷中心总部在苏州揭牌,开我国银…

    金色财经 2023年 12月 10日
    103
  • 西安:无抵押个贷Q&A

    Q:目前在西安市哪些银行可以做无抵押个人贷款业务?     A:只民生银行、华夏银行等少数银行有无抵押个人消费贷业务。      Q:哪些人可以申请无抵押个人贷…

    金色财经 2023年 9月 2日
    103
  • 欧易OKX

    欧易OKX

                   

    欧易OKx是全球三大比特币交易所之一,注册即开最高6万元盲盒,100%中奖!

               官网注册
  • 东至首家民间借贷中介公司成立

    近日,池州市鑫信民间借贷中介服务有限公司在东至县工商局登记成立,这是东至县设立的首家为民间资金的借贷双方提供中介服务的公司。   随着市场经济的深入发展,中小企业融资难与…

    金色财经 2023年 8月 30日
    106
  • 余额宝升级后还能换回余额宝吗?

    余额宝升级换了基金了,我还能换回原来的天弘基金吗?很多小伙伴发现升级后换成了博时和中欧滚钱宝两只基金,还能切换成余额宝吗? 换不回: 不绕弯子,首先回答大家:换不回了。准确的说法是…

    2024年 1月 19日
    133
  • 1月新增信贷破万亿 同比多增3340亿创3年新高

    2013年首月信贷数据出炉,1月信贷投放提速。   央行近日公布的数据显示,1月末新增人民币贷款1.07万亿元,同比多增3340亿元。而这一数字创下了2010年2月以来新…

    金色财经 2023年 12月 17日
    135
  • 车贷需知:影响汽车贷款审批的因素

    贷款购车已成为时下较为普遍的现象,大多消费者因考虑到投资或资金周转,即使能够一次性付款,他们也愿意选择融资成本相对较低的汽车贷款,而将手头余下资金用来投资。可无论是银行贷款、信用卡…

    金色财经 2023年 8月 21日
    137
  • 专利可“换”贷款 光大银行创新中小企业融资

    导读:专利可“换”贷款 光大银行创新中小企业融资,企业如何贷款,光大银行贷款四类拒绝,哪个银行有推专利抵押贷款,光大银行企业贷款,中小企业短期贷款,银行专利质押贷款,光大银行贷款正…

    金色财经 2023年 6月 14日
    102
  • 用最少的预算 成为有车族

    分期,也可以不用等“贷”目前买车贷款方式有银行贷款、汽车金融公司贷款和信用卡分期三种。直接向银行贷款需缴纳保证金,信用卡分期得自己办理,不如试试金融公司贷款,简便、低息或免息,申请…

    金色财经 2023年 11月 8日
    87