绿茶通用站群绿茶通用站群

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

开源与(yǔ)闭源之争(zhēng)延续到大模型时代(dài)。在寻(xún)找“新(xīn)大陆”的路(lù)上,开源与闭源的辩论,就像是(shì)一场(chǎng)关于AI未来的“航海(hǎi)策略(lüè)”讨(tǎo)论。

开源一(yī)派认为,开源能够促进全球科研人员和开发者的协作,加速AI技术的迭代与创新。同时,开源让更多人参与到模型(xíng)的改进(jìn)和优化(huà)中,通(tōng)过集体智慧(huì)解决复杂的技术难题。

闭源的倡导者则(zé)看重其在商业化、技术保护和产品差异化方面的优势(shì)。闭源模(mó)型使得企业能够控制产品(pǐn)的开发节奏和市场策略,保护其商业利益(yì)。此外,闭源(yuán)也有助(zhù)于企(qǐ)业维护其(qí)技术优势,避(bì)免竞争(zhēng)对(duì)手模(mó)仿或超越。

Llama 3的(de)发布让(ràng)开源大模型在与闭源的竞争中再度“扳回一城”。从测试结果来看,Llama 3的成绩大幅(fú)超越了Llama 2,也胜过了GPT-3.5。

在AI这场没有硝(xiāo)烟的“航海竞赛”中(zhōng),大模型已然成为眼前的灯塔。未知(zhī)的是,这(zhè)座(zuò)灯塔究竟是向所有航海者开放其光芒,还是 仅为特定(dìng)的船只照亮前行的航道。

开源在开发者和研究人员中极受欢(huān)迎

Meta正(zhèng)沿着开源路径继续前进。

近日,Meta推出开源大模型Llama 3系列,发布8B和70B两(liǎng)个版(bǎn)本。Meta创始人兼首席执行官扎克伯(bó)格在同一天宣布,基于Llama 3,Meta的AI助手(shǒu)现在已经覆盖Instagram、WhatsApp、Facebook等全系应用,并单独开启了网(wǎng)站(zhàn)。

与Llama 2相(xiāng)比,Llama 3进行了几项关键的改(gǎi)进(jìn):使(shǐ)用具128K token(输入数(shù)据的(de)最小(xiǎo)单元)词汇表的tokenizer(编译器(qì)),可以更有效地编码语(yǔ)言,从而显著提升(shēng)模型性能;在8B和70B模型中都采用分组查询注工业金属板块走强 北方铜业涨停意(yì)力(GQA),以提高Llama 3模型的推理效率;在8192个token的序列上训练模型,使用掩码(mǎ)来确保自注意力(Self-Attention)不会跨越文档边界。

据Meta介绍,Llama 3已经(jīng)在多种行业基(jī)准测试上展现(xiàn)了最先进的(de)性能,提供了包括改进的推理能力在内(nèi)的新功能,是目前市场上最好(hǎo)的开(kāi)源大模型。

此(cǐ)外,Llama 3发布 后,微软Azure、谷歌云、百度智能云等陆续宣布其平台上线Llama 3。百度方(fāng)面此(cǐ)前对《每日经济新闻(wén)》记者(zhě)表示,百(bǎi)度智能云千帆大(dà)模型平台在国内首家推出针对Llama 3全系列版(bǎn)本的训练推(tuī)理方案,便于开发(fā)者进行再训(xùn)练(liàn),搭建专(zhuān)属大模型。

工业和信息化部工业文化发展中心AI应用工(gōng)作组执行组长、行行AI董事 长李明顺在接受《每日经济新闻》记者采访时表示,Meta的Llama 3发布可能会带来更多AI应用落(luò)地机会和场景,它通过提供更大词汇量 的Token词典、更长的输入上下文长度以及优化 的模型结构,增强了模型的编码效率和推理效率。“现在,比(bǐ)起Llama 2,Llama 3在(zài)代码能力和逻辑推(tuī)理能力上有显著提升(shēng),这可能会促进相关AI应用(yòng)的(de)性能(néng)(提升),尤其是在需要复杂(zá)逻辑(jí)和代码(mǎ)理解的场景中去落地(dì)。工业金属板块走强 北方铜业涨停

OpenAI在GPT-2之(zhī)后调转(zhuǎn)船头走向闭源,Meta则(zé)成为开源界(jiè)的引领者之一。

从2020年发布GPT-3,到引发(fā)轰动的GPT-3.5,以(yǐ)及2023年3月发布的GPT-4,都(dōu)是闭源(yuán)模型。此前,马斯克起诉OpenAI时曾直言:“如(rú)果OpenAI改名为ClosedAI,我就撤销诉讼。”

李明(míng)顺认为,OpenAI的转变可(kě)能与其商业战略和(hé)市场定位有关。“初期开源有助于快速吸引关注和社区参与,但(dàn)随着公(gōng)司(sī)的发展,我估计阿尔特曼(Sam Altman)的野心和(hé)商业梦想越来越膨胀了,闭源可以更好地让(ràng)它(tā)融资,包(bāo)括和微软合(hé)作,保护领先的技术优势。”他表示,从OpenAI的转变中可以看(kàn)出,开源与(yǔ)闭源的选择并非固(gù)定不变,而是需要根据公司战略目标、市场 环境和工业金属板块走强 北方铜业涨停产品发展阶段(duàn)灵活(huó)调整。天下没什么事 情是绝对的,很多(duō)开源公司也是拿着次优代码(mǎ)开源,独家秘方闭源。

在追逐AGI(通用人工智能)这颗明珠的(de)道(dào)路上,迄今为止,Meta依旧(jiù)持续沿着开源 的路(lù)径前行。

2024年初,扎克伯格在Meta第四季(jì)度及2023全 年财报电话会议上(shàng)表示:“长期以来,我(wǒ)们的策略 是构建(jiàn)并(bìng)开放源代码通用基(jī)础设施(shī),同时保留我们(men)的具体产品实现为(wèi)专有技术。”

他(tā)认为,开源带来了几个战略好处。首先,开源(yuán)软(ruǎn)件通常更加安全可靠(kào),并(bìng)且因为社区的持续反馈、审查和开发,更 加高效。其(qí)次,开源软件经常成为行业标准(zhǔn),“当企业(yè)开始基于我们(men)的(de)技术栈建立标准时,这使得(dé)将创新融入我们(men)的产品(pǐn)变得(dé)更加容易。这(zhè)种微妙的优势(shì),能够迅速(sù)学习和改进(jìn),是 巨大的竞争优势(shì),而(ér)成为行业标准正是这一能力的关(guān)键”。第三,开源在开发者和研究人员中极受欢(huān)迎。

开源与闭源并不矛盾

开源还是闭源,也许是(shì)全球人(rén)工智能信(xìn)徒长久的辩题。在Llama 3诞生前几天,国内同样(yàng)在进行一场(chǎng)“辩论”。

4月(yuè)11日,百度董事长兼(jiān)首席执行官李彦宏在其内部讲话中直言,大模型开源的(de)意义不大,闭源 模(mó)型在能力上会(huì)持续(xù)领先(xiān),而不是一时(shí)领先,做模(mó)型的创业公司既做模(mó)型(xíng)又做应用的“双轮驱动”不是一个好(hǎo)的(de)模式。在一周(zhōu)后的(de)Create 2024百度AI开发者大会上,李 彦宏再度提到,大家以前用(yòng)开源觉(jué)得(dé)开源便宜,其实在(zài)大模型场景下,开源是最贵的,所以开源模型会越来越落后。

360公司创始人周(zhōu)鸿祎则持不同 的观点(diǎn)。他表示:“网上有些名人(rén)胡说八道,大家(jiā)也别(bié)被他们忽悠,说开源不如闭源好。一句话(huà),今天没有开源就没有Linux(操作系统内核),没有Linux就没有互(hù)联网,就(jiù)连说这话的公司自己都借助了(le)开(kāi)源(yuán)的力量才成长到今天 。”

这段(duàn)发言被(bèi)解读为对李彦宏观点的(de)回 怼,周鸿祎随后澄清道:“我一(yī)直是开源的信徒,但(dàn)是(shì)我说开源(yuán)好,是(4月)13日在哈(hā)佛讲的,李厂长(指李(lǐ)彦宏)说(shuō)闭源好,是(shì)(4月)16日在(zài)北京讲的。”

生数(shù)科技联合创始(shǐ)人兼CEO唐家渝站(zhàn)在(zài)闭源的(de)一边。在4月18日举行(xíng)的“2024中(zhōng)国生成式AI大会”上,唐家渝表示:“在(zài)我们看来,开源、闭源都有各自(zì)可以做的(de)商业生态,但(dàn)是从(cóng)模型能力的提升来说,或者(zhě)持续走到前列来说,闭源还是会走到开源的前面。”

昆仑万维董事长(zhǎng)方汉的观点是,开源模型与闭源模型之间的差距正在不断缩小。4月16日(rì),方汉在接受《每日经济新闻》记者(zhě)在内的媒体采访时表(biǎo)示,闭源模型的确是第一,但是(shì)开源大模(mó)型在(zài)2023年到(dào)今年这(zhè)一年间(jiān),从落后两(liǎng)年以(yǐ)上,已经进化到落(luò)后4~6个(gè)月以上(shàng)。

此外,方汉认为,在应用侧,闭源对于产品特性和长尾需求的满足都落后于开 源(yuán)大模型,开源大(dà)模型是(shì)一种生态构建器,更利于满足用户的长尾需求。开源大模型和闭源(yuán)大模型是(shì)一(yī)个生态的组成部分,不是谁压倒谁,大(dà)家(jiā)都有自己的生存空间,也都有更好的明天(tiān)。

不过,从(cóng)商业化上来讲,闭(bì)源和开(kāi)源也许并不矛盾。启明(míng)创投合伙人周志峰就(jiù)认为,开源闭源在(zài)过去几(jǐ)个大浪潮当中没有很大的冲突,不太理解为什么很多人把闭源、开源在AI时代看成对(duì)立的。

李明顺的观点则是(shì),在当前强应用导向 的背景下,开源(yuán)模式(shì)具有显(xiǎn)著优势,能够吸(xī)引全球范围内最(zuì)广泛的人参 与,从而使其创新性保持在较高水平。

相较之下,尽管一些闭源大 模型在技(jì)术上具(jù)有领先地 位,但其(qí)成本太高。不过他也强调(diào),开(kāi)源与闭源在不同公(gōng)司和应用场景 中(zhōng)可以相互转(zhuǎn)换。一些基于开源的产品在发掘(jué)到独特优势(shì)后,可(kě)能会通过闭源策略建立(lì)竞争壁垒。同时,一些闭源公司(sī)也会不断将其部分产品开(kāi)源。这两个应该是共存的,未来开源可能用户量级上更大,但是行(xíng)业内,商业化做(zuò)得比较好的公司,往往还是闭源的多一点。

在开源与闭源的辩论中 ,也许(xǔ)答案并非非此即彼。AI的未来可能(néng)既不是完全开放的“自由港(gǎng)”,也(yě)不是彻底封闭的“孤岛”,而(ér)是(shì)一个既包含开放协作也包含封闭竞争的混合生态。在这个生态(tài)系统中,开放与封(fēng)闭(bì)不是(shì)对立的两(liǎng)极,而是一枚硬币的(de)两面。

未经允许不得转载:绿茶通用站群 工业金属板块走强 北方铜业涨停

评论

5+2=