GPT-4发布一天之后,压力全部给到百度这边。
就在刚刚,百度交卷。
文心一言,百度全新一代知识增强大语言模型,正式在百度总部会议室里发布。
在一片静寂的氛围里,李彦宏小步登场,语气里带着点紧张:
大家的期望值,是我们对标ChatGPT,对标GPT-4,这个门槛有点高(笑)。
十月怀胎,我们就带大家来看看这个AI大模型文心一言长什么样。
此前,有人狂转meme图把百度比作GPT-4旁边的垃圾箱。
也有人鼓吹百度是全村的希望。
而在发布会进行的同时,百度港股市值大幅下跌,相关话题还冲上了微博热搜。
但直播弹幕中也有网友点赞:
那么这个中国版ChatGPT到底实力如何?
咱们就用百度发布会演示的预录制Demo,对比一下崭新出炉的GPT-4,先凭实力说话。
文心一言 vs GPT-4
和GPT-4一样,文心一言是一个多模态大模型。
李彦宏开场就展示了文心一言具备的5种能力,包括文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。
文心一言甚至还现场秀了一口接地气的四川话,现场网友发出一片笑声:
其他能力如何?我们具体展开来看。
报告:美国各银行的抵押贷款业务正出现首次亏损:4月13日消息,美国抵押贷款银行家协会(MBA)的一份最新研究报告显示,美国各银行的抵押贷款业务正出现有史以来的首次亏损。
这份报告深入研究了2022年以来的最新数据,揭示了向企业、投资者和普通美国人发放房地产贷款的金融机构的收入急剧下降:“独立抵押贷款银行和特许银行的抵押贷款子公司在2022年发放的每笔贷款上平均亏损301美元,低于2021年每笔贷款的平均利润2339美元。”
这是自2008年MBA开始追踪这些数据以来,抵押贷款机构首次集体出现亏损。
报告将损失归因于抵押贷款利率在相对较短的时间内飙升,以及“极低的住房库存和负担能力挑战”。
此外,抵押贷款机构为每笔贷款支付的贷款成本从2021年的8664美元增加到2022年的10624美元。增加的费用包括佣金、补偿、占用、设备和其他生产费用等项目。
MBA行业分析副总裁Marina Walsh表示,该公司预计2023年购房者的抵押贷款需求将进一步下降。(The Daily Hodl)[2023/4/13 14:01:10]
在文学创作上,李彦宏一开场就搬出了《三体》作者刘慈欣坐镇。
先让文心一言介绍一下大刘,毕竟我也是刘慈欣老乡嘛:
看起来没什么问题。同样的问题问问GPT-4呢?
嗯???直接把刘慈欣的老家挪到了湖北省洪湖市。湖北人狂喜。
随后,李彦宏又展示了从哲学的角度对这段文章进行续写的demo:
看起来中规中矩,比较理性。老样子,我们也来与GPT-4进行一波对比:
BIS:过去一年内全球银行将对某些加密货币的敞口降低了43.6%:金色财经报道,国际清算银行(BIS)周二表示,全球银行在过去一年中将对某些加密货币的敞口降低了43.6%。
巴塞尔银行监管委员会(BCBS)的一份报告显示,加密货币的总敞口(包括直接接触加密货币和通过衍生品敞口)从2021年的61.7%下降到2022年的15.4%。报告称,银行加密风险敞口的变化主要是由于响应BIS调查的银行减少,但也有其他因素,如市场状况和银行减少风险敞口可能是由于BCBS的全球加密银行规则。参与的银行样本从182家减少到126家。
BCBS于去年12月批准规则,其中规定银行对某些加密货币的敞口不得超过2%。该委员会还建议,应在当年早些时候的6月限制加密货币持有量。
实施BCBS提出的加密银行规则的最后期限是2025年,但数据表明银行已经在采取行动。报告称,巴塞尔协议III监测中的总敞口,加密敞口的份额”分别降至总敞口的0.003%和0.001%”。[2023/3/1 12:35:27]
这波你是想看GPT-4续写的《三体》,还是文心一言的?
再来看看《三体》电视剧中扮演史强和汪淼的老搭档,于和伟和张鲁一,有什么共同点?
也没什么问题。
就是看起来展示的速度有点快,比李彦宏的语速还要快上那么一点点(手动狗头)。
接下来,李彦宏又展示了一下文心一言在商业文案创作上的能力。
比如给新公司起个名字。
FTX日本和欧洲业务的最后拍卖期限延长至4月26日:2月6日消息,FTX延长了竞标其日本和欧洲业务的最后期限,初步投标截止日期为3月8日,拍卖日期为4月26日。管理人员正在努力筹集资金以帮助偿还债权人。
据悉,去年12月FTX将包括LedgerX、日本和新加坡的加密货币交易所,以及欧洲数字资产和衍生品业务置于拍卖区。这些FTX业务总共吸引了100多个参与方的兴趣,总部位于东京的在线经纪公司MonexGroupInc.已表示对FTXJapan感兴趣。(彭博社)[2023/2/6 11:49:18]
并且这个名字它还不是瞎起的:
再来看看GPT-4起名的效果?
看起来,GPT-4对中文的掌控能力相比之下还是少了一点精髓。
至于写个公司成立的新闻稿?对文心一言来说似乎也不成问题:
数学能力,是考验生成式大模型的一大难题。ChatGPT刚上线时,也翻了不少车。
不过在现场,文心一言处理的数学问题不算复杂,是小学数学竞赛常见的鸡兔同笼问题。
彩蛋是,李彦宏现场展示的第一题,引得文心一言说出了《狂飙》里高启盛的经典台词:这题出得不对。
亿万富翁Seth Klarman:加密货币最终可能一文不值,没有人需要拥有它:6月23日消息,在市场持续动荡时期,美国亿万富翁投资者、对冲基金经理Seth Klarman质疑加密货币的效用。
Seth Klarman认为加密货币最终可能一文不值,“我看不出加密货币有什么意义,为什么人们需要10种或50种不同的加密货币?我不明白。我不认为任何人需要拥有它。在我看来,它可能会以悲剧告终。”(Finbold)[2022/6/23 1:27:12]
修改一下题目,OK,再扔给文心一言试试:
看起来,答案还算是有理有据,一步步逻辑推理出来的那种。
李彦宏表示,这些题不敢说百分之一百能做对,但至少体现了文心一言的思考历程。
接下来,李彦宏着重展示了一下文心一言对中文的理解能力,并特意强调:
文心一言对中国文化的了解,理应超出任何一个预训练大模型。
一上来就是一个成语,洛阳纸贵到底有多贵?
这是文心一言的效果展示:
还解释了一下这个成语背后的经济学原理:
那么,将这个问题抛给GPT-4呢?首先问问它,知不知道洛阳纸贵是什么意思:
关于“将APE留在以太坊生态”的提案获得超92%投票支持:6月5日消息,截至目前,ApeCoin社区发起的关于“将APE留在以太坊生态”的提案已获得92.07%的赞成票。
此前消息,ApeCoin社区发起提案AIP-41,希望将APE留在以太坊生态。提案表示,迁移到不同的链是一项成本高昂、风险大且复杂的工作,其中包含许多活动部件,如果不加以深思熟虑,可能会导致灾难性损失,或者在最坏的情况下,被Yuga Labs和其他对ApeCoin有意义的实体放弃。[2022/6/5 4:03:30]
接下来,再问问他对应的经济学理论是什么:
这波看起来,GPT-4的中文理解似乎也不输文心一言啊。
那么,再来看看二者写藏头诗的能力?
首先是文心一言的效果展示:
接下来,我们再看看GPT-4怎么说:
诶,看起来反而是GPT-4没有真正理解藏头诗的含义。
这波文化理解上,属实是文心一言小胜一筹了。
不过在英文上,李彦宏也承认,虽然文心一言也能处理,但能力是显著不如中文的。
这也和百度目前能用到的训练数据有关。
最后,李彦宏还简单展示了一下文心一言多模态生成的能力。
首先来看看,为即将到来的2023世界智能交通大会创作海报。
而除了前文展示过的文字转四川话能力,文心一言还能文字转视频。
李彦宏一句指令,将以上内容生成视频,很快啊,不到几秒钟,文心一言就把字幕和视频做好了:
有些遗憾的是,在ChatGPT被频频称赞的编程方面,文心一言并没有现场展示相关能力。
但王海峰透露,文心一言的训练数据中同样包括代码。
正如ChatGPT脱胎于OpenAI的GPT系列,百度这次推出的文心一言(ERNIE Bot),背后也正是基于文心大模型技术打造。
据王海峰介绍,文心一言主要脱胎于两大模型:
百度ERNIE系列知识增强千亿大模型,以及百度大规模开放域对话模型PLATO。
在此基础上,主要采用了六项核心技术。
其中三个是广为人知的大模型技术,包括有监督精调、人类反馈强化学习(RLHF)和提示构建。
p.s. 人类反馈强化学习也是ChatGPT的关键技术。
另外三个,则是百度比较有特色的技术,包括知识增强、检索增强和对话增强技术。
首先来看与ChatGPT类似的技术:有监督精调、RLHF和提示构建。
有监督精调,尤其指中文方面的数据精调。百度基于对中国语言文化和中国应用场景的理解,筛选了特定的数据来训练模型。
至于人类反馈的强化学习(RLHF)和提示构建,操作上也与ChatGPT大差不差。
随后是百度提出的、用于进一步改善模型效果的技术。
知识增强,包括知识内化和知识外用两个部分。其中,知识内化即将知识渗透进模型参数中;知识外用指的是模型可以直接使用外部的知识。
检索增强,则与百度搜索引擎积累的检索技术有关。
百度将把检索技术和生成技术结合起来,先对内容进行检索后,将比较有用的部分用于生成,再整合输出结果:
最后是对话增强部分,包括之前百度积累的记忆机制、上下文理解和对话规划等技术:
概括来看,文心一言表现出的能力,被李彦宏称为智能涌现:当参数达到千亿量级,训练语料达到足够多的情况下,这种现象就会发生。
目前,百度拥有的AI技术可以分为四个部分,芯片(昆仑芯)、框架(飞桨)、模型(文心)和应用。
之所以软硬件都要布局,百度称,是为了降低成本:生成式AI需求的算力非常高,费用相当昂贵。
因此,如果在四层架构之间相互进行协同优化,就能让它的效率比别人更高,从而显著降低成本。
李彦宏认为,这也正是百度的优势所在:四层都有领先产品的公司,绝无仅有。
这次文心大模型背后的硬件算力,也是通过百度智能云提供服务。
目前,文心一言已经接入百度搜索,目的在于提升搜索资源效率。
同时,包括小度和自动驾驶Apollo等产品,以及爱奇艺等公司也已经接入百度的文心一言模型。
网友:看来还不用提前退休
截至发稿,百度港股股价在一波明显下跌之后,有所回弹。
发布会结束,网友反应最多的是提前录制有点败好感:
对于这一点,李彦宏的解释是,给出的问题都比较长,为了节约现场时间,所以才用了提前录制的形式。
还有不少网友对文心一言展示出的能力不太满意。有人调侃,看完之后感觉提前退休的日子看起来还可以缓一缓:
离GPT-4还差了20个老胡。
还有网友感觉,文心一言的发布会像极了毕业答辩的自己(doge):
不过也有网友表示,希望能给国产产品一点时间一点耐心。
发布会末尾,王海峰宣布,文心一言将从今天开始对外进行测试,包括个人用户和企业用户。
是骡子是马,相信接下来,会得到更多验证。
对了,有网友表示,已经拿到了文心一言的内测资格:
你好,感谢您体验文心一言,体验地址: https://yiyan.baidu.com/welcome,希望您在体验当中给予更多意见,文心一言邀请码:KFCVME50RMB,2023年3月16日24:00前有效。
嗯,万物疯狂星期四。
量子位
个人专栏
阅读更多
金色财经 善欧巴
金色早8点
白话区块链
Arcane Labs
Odaily星球日报
MarsBit
欧科云链
深潮TechFlow
BTCStudy
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。