CHI:一文了解 ChatGPT 等 LLMs 得到明显改进的 3 个变化

原文作者:TanyaMalhotra

来源:Marktechpost

近年来,大型语言模型在全世界受到了广泛赞赏,并在自然语言处理领域备受欢迎。这使我们能够使用比以往任何时候都更好、更清晰的语言理解来描述智能系统。

诸如GPT-3、T5、PaLM等LLMs的性能有了显着提高,并且这些模型将继续存在,因为它们可以完成从通过学习阅读来模仿人类,到生成文本和总结长段落内容的所有工作。而根据一些深入的研究,如果LLM的规模很大,那么它的表现就会很好。通过在大量数据上训练这些模型,它们可以理解人类语言的语法、语义和语用学。?

DeFi行业5月融资规模降至1.763亿美元,创2021年9月以来最低水平:6月10日消息,DeFi 行业融资交易活动在 2022 年 5 月出现大幅下降,当月这一领域的融资规模降至 1.763 亿美元,创下 2021 年 9 月以来的最低水平。当前市场状况与 2020 年夏季形成鲜明对比,当时 DeFi 应用程序和协议吸引了数十亿美元的投资。(The Coin Republic)[2022/6/10 4:16:36]

由OpenAI开发的流行的大型语言模型ChatGPT之所以发展得如此之快,正是因为采用了人类反馈强化学习等先进技术。通过RLHF,机器学习算法结合并使用人工输入提高了模型的性能。它针对预训练的LLM进行了微调,用于开发聊天机器人、虚拟助手等任务。

区块链开发服务商Protofire已向Evmos部署Gnosis Safe分叉:6月3日消息,区块链开发服务提供商Protofire已向Cosmos生态EVM兼容链Evmos部署了一个多签钱包Gnosis Safe分叉,将使Evmos用户能够以多签形式存储和传输基于EVM的代币、ERC-20 Cosmos代币和NFT(ERC-721和ERC-1155),未来Evmos用户还将能够通过链间账户扩展至整个Cosmos生态。[2022/6/3 4:00:46]

此外,ChatGPT等LLMs所基于的预训练基础模型也得到了明显的改进。这主要是由于三个方面的变化:

泰国央行行长:仍然不支持将加密货币作为支付手段:5月19日消息,泰国央行行长:仍然不支持将加密货币作为支付手段。早些时间报道,泰国总理表示,将促进科技和数字平台领域的投资。[2022/5/19 3:28:03]

1.实践证明,模型的扩展性对提高其性能很有帮助。以Pathways语言模型为例,该模型通过扩展小样本学习大大影响了其性能,小样本学习可以减少根据具体应用调整模型所需的特定任务训练实例的数量。

通过使用Pathways语言模型在6144TPUv4芯片上扩展和训练5400亿个参数,PaLM展示了重复扩展的好处,其表现超过了各种传统模型,并显示出很大的进步。因此,深度和宽度的扩展都是提高基础模型性能的一个重要因素。

2.另一个变化是在预训练时增加标记数量的过程。像Chinchilla这样的模型已经证明,通过增加预训练数据,大型语言模型的表现会更好。

Chinchilla是一个计算最优模型。在相同的计算预算下,在70B参数和比Gopher模型多四倍的数据上进行训练,Chinchilla的表现一致优于Gopher,它甚至比GPT-3、Jurassic-1和Megatron-TuringNLG等LLMs效果更好。这清楚地描述了对于每一个计算最优的训练,标记的数量应该相应地缩放——即模型大小的两倍,因此训练标记的数量应该是两倍。?

3.第三个变化是使用干净和多样化的预训练数据。Galactica的性能证明了这一点,它是一种存储、混合和推理科学知识的大型语言模型。经过几篇科学论文文本的训练,Galactica的表现优于GPT-3、Chinchilla等模型。另一个大型语言模型BioMedLM是一种针对生物医学文本的特定领域LLM,在针对特定领域数据进行训练时,它表现出了巨大的性能提升。它清楚地表明,在特定领域的数据上进行的预训练胜过在通用数据上的训练。

结论

LLMs的成功无疑归功于多种因素的混合,包括RLHF的使用和预训练基础模型的发展。这三个变化极大地影响了LLMs的性能。此外,GLaM通过使用稀疏激活的混合专家架构,以更少的训练成本扩展模型的容量,从而显着提高了性能。因此,这些变化为更高级的语言模型开辟了道路,而这些模型将继续让我们的生活变得轻松。??

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

地球链

比特币WEB:从世界大会看 Web3 前景

2023年世界经济论坛年会于2023年1月16日至20日在达沃斯举行,这是世界经济论坛时隔三年回归线下。与1971年达沃斯论坛第一次举办时相比,如今达沃斯的雪量已经减少了40%以上.

[0:0ms0-0:894ms