文章列表-AI魔法学院

文章列表

什么是ChatGPT？

在 BERT 那个年代，为了训练，大家常常把一句话中随机几个单词遮起来，让计算机用现有的模型预测那几个单词，如果预测准了，就继续加强，如果预测错了，就调整模型，直到上百万上亿次训练之后越来越准。

ChatGPT OpenAI 大模型

从零开始了解AI大模型 - 技术篇：万字深度好文人话说大模型技术

然而，在GPT3之前，以BERT为代表的Encoder-only架构才是主流。

大模型

AI大模型LLM可以帮助企业做什么？

2018 年 Google 的研究团队开创性地提出了预训练语言模型 BERT，该模型在诸多自然语言处理任务中展现了卓越的性能。

大模型

如何估计大模型所需要的显存大小？HuggingFace发布Model Memory Calculator，一键计算大模型显存需求

根据官方的说法，最准确的时候，这个工具估算出来的显存大小与实际估计的误差可能也就50MB左右（例如，bert-base-cased模型实际运行需要413.68MB，而这个工具估算的结果是413.18MB

大模型

MaskGCT：登上GitHub趋势榜榜首的TTS开源大模型

具体来说，使用W2v-BERT 2.0模型的第17层隐藏状态作为语音编码器的语义特征，编码器和解码器由多个ConvNext块组成。

MaskGCT 声音克隆

LangChain: LLM 应用聚焦的两大方向，RAG 和 Agents

当时的情况是 BERT 刚刚出来，Transformer 的魔法还没有蔓延到 CV 领域，所以这哥们提的问题相当于需要单独拎出来几个模型，分别把图像识别、意图识别、用于模拟用户行为的代码生成等等单独做一遍

大模型

领域大模型-训练Trick&落地思考

总结最后共勉：BERT时代况且还在用TextCNN，难道13B的模型就不叫大模型吗？

垂直训练大模型

一文彻底搞懂多模态 - 多模态推理

· 预训练任务可能包括将BERT经典的MLM和NSP预训练任务扩展到多模态场景等。

多模态推理大模型

大规模训练系列之技术挑战

NLP 领域的大规模训练发展快速，从 BERT 到 GPT-3，再到 Switch Transformer，无论是模型大小还是计算资源占用都在疾速增长。

开源模型

保姆级教程：图解Transformer

Transformer 近两年非常火爆，内容也很多，要想讲清楚，还涉及一些基于该结构的预训练模型，例如著名的 BERT，GPT，以及刚出的 DALL·E 等。

人工智能

LLM应用架构之检索增强（RAG）的缘起与架构介绍

实际上这个问题比较模糊，比如bert算不算是大模型呢？

LLM

从0到1谈谈智能客服系统的设计与实现

· · 文本向量化：使用BERT模型将问题和相似问转化为向量表示。

智能客服

大模型微调方法总结

对于 BERT 类双向语言模型采用模版(P1, x, P2, [MASK], P3)，对于单向语言模型采用(P1, x, P2, [MASK])：同时加了两个改动： 1、考虑到预训练模型本身的

开源模型

检索增强生成 (RAG):What, Why and How?

微调嵌入模型：使用BERT、ada等现成的嵌入模型为数据块生成嵌入可能适用于大多数用例。

检索增强大模型

【CLIP系列Paper解读】CLIP: Learning Transferable Visual Models From Natural Language Supervision

Motivation 在NLP中，预训练的方法目前其实已经被验证很成功了，像BERT和GPT系列之类的。

OpenAI 自然语言监督

<1 234 5 >

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1