文章列表-AI魔法学院

文章列表

如何使用 Megatron-LM 训练语言模型

数据加载 Megatron-LM 带有一个高效的 DataLoader，其中数据在训练前被 tokenize 和 shuffle。

开源模型

高效选择：Ollama与LM Studio深度对比

对于IT专业人士来说，选择Ollama还是LM Studio，这是一个值得深思的问题。

Ollama LM Studio 对比

图解大模型训练之：张量模型并行(TP)，Megatron-LM

在Megatron-LM中，权重的切分操作就是由这两个基础算子组合而成的。

开源模型

必读！RAG好用的3种Router

例如：写代码的Code-LM、做数学的meta-math,做图文多模态的Macaw-llm等等。

RAG Router

微软最新模型Phi-3 Mini开源登场！小模型，大未来！

下载 LM Studio 首先你需要下载并安装 LM Studio。

Phi-3 Mini 开源模型微软

微软最新模型Phi-3 Mini开源登场！小模型，大未来！!

下载 LM Studio 首先你需要下载并安装 LM Studio。

Phi-3 Mini 人工智能

大模型训练工程那些事

虽然支持大模型训练的分布式框架仍有不少，但是社区主流的方案主要还是 Transformers + DeepSpeed: 以 ZeRO 系列的模型并行策略著称 Megatron-LM

训练工程大模型

截至2023年5月份业界支持中文大语言模型开源总结及商用协议分析

BigScience开源的BLOOM大模型四、复旦大学的MOSS系列五、MetaAI最著名的开源模型LLaMA 六、LAION AI开源的OpenAssistant-LLaMA 七、LM-SyS

大模型

llm-action：让天下没有难学的大模型

PyTorch 单机多卡训练 § PyTorch 多机多卡训练 · Megatron-LM

大模型 LLM

Fastwhisper + Pyannote 实现 ASR + 说话者识别

只下载这一个模型是不行的哦，这个只是个config文件，你还要下载另外两个模型： https://huggingface.co/pyannote/wespeaker-voxceleb-resnet34-LM

faster-whisper 语者识别 ASR

目前大语言模型的评测基准有哪些？

项目地址：https://github.com/lm-sys/FastChat 网站：https://chat.lmsys.org/ ChatbotArena最新排行榜 SuperCLUE

人工智能评测大模型

Stability AI开年首个大模型：专写代码，支持18种编程语言，上下文100K，苹果笔记本离线就能跑

但开发团队表示，Stable Code 3B是首个主要版本，基于Stable LM 3B基础模型打造，并增加了多项附加功能。

Stability AI 大模型

中文通用大模型最全汇总

Fengshenbang-LM：地址：https://github.com/IDEA-CCNL/Fengshenbang-LM 简介：Fengshenbang-LM

大模型开源模型

如何提高RAG 的效果

同理，检索到的信息中如果存在冲突，或者冗余的内容时会极大的影响LM 的生成效果。

RAG 大模型

prompt必须知道的26条军规

预训练模型在原域上已经有非常好的性能了，域的迁移会受到原域的阻力，因为使用fine-tune改变的weight是原域上的weight ->想要在新域上获得较好的性能，预训练模型越大，fine-tune需要的数据也越多 ①大的LM

prompt 大模型

<12 3 4 >

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2024 AI魔法学院

京ICP备20027199号-1