文章列表-AI魔法学院

文章列表

Prompt工程如此强大，我们还需要模型训练吗？

3.如果我们还需要模型训练，例如在GPT3基础上把21年以后的数据喂进去，其中学到的新信息与

大模型

图解大模型训练之：张量模型并行(TP)，Megatron-LM

今天我们将要介绍最重要，也是目前基于Transformer做大模型预训练最基本的并行范式：来自NVIDIA的张量模型并行(TP)。

开源模型

微调、训练大模型概念介绍及论文笔记：Tuning系列论文笔记

Tuning整体介绍微调（Fine-tunning）语言模型的参数需要一起参与梯度更新轻量微调（lightweight fine-tunning）冻结了大部分预训练参数，仅添加任务层，语言模型层参数不变

训练微调

Transformer速查宝典：模型、架构、训练方法的论文都在这里了

本篇综述涵盖了 21 种模型、11 种架构变化、7 种预训练后处理技术和 3 种训练技术（还有 5 种不属于以上技术的东西）。

Transformer

人工智能训练的灾难性遗忘以及解决方案

当然，我们可将新数据加入到历史训练数据集中，用包含新旧训练数据的数据集对网络进行重新训练，可想而知，这样做法的学习效率是有多低！

人工智能大模型

Prompt、RAG、微调还是重新训练？如何选择正确的生成式AI的使用方法

从头开始训练肯定具有最高的实现复杂性，因为它需要大量的数据管理和处理，并且训练一个相当大的模型，这需要深入的数据科学和ML专业知识。

生成式AI

哈工大科大讯飞联合推出中文LLaMA-2 & Alpaca-2大语言模型

这些模型在原版Llama-2的基础上扩充并优化了中文词表，使用了大规模中文数据进行增量预训练，进一步提升了中文基础语义和指令理解能力，相比一代相关模型获得了显著性能提升。

训练

一文讲明白什么是预训练、微调和上下文学习

预训练预训练（Pre-training）是语言模型学习的初始阶段。

大模型训练

SDXL模型lora训练参数详细设置，显存占用22G，不用修脸原图直出

的脚本集成的，现在更新到最新版本，就可以训练SDXL模型的lora了。

SDXL 训练

如何从零开始训练专属 LoRA 模型？4600字总结送给你！

该方法具有训练速度快，模型大小适中，训练配置要求低的特点，能用少量的图片训练出想要的风格效果。

训练

8G显存一键训练，解锁Llama2隐藏能力！XTuner带你玩转大模型

为了让大模型走入千家万户，赋能百业，上海人工智能实验室开发了低成本大模型训练工具箱 XTuner，旨在让大模型训练不再有门槛。

大模型

微调百川Baichuan-13B保姆式教程，手把手教你训练百亿大模型

本文是一个Step By Step的大模型训练教程，即使你是训练大模型的新手，通过本教程，也可以快速在一张显卡上训练自己的大模型。

大模型微调

【一步一步引导】从零详细地梳理一个完整的 LLM 训练流程

这种成功的前提在于：预训练模型和下游任务的差距不大，预训练模型中通常已经包含微调任务中所需要的知识。

大模型训练

开源本地化部署的「妙鸭相机」，真的要革了「海马体」们的命了？｜手把手教你搭建「妙鸭相机」

使用指南模型训练 EasyPhoto训练界面如下： · 左边是训练图像，只需点击上传照片即可上传图片，点击清除照片即可删除上传的图片

训练

Pytorch安装（保姆级教学真·满血·GPU版）CUDA更新？torch版本？一文全搞定！

之前在安装Pytorch版本时搞错了环境，导致每次在进行model training的时候速度很慢，后来检查了一下电脑中的torch环境，原来是CUDA版本没有更新，导致版本不匹配，没有使用CUDA，每次都在用CPU进行训练，难怪时间很长。用此文记录一下遇到的问题。

训练

<123 4 5 6 7 8 9 10 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2024 AI魔法学院

京ICP备20027199号-1