文章列表-AI魔法学院

文章列表

Baichuan-13B 保姆级微调范例

本范例微调的模型是Baichuan-13B-Chat，我们使用非常简单的，外卖评论数据集来实施微调，对一段外卖评论区分是好评还是差评。

开源模型

2024！深入了解大语言模型（LLM）微调方法（总结）

其中主要包括什么是大模型微调、什么时候需要大模型微调、大模型微调方法总结、大模型微调最佳实践等。

大模型微调

手把手带你微调一个自己的 ChatGLM2-6B 模型

snapshots/0ecfe0b857efd00836a4851b3dd2ed04bd4b197f 准备数据集我们这次训练知识简单做一下 demo，所以不进行大量数据的训练，只使用他原有的文件调整下认知即可

ChatGLM2-6B

【万字长文】LLaMA, ChatGLM, BLOOM的参数高效微调实践

下图是LLaMA-7B进行高效参数微调和全量微调的损失变化曲线。

大模型微调训练

大模型高效微调：🤗 PEFT 使用案例

PEFT介绍 🤗 PEFT（Parameter-Efficient Fine-Tuning，参数高效微调），是一个用于在不微调所有模型参数的情况下，高效地将预训练语言模型（PLM）适应到各种下游应用的库

大模型

大模型微调数据选择和构造技巧

大模型场景微调里面，最关键地的一个是问题是：选择什么样的数据微调？

大模型微调

微调、训练大模型概念介绍及论文笔记：Tuning系列论文笔记

Tuning整体介绍微调（Fine-tunning）语言模型的参数需要一起参与梯度更新轻量微调（lightweight fine-tunning）冻结了大部分预训练参数，仅添加任务层，语言模型层参数不变

训练微调

一文讲明白什么是预训练、微调和上下文学习

这些模型通过预训练、微调和上下文学习的组合来学习。

大模型训练

【手把手带你微调 Llama3】改变大模型的自我认知，单卡就能训

微调Llama3的自我认知后当你问Llama3中文问题： “你叫什么名字？”

Llama3 对话问答模型

NEFTune：在Embedding中加入噪⾳提⾼指令微调效果！

通常情况下，我们使⽤更好的基础模型、更⼤的数据集⼤⼩以及更⾼质量的数据来提升⼤型语⾔模型（LLM）微调性能

NEFTune 大语言模型

微调大型语言模型-核心思想和方法介绍

上面提到的快速调整方法提供了一种比参数微调更节省资源的替代方法。

大模型训练

大模型微调经验汇总---LLM finetuning 踩坑经验之谈

但我们没有 GPU 资源，我们可以选择开源的中文模型直接做微调。

大模型人工智能

微调百川Baichuan-13B保姆式教程，手把手教你训练百亿大模型

本文旨在帮助读者快速掌握使用Firefly项目微调Baichuan-13B模型，该教程同样适用于微调llama、ziya、bloom等模型，并且Firefly项目正在逐步适配更多开源大模型，包括InternLM

大模型微调

复旦开源中文医疗大模型，基于百川微调，模型和数据集都公开

为了满足患者的需求，我们采取了一项创新的举措，通过人工筛选，构建了符合人类偏好的高质量小规模行为微调样本。

大模型

从0到1基于ChatGLM-6B使用LoRA进行参数高效微调

之前尝试了基于LLaMA使用LoRA进行参数高效微调，有被惊艳到。

大模型

<123 4 5 6 7 8 9 10 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2024 AI魔法学院

京ICP备20027199号-1