文章列表-AI魔法学院

文章列表

LLM微调经验&认知

如果说指令微调是为了让模型“能说会说”，那RLHF更多是让模型“说得更符合心意”。

LLM 大模型

必看！阿里通义千问完整技术报告

然后，我们使用SFT和RLHF来调整QWEN以符合人类偏好，因此我们有了QWEN-CHAT，特别是其改进版本QWEN-CHAT-RLHF。

大型语言模型报告

大语言模型微调：定制自己的微调数据集

微调质量的好坏受到多个因素的影响，包括基底模型架构、参数量、微调数据集质量以及RLHF（RLHF：Reinforcement Learning from Human Feedback

大模型

关于GPT-4在变笨，有人写了篇论文证实了这一点

这引出了另一个更加让人不安的消息，每一次大模型的迭代升级，fine tuning 和 RLHF（基于人类反馈的强化学习）实际上都会造成模型能力的变动与不稳定，而目前还无法确定这一切是如何发生的！

大模型

基于Ollama本地部署Llama3指南！

调整后的版本使用监督微调（SFT）和带有人类反馈的强化学习（RLHF），以符合人类对有用性和安全性的偏好。

LLama3 ollama

大模型训练工程那些事

预训练、继续预训练、对齐(SFT、RLHF) 这些流程和术语对大家来说应该并不陌生。

训练工程大模型

开源大模型王座易主！谷歌Gemma杀入场，笔记本可跑，可商用

谷歌通过在仅文本、仅英语合成和人类生成的 prompt 响应对的混合数据上进行监督微调（SFT），以及利用在仅英语标记的偏好数据和基于一系列高质量 prompt 的策略上训练的奖励模型进行人类反馈强化学习（RLHF

开源模型 Gemma

微调大型语言模型-核心思想和方法介绍

Prompt Tuning And Prefix Tuning 人类反馈强化学习(Reinforcement Learning with Human Feedback) 在人类反馈的强化学习 (RLHF

大模型训练

baichuan2 有什么好的深挖论文中涉及的知识点

接下来，我们通过 RLHF 方法明确了强化学习过程，以进一步提高结果。

大模型

一个产品经理的大模型观察、反思与预测

能够对提示的完成程度进行评分 4、Reinforcement Learning 强化学习强化学习期间所做的基本上是再次获得大量提示，然后针对奖励模型进行强化学习为什么用RLHF

工作

万字长文，AI大模型的应用实践总结

06 RLHF(人工反馈强化学习) 根据 OpenAI 之前做的一些实验，可以看到使用了 PPO（近端策略优化）算法的 RLHF 模型整体上都更好一些。

大模型

Baichuan-13B 保姆级微调范例

前者仅仅是预训练模型，后者在前者基础上增加了SFT,RLHF等偏好对齐过程。

开源模型

从零开始了解AI大模型 - 技术篇：万字深度好文人话说大模型技术

可以说，强化学习RLHF和"无害化"处理是GPT-3进化成ChatGPT的关键技术，使其更加适用于各种实际应用场景，并提供更安全和可控的对话体验。

大模型

和大模型相关的一些术语（持续更新中）

基于人工反馈的强化学习（RLHF）：（Reinforcement Learning from Human Feedback）构建人类反馈数据集，训练一个激励模型，模仿人类偏好对结果打分，这是GPT-3后时代大语言模型越来越像人类对话核心技术

大模型人工智能

HalluQA: 测测中文大模型有没有一本正经胡说八道

这类问题往往是SFT或者RLHF容易被忽视的问题，因为这些问题本身可能存在矛盾，不像是通常会出现的用户Query（例如“弱智吧”问题之类的段子），因此很容易在alignment阶段被忽视。

大模型中文大模型幻觉

<123 4 5 >

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1