文章列表-AI魔法学院

文章列表

人工智能大语言模型微调技术：SFT 、LoRA 、Freeze 监督微调方法

;hi(n)]表示当前时刻所有层输出向量的拼接，hi(j)是时刻i的第j层 Transformer 的输出，于是自回归语言模型计算每一时刻的输出hi即： $hi

大模型微调

大模型文本生成——解码策略（Top-k & Top-p & Temperature）

Temperature 采样中的温度与玻尔兹曼分布有关，其公式如下所示： ρi=1Qe−ϵi/kT=e−ϵi/kT∑j=1Me−ϵ

大模型

大模型推理能力增强方法总结

Auto-CoT自动思维链 Auto-CoT提出自动构建带有问题和推理链的演示，其由两个部分组成：问题聚类将给定问题划分成几个聚类，示范抽样从每个聚类中选择一个有代表性的问题，Zero-Shot-CoT

推理能力大模型

开源大语言模型完整列表

它采用 Transformer 自回归架构（auto-regressive），使用万亿级高质量语料进行预训练，拥有强大的基础能力。

开源模型大语言模型

链接大模型与外部知识，智源开源最强语义向量模型BGE

new-and-improved-embedding-model [5] RetroMAE: Pre-Training Retrieval-oriented Language Models Via Masked Auto-Encoder

embedding 语义向量

分析了数百万ChatGPT用户会话后发现的秘密

之后：J 曲线增长。

大语言模型

基于Ollama本地部署Llama3指南！

模型架构 Llama 3 是一个自回归语言模型（an auto-regressive language），它使用优化的 transformer 架构。

LLama3 ollama

从0到1基于ChatGLM-6B使用LoRA进行参数高效微调

"THUDM/chatglm-6b", load_in_8bit=True, trust_remote_code=True, device_map="auto

大模型

本地运行140亿参数，阿里千问玩起来！Qwen+Win11+3060

ensp; cd qwenpip install -r requirements.txt 4.安装量化依赖 pip install auto-gptq

大模型

ComfyUI的特性以及安装流程

使用 --preview-method auto 启用预览。

ComfyUI 文生图

OpenAI视频模型Sora的推理生成成本多高？

GPT（所有 LLM）是 Decoder-Only Transformer 架构，通过 Auto Regression 的方式预测下一个 token，是一个完全的 Memory bound 场景，一般实际推理时的

Sora 推理算力

AI Agent / 智能体观察笔记（下）

给公司的销售团队布置to-do清单 AUTOGPTGitHut项目链接：GitHub - Significant-Gravitas/Auto-GPT: An experimental open-source

大模型

Stable Diffusion

stable diffusion 远端跑图—— Api基础知识掌握

6iNERdVGAREQBERAEREAREQBERAEREAREQBERAEREAREQBERAEREBS2r5DTfUB7rqp7FTWr5DTfUB7rqp7EQPUREAREQBERAEREAREQBERAEREAREQBHyyfPgiKGxVkUJiIyRSRgUcjs2fVOPjm4n+x1Sz9V5tdOFxZ4Y20vDFmLZdZ/J+

文生图 api

如何使用 Megatron-LM 训练语言模型

model = AutoModelForCausalLM.from_pretrained("your_username/codeparrot-large", device_map="auto

开源模型

60分钟吃掉ChatGLM2-6b微调范例~

transformers.AutoConfig.from_pretrained( model_name, trust_remote_code=True, device_map='auto

开源模型

<1 234 5 6 >

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1