文章列表-AI魔法学院

文章列表

对于大模型RAG技术的一些思考

微调Embedding句向量模型这部分主要是为了解决垂直领域特殊词汇，在通用句向量中会权重过大的问题。

RAG 大模型

如何最简单、通俗地理解Transformer？

Transformer通过向输入的每个嵌入（embedding）中添加一个向量完成位置编码（position encoding）。

Transformer 大模型

语言大模型100K上下文窗口的秘诀

第三个问题是原始架构中使用的位置正弦嵌入（Positional Sinusoidal Embedding ）。

大模型

【NLP技术分享】文本生成评价指标的进化与推翻

Embedding Average 这种方法直接使用句向量计算真实响应和生成响应之间的相似度，而句向量则是每个词向量加权平均而来，如下图所示。

开源模型

从Langchain到ReAct，在大模型时代下全新的应用开发核心

4.本地知识库的导入和动态embedding 对于LLM决策需要的额外了解的信息，可以动态的嵌入到每一次Prompt内容中。

大模型

从零开始了解AI大模型 - 技术篇：万字深度好文人话说大模型技术

Embedding（嵌入）是一种将文本或数据映射到低维向量空间的技术。

大模型

详解大模型RLHF过程（配代码解读）

其次对符号进行说明，大模型中间隐藏层的参数维度为(B,L,D)，B为batch size大小，L为句子长度，D为embedding维度。

训练

Stable Diffusion

硬核解读Stable Diffusion（系列三）

Textual Inversion这个工作的核心思路是基于用户提供的3～5张特定概念（物体或者风格）的图像来学习一个特定的text embeddings，实际上只用一个word embedding就足够了

Stable Diffusion 文生图

万字长文，AI大模型的应用实践总结

同时，Chinese-LLaMA-Alpaca也指出在进行第一阶段预训练（冻结transformer参数，仅训练embedding，在尽量不干扰原模型的情况下适配新增的中文词向量）时，模型收敛速度较慢。

大模型

动画制作工具AnimateDiff用法详解

; 负面 Prompt: CyberRealistic_Negative-neg 注意: CyberRealistic_Negative 是一个负面的词嵌入embedding

AnimateDiff 视频训练

【进阶】-文生图术语解释

outpaint 局部重绘，一种 img2img 的方法 ti/emb/嵌入模型模型微调方法中的 Textual Inversion，一般特指 Embedding

文生图

OpenAI 上线新功能力捧 RAG，开发者真的不需要向量数据库了？

RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200) ) # Embedding

RAG 检索向量库

LangChain 完整指南：使用大语言模型构建强大的应用程序

文本嵌入模型(Text Embedding Models)：这些模型将文本作为输入并返回表示文本嵌入的浮点列表。

langchain 大模型

Stable Diffusion

SD入门教程一：Stable Diffusion 基础（技术篇）

因为 Text Encoder 将 Dog转化成 77 个等长的向量 Embedding 里会包含与 Dog 相关的一些特征和含义： · 形态特征：向量表示可能会捕捉到 Dog 的形态特征

Stable Diffusion 文生图

爆火！腾讯开源PhotoMaker：高效地定制化生成任意风格的逼真人类照片！

得到融合嵌入后，沿着长度维度将它们连接起来，形成堆叠id嵌入（stacked id embedding）: 这种堆叠ID嵌入可以作为多个ID图像的统一表示，同时保留每个输入ID图像的原始表示

PhotoMaker 文生图

<1 2 3 4 5 6 789 10 >

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2024 AI魔法学院

京ICP备20027199号-1