文章列表-AI魔法学院

文章列表

国产“小钢炮”MiniCPM3-4B：小参数，大能量！

RAG 三件套：检索、排序、生成全能选手 MiniCPM 3.0 同时发布了 RAG（检索增强生成）三件套：MiniCPM-Embedding（检索）、MiniCPM-Reranker

MiniCPM3-4B 大模型

保姆级教程：图解Transformer

得到的 Xembedding 的维度是 [batch size, sequence length, embedding dimension]，embedding

人工智能

姜子牙大模型系列 | 为知识检索而生，Ziya-Reader开源，多个长文本中文任务第一

Ziya-Reader和我们的自建向量模型Ziya-Embedding达到90.8%的准确率，基于Ziya-Reader的Ziya-Searching-Agent则达到了92.5%。

大模型 Ziya

PDFTriage:面向长篇结构化文档的问答

对于我们的第一个基线,我们使用text-embedding-ada-002嵌入对每个文档的页面进行索引。

大语言模型 PDF 文档

从零开始用LangChain、Pinecone和LLMs搭建你自己的文档问答系统

from langchain.embeddings.openai import OpenAIEmbeddings embeddings = OpenAIEmbeddings(model="text-embedding-ada

知识库 langchain

大模型实践总结

同时，Chinese-LLaMA-Alpaca也指出在进行第一阶段预训练（冻结transformer参数，仅训练embedding，在尽量不干扰原模型的情况下适配新增的中文词向量）时，模型收敛速度较慢。

大模型训练

解读OpenAI Sora文生视频技术原理

ensp; 一、Spacetime Latent Patches 潜变量时空碎片, 建构视觉语言系统在“ChatGPT是第一个真正意义的人工通用智能”中，笔者总结过大语言模型借助Embedding

sora

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

MiniCPM-MoE-8x2B 模型总共包含 8 个 expert，全参数量（non-embedding）为 13.6B，每个 token 激活其中的 2 个 expert，激活参数量

MiniCPM 大模型

AI Agent行业深度：框架拆解、应用方向、应用领域及相关公司深度梳理！

向量数据库利用人工智能中的Embedding方法，将图像、音视频等非结构化数据抽象、转换为多维向量，由此可以结构化地在向量数据库中进行管理，从而实现快速、高效的数据存储和检索过程，赋予了Agent“长期记忆

AI Agents 大模型

AI Agent行业深度：框架拆解、应用方向、应用领域及相关公司深度梳理

向量数据库利用人工智能中的Embedding方法，将图像、音视频等非结构化数据抽象、转换为多维向量，由此可以结构化地在向量数据库中进行管理，从而实现快速、高效的数据存储和检索过程，赋予了Agent“长期记忆

AI Agent 大模型人工智能

大模型微调方法总结

类双向语言模型采用模版(P1, x, P2, [MASK], P3)，对于单向语言模型采用(P1, x, P2, [MASK])：同时加了两个改动： 1、考虑到预训练模型本身的 embedding

开源模型

【一步一步引导】从零详细地梳理一个完整的 LLM 训练流程

120w 行中文文本上训练出一个 5w 规模的 token 集合，并将这部分 token 集合与原来的 LLaMA 词表做合并，最后再在 3.2B 的中文语料上对这部分新扩展的 token embedding

大模型训练

使用大模型自动回复小红书/抖音/快手评论：通过RAG 优化LLMs实现

这通常使用所谓的方式为embedding 文本在概念空间中的数值表示。

RAG 大模型自动回复

必看！ComfyUI故障应对指南，让您轻松应对每一个挑战

首先是与SD（Stable Diffusion）相关的文件，比如checkpoint、Lora和embedding文件。

ComfyUI 故障应对

收藏！万字长文聊聊LLM Agents的现状，问题与未来

注意：这里的embedding是text embedding，即句向量，需要和词向量分开。

LLM Agents

<1 2 3 4 5 678 9 10 >

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2024 AI魔法学院

京ICP备20027199号-1