文章列表-AI魔法学院

文章列表

手把手！做Llama3的MoE专家混合模型！底层原理怎样的？做自己的MoE模型？需要多少算力？

看下图！

MoE 专家混合模型

重磅来袭！Llama中文社区开源预训练中文版Atom-7B大模型

的中文预训练大模型：原子大模型 Atom-7B | Atom-7B 介绍目标泛智能体大模型不同原子有不同的特性，原子大模型也可以进化出不同的能力，一些专注于自然语言处理，一些负责图像识别

大模型

RAG与Long-Context之争—没必要争

但大模型随着输入长度越长，KV Cache所占资源就越多，成本也会剧增，这也是为什么有人持观点，未来也会有RAG。

RAG Long-Context 大模型

Prompt全攻略(一):ChatGPT时代,什么是Prompt?

3.增加示例给AI一两个输出样例,会让它更清楚我们的预期。

prompt

除了深度换脸、模拟配音，还能口型匹配的AI软件出现了

“这看起来就像是自然地进入下一阶段，创造出一种不像是配音或者人工调整的视频。

AI

大模型评测新思路：弱智吧精华问题大全

图 2 说明了各种任务类型，包括信息提取、问答、代码生成等。

弱智吧训练数据集

LLM大模型推理输出生成方式总结

温度越高，分布曲线越平缓，增加了低概率字被采样到的机会。

大模型

企业如何更好的使用大模型？都有哪些框架和方案

用户提问时，ChatGPT不但能理解意图，而且还能够基于之前的问答做综合推理。

人工智能大模型

Github上Star数最多的大模型应用基础服务：Dify 深度解读

服务会包含如下所示的功能模块：文件加载的支持；文件的预处理策略；文件检索的支持；检索结果的重排；大模型的处理；因为 RAG 服务只是 Dify 中的一个基础模块，官方没有过多强调

Dify 大模型知识库

大模型文本生成——解码策略（Top-k & Top-p & Temperature）

这种方法可以增加生成的多样性，但是可能会导致生成的文本不连贯和无意义。

大模型

LangChain Agent原理介绍

Question: {input} Thought:{agent_scratchpad}""" 通过这个模板，加上我们的问题以及自定义的工具，会变成下面这个样子（# 后面是增加的注释）：

langchain

大语言模型应用中的文本分块策略

例如，sentence-transformer[1]模型在单个句子上效果很好，但像text-embedding-ada-002[2]这样的模型在包含 256 或 512 个token的块上表现更好

开源模型

手把手教你本地部署清华大学KEG的ChatGLM-6B模型——Windows+6GB显卡版本和CPU版本的本地部署

经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。

提示词 prompt chatgpt

研究人员开源中文文本嵌入模型，填补中文向量文本检索领域的空白

图丨项目中模型的关键数据对比（来源：王宇昕）文本的嵌入式表达本身是一个泛用性特别强的算法。

GPT

Mixtral 7B 官宣免费，一大波 AI 模型也免费了，有网就能用！

下图是它的评分表：体验链接：https://anakin.ai/apps/zephyr-16452 MythoMist MythoMist 7B 代表了迭代设计的巅峰，体现了高度实验性的范例

开源大模型

<...81 82 83 848586 87 88 89 90 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1