文章列表-AI魔法学院

文章列表

改进召回（Retrieval）和引入重排（Reranking）提升RAG架构下的LLM应用效果

你可以在一组文档上建立列表索引，然后使用 LLM 检索器从索引中检索相关文档。

大模型

RAG超参数调优食用指南

目前构建 LLM 应用程序存在一个巨大的问题，那就是需要调整大量的参数，而且远远超出了提示范围，例如分块、检索策略、元数据等。

rag 大模型

StreamingLLM 框架：利用最新标记让 AI 记住你的话、创作长篇小说，探索无限长度文本

“ 为了实现LLM的高效流式部署,研究人员提出了 Streaming LLM 框架，其核心思路是保留最近的标记和重要的注意力点，同时丢弃不必要的中间标记。该方法允许LLM高效处理更长的上下文，在多轮对话等场景中展现出巨大应用潜力。”

大模型 llm框架

鹅厂版AI笔记悄悄上线，微信公众号优质内容秒变专属知识库，实测在此

收藏的内容太多也不必担心，ima可以帮你在知识库中进行任意检索总结，简直是学习利器！

ima copilot 搜索

通往AGI之路：什么是结构化提示词

这些信息因为有了顺序，可以很方便的被我们检索和利用。

提示词结构化

停用词(Stop Words)的价值、收集与使用

一般来说，我们会用倒排索引来存储文档特征与文档编号的映射关系，以实现一个比较快的信息检索系统。

停用词

百川智能RAG方案总结：搜索出生的百川智能大模型RAG爬坑之路

2) 优化检索链路：采用稀疏检索+向量检索+Rerank结合的方法，来提高检索的召回率和准确率。

RAG 大模型

AI领域的agent是什么意思？

基于代理的感知，系统检索相关的记忆，然后使用这些检索到的行为来决定下一个行为。

大模型

AIGC工具提示词技巧

以前，我们和软件对话用的是搜索的逻辑：把我们想要的结果、方向描述出来放到浏览器、搜索引擎做检索。

AIGC 提示词

国产“小钢炮”MiniCPM3-4B：小参数，大能量！

这款全新模型不仅实现了在移动设备上运行 GPT-3.5 级别的能力，而且具备超强的推理、检索与代码解释功能。

MiniCPM3-4B 大模型

摆脱 OpenAI 依赖，8 分钟教你用开源生态构建全栈 AI 应用

Xinference 使得本地部署 Llama 2 模型变得简洁高效，而 Milvus 则提供了高效的向量存储和检索能力。

开源模型

LLM大模型推理输出生成方式总结

参数设置：do_sample = False, num_beams>1 缺点：虽然结果比贪心搜索更流畅，但是仍然存在生成重复的问题 Multinomial sampling（多项式采样）方式

大模型

whisper-live：OpenAI Whisper模型的近实时实现

与依赖连续音频流的传统语音识别系统不同，我们使用语音活动检测（VAD）来检测语音的存在，并且仅在检测到语音时才发送音频数据以耳语。

OpenAI Whisper 大模型

如何用大语言模型构建一个知识问答系统

与普通搜索结合，使用基础模型对搜索结果加工。

知识库

深度体验3天后，我把腾讯这款copilot锁进了程序坞

1个搜索框、4个按钮，包圆AI搜索、AI笔记、AI写作、文生图、AI收藏夹……这样的AI产品总算来了。

copilot ima 知识库

<1 2 3 456 7 8 9 10 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1