训练魔法-AI魔法学院

文章简要概括了去年ChatGPT的崛起引发的国内大模型创业潮，以及随后行业的冷静和商业化进程。特别关注了美团联合创始人王慧文在此过程中的起伏，包括他高调宣布进军AI赛道，设立光年之外科技有限公司，但随后因个人原因退出，并将光年之外并入美团。文章还提到了王慧文近期作为投资人和创始股东参与硅动科技的创业，该公司致力于解决大模型推理和部署的高成本问题。此外，文章还分析了国内大模型行业的发展趋势，包括从追赶ChatGPT到注重应用场景落地，以及面临OpenAI等国外巨头的竞争压力。最后，文章对王慧文回归AI赛道的未来表现持观望态度。

ChatGPT 大模型 2024-05-20

医疗

惊艳！2.77亿参数锻造出Agent+GPT-4V模型组合，领航AI领航机器人、游戏、医疗革新，通用智能时代你准备好了吗？

顶尖学者合作推出交互式代理基础模型，具备处理文本、图像、动作输入的多模态能力，可应用于机器人、游戏、医疗等多领域。模型具有实时判断和多模态处理能力，利用预训练子模块和游戏数据集提升性能，实现精准预测和强适应性。该模型为通用、行动导向的AI应用提供了有希望的途径，作者将开源项目代码。

Agent+GPT-4V 大模型 2024-05-20

微软

微软、OpenAI大佬暗示LLM应用开发范式迁移：从Prompt Engineering到Flow Engineering

《Code Generation with AlphaCodium》论文提出Flow engineering范式，通过多次生成测试反馈迭代提升GPT-4准确率。文章指出，未来LLM应用开发应重视Flow engineering，从单次prompt工程转变为基于环境反馈的复杂流程组织及自我迭代纠错。文章还强调了大模型应用开发的务实性和工程化，并提及了多个MultiAgent框架和平台，反映了MultiAgent在LLM时代的重要性。

LLM 范式迁移 2024-05-20

混合专家模型 (MoE) 详解

随着 Mixtral 8x7B (announcement, model card) 的推出，一种称为混合专家模型 (Mixed Expert Models，简称 MoEs) 的 Transformer 模型在开源人工智能社区引起了广泛关注。在本篇博文中，我们将深入探讨 MoEs 的核心组件、训练方法，以及在推理过程中需要考量的各种因素。

MoE大模型 2024-05-20

文心一言

揭秘Baichuan 3超越GPT-4的中文实力！文心一言、GLM 4.0也甘拜下风？全方位对比测试大揭秘！

百川智能推出了超千亿参数的大语言模型Baichuan 3，在中文任务上超越了GPT-4，展现了出色的语言理解和生成能力。其成功得益于突破性的“迭代式强化学习”技术，以及针对中文语境的深度优化。在逻辑推理、代码解释、工具调用、AI写诗、文件上传提炼大纲等方面均表现出色。与其他大模型如文心一言、GLM、GPT-4和Claude-2相比，Baichuan 3在中文任务上独具优势。此外，百川智能通过一系列技术创新解决了训练过程中的挑战，为Baichuan 3的成功奠定了基础。未来，我们期待看到更多如Baichuan 3般强大而智能的中文大模型在各个领域大放异彩。

Baichuan 3 大模型 2024-05-17

回归分析：探索变量之间的奥秘

回归分析是探索变量间关系的工具，适用于多个领域。回归分析涉及因变量、自变量，以及线性和非线性、多元与一元回归等概念。进行回归分析需明确目标、收集数据、建立模型并评估精度，最终应用于实际。回归分析有多种分支，如线性回归、多元线性回归、非线性回归等，各有特点，共同揭示变量间的复杂关系。

回归分析变量 2024-05-17

开源

省钱！微软开源框架LLMLingua + LlamaIndex实现提示词压缩

微软发布的开源框架LLMLingua旨在通过提示词压缩降低token开销，提高语言模型响应速度。LLMLingua利用训练过的语言模型识别和移除非必要标记，实现高效推断，性能损失小。LongLLMLingua解决了长上下文信息处理的挑战，提高RAG性能。LlamaIndex框架原生支持LLMLingua，方便开发者集成。文章展示了如何使用LlamaIndex和LLMLingua实现提示词压缩，并给出了压缩效果的示例代码和输出。

LLMLingua LlamaIndex 开源框架 2024-05-17

蚂蚁推出ProChat：快速搭建大语言模型 Chat 对话的前端组件库

本文介绍了@ant-design/pro-chat项目，包括安装、使用、特性、展示、浏览器兼容性以及本地开发等方面。该项目基于antd设计，提供了一套聊天界面组件的框架和解决方案，旨在帮助开发人员轻松打造丰富、动态和直观的聊天界面。其特性包括自动聊天缓存、简化对话、消息编辑功能、自动渲染Markdown、程序控制等。此外，项目还具备流式对话和内容编辑器等标志性能力，并兼容现代浏览器和Internet Explorer 11等环境。开发人员可以使用Github Codespaces进行在线开发或克隆项目进行本地开发。

ProChat 大语言模型 2024-05-16

金融

金融行业中 Fintech 的应用场景

本文介绍了Fintech的应用场景，包括财经新闻分析、智能营销、金融数据分析与风险控制、智能识别和量化交易等。文章指出，Fintech是将科技与金融结合在一起的领域，涉及到机器学习、业务场景和商业变现等方面。在金融领域，有许多需要数据分析的场景，如预测用户资产增加、识别欺诈行为、进行风险控制等。不同场景可能需要不同的算法和模型，如评分卡模型、逻辑回归、XGBoost等。文章还提到了量化交易的概念，并介绍了相关软件和平台。最后，文章强调了理解业务和场景的重要性，是进行机器学习和数据分析的前提。总结来说，本文概述了Fintech的应用场景和相关技术，并强调了业务理解和场景分析在数据分析中的重要性。

Fintech 金融 2024-05-16

大模型

性能超出预期！神秘的国产大模型 Kimi 开放 API

本文介绍了名为Moonshot的大模型，它以其超长上下文能力（支持20万字）脱颖而出。通过测试，Moonshot在性能、对提示词的理解能力、角色扮演能力以及特定应用场景中的表现均令人印象深刻。其Token利用率高，且API设计兼容OpenAI，为开发者提供了便利。Moonshot的开放平台吸引了众多开发者，并提供了良好的技术支持和文档。总体而言，Moonshot作为AI生态圈的新锐力量，展现出了令人欣喜的潜力和前景。

Kimi Chat 大模型 API 2024-05-16

将任意文本转换为知识图谱

本文介绍了知识图谱的概念及其构建过程，包括清理文本语料库、提取概念和实体、提取关系、转换图形模式、填充节点和边，以及可视化和查询。文章还强调了知识图谱的用途，如运行图算法、计算社区和理解概念间的联系。项目通过分割文本块、提取概念及关系、分组相似对并计算权重来构建知识图谱，同时计算节点度数和社区以调整图形表示。项目可在个人计算机上运行，无需调用GPT，具有经济性。

知识图谱转换文本 2024-05-15

数据库

百万token上下文窗口也杀不死向量数据库？CPU笑了

“Claude 3、Gemini 1.5等大语言模型因其超长的上下文窗口，被业界视为可能终结RAG（检索增强生成）技术的流派。RAG依赖外挂知识库提供准确知识，提高生成内容质量。尽管大模型的超长上下文窗口在某些方面显示出优势，但其在速度、价值、体量和多样性等方面仍存在明显缺陷。相比之下，RAG得益于向量数据库技术，能规避这些缺陷。腾讯云发布的VectorDB向量数据库，通过提供高效的存储、检索和分析能力，成为连接数据与AI的桥梁。该数据库支持多种索引类型和相似度计算方法，并通过与英特尔合作，在CPU平台上实现显著性能加速。尽管AI模型能力不断提升，但AI系统的综合性能还需考虑其他组件的配合。因此，向量数据库等技术在AI平台化发展中仍具重要价值。”

向量数据库大模型 cpu 2024-05-15

大模型

如何构建基于大模型的App

文章概括了基于大模型开发业务应用的现状、挑战和策略。文章指出，虽然并非所有组织都需要训练大模型，但基于大模型开发业务应用已成为趋势。文章强调了理解大模型的能力边界、利用LLM进行语言理解和处理、推理、审查、文本转换等任务的重要性。同时，提出了利用模型微调和上下文注入来回答LLM无法知道的问题的方法。文章还指出了基于大模型API构建应用所面临的问题，如响应不可预测、与目标应用数据和用例不相关等，并提出了构建基于大模型应用的系统架构的思考，包括应用编排器、任务计划器、上下文和记忆型数据的向量存储、提示和响应管理器、效果评估器以及大模型管理器等组件。最后，文章给出了一个构建基于大模型应用的简单示例，并总结了利用大模型为业务赋能的挑战和策略。

构建大模型App 2024-05-15

爬虫

主流网络爬虫蜘蛛详解

文章简洁精练的总结如下：文章介绍了网络爬虫的概念，强调区分真伪蜘蛛并了解各种蜘蛛的重要性，以避免不必要的资源浪费。文中列举了多个主流搜索引擎和工具的爬虫，包括Googlebot、Bingbot、Baiduspider、Bytespider等，并提供了它们的识别特征和UA（用户代理）字符串。同时，文章也介绍了如何根据实际需要，通过robots.txt文件屏蔽不必要的爬虫，以及针对特定搜索引擎优化网站的方法。此外，文章还提供了爬虫特征字符串的汇总整理版，方便程序员直接使用。整体而言，文章旨在帮助网站管理员更好地管理和优化网站，提高网站在搜索引擎中的表现。

爬虫蜘蛛详解 2024-05-15

开源

构建开源多模态RAG系统

本文深入探讨了使用开源大型语言多模态（LLMM）技术构建检索增强型生成（RAG）系统的过程，而不依赖于特定的框架如LangChain或Llama索引。文章首先介绍了RAG系统的核心概念，即通过允许模型从外部来源动态检索实时信息来增强AI的理解和输出能力。然后，解释了多模态学习的意义，即通过教导计算机理解和学习不同类型的信息（如图像、文本或语音）来做出更好的预测。接着，文章提出了一个构建RAG管道的方案，其中涉及使用CLIP嵌入图像和文本，并将这些数据存储在ChromDB向量数据库中。最后，利用Hugging Face的MLLM根据检索到的信息参与用户聊天会话。作为示例，文章描述了一个创建花专家聊天机器人的过程，包括数据预处理、创建向量数据库以及使用多模态嵌入函数进行检索。该方案通过整合不同的模态和嵌入技术，提高了AI模型在处理复杂和多样化数据时的准确性和可靠性。此外，RAG系统通过减少幻觉和增加透明度，提高了AI决策的可信度和可解释性。这种经济高效的方法为改进AI输出提供了一种新的途径，而无需进行广泛的重新训练或微调。综上所述，本文介绍了一种利用开源技术和多模态学习构建高效RAG系统的方法，该方法具有增强AI理解和输出能力、提高准确性和可靠性、减少幻觉和增加透明度等优点，为AI应用的发展提供了新的思路。

RAG 大模型 2024-05-13