训练魔法-AI魔法学院

训练魔法

惊艳！2.77亿参数锻造出Agent+GPT-4V模型组合，领航AI领航机器人、游戏、医疗革新，通用智能时代你准备好了吗？

顶尖学者合作推出交互式代理基础模型，具备处理文本、图像、动作输入的多模态能力，可应用于机器人、游戏、医疗等多领域。模型具有实时判断和多模态处理能力，利用预训练子模块和游戏数据集提升性能，实现精准预测和强适应性。该模型为通用、行动导向的AI应用提供了有希望的途径，作者将开源项目代码。

Agent+GPT-4V 大模型 2024-05-20

微软、OpenAI大佬暗示LLM应用开发范式迁移：从Prompt Engineering到Flow Engineering

《Code Generation with AlphaCodium》论文提出Flow engineering范式，通过多次生成测试反馈迭代提升GPT-4准确率。文章指出，未来LLM应用开发应重视Flow engineering，从单次prompt工程转变为基于环境反馈的复杂流程组织及自我迭代纠错。文章还强调了大模型应用开发的务实性和工程化，并提及了多个MultiAgent框架和平台，反映了MultiAgent在LLM时代的重要性。

LLM 范式迁移 2024-05-20

混合专家模型 (MoE) 详解

随着 Mixtral 8x7B (announcement, model card) 的推出，一种称为混合专家模型 (Mixed Expert Models，简称 MoEs) 的 Transformer 模型在开源人工智能社区引起了广泛关注。在本篇博文中，我们将深入探讨 MoEs 的核心组件、训练方法，以及在推理过程中需要考量的各种因素。

MoE大模型 2024-05-20

揭秘Baichuan 3超越GPT-4的中文实力！文心一言、GLM 4.0也甘拜下风？全方位对比测试大揭秘！

百川智能推出了超千亿参数的大语言模型Baichuan 3，在中文任务上超越了GPT-4，展现了出色的语言理解和生成能力。其成功得益于突破性的“迭代式强化学习”技术，以及针对中文语境的深度优化。在逻辑推理、代码解释、工具调用、AI写诗、文件上传提炼大纲等方面均表现出色。与其他大模型如文心一言、GLM、GPT-4和Claude-2相比，Baichuan 3在中文任务上独具优势。此外，百川智能通过一系列技术创新解决了训练过程中的挑战，为Baichuan 3的成功奠定了基础。未来，我们期待看到更多如Baichuan 3般强大而智能的中文大模型在各个领域大放异彩。

Baichuan 3 大模型 2024-05-17

回归分析：探索变量之间的奥秘

回归分析是探索变量间关系的工具，适用于多个领域。回归分析涉及因变量、自变量，以及线性和非线性、多元与一元回归等概念。进行回归分析需明确目标、收集数据、建立模型并评估精度，最终应用于实际。回归分析有多种分支，如线性回归、多元线性回归、非线性回归等，各有特点，共同揭示变量间的复杂关系。

回归分析变量 2024-05-17

省钱！微软开源框架LLMLingua + LlamaIndex实现提示词压缩

微软发布的开源框架LLMLingua旨在通过提示词压缩降低token开销，提高语言模型响应速度。LLMLingua利用训练过的语言模型识别和移除非必要标记，实现高效推断，性能损失小。LongLLMLingua解决了长上下文信息处理的挑战，提高RAG性能。LlamaIndex框架原生支持LLMLingua，方便开发者集成。文章展示了如何使用LlamaIndex和LLMLingua实现提示词压缩，并给出了压缩效果的示例代码和输出。

LLMLingua LlamaIndex 开源框架 2024-05-17

蚂蚁推出ProChat：快速搭建大语言模型 Chat 对话的前端组件库

本文介绍了@ant-design/pro-chat项目，包括安装、使用、特性、展示、浏览器兼容性以及本地开发等方面。该项目基于antd设计，提供了一套聊天界面组件的框架和解决方案，旨在帮助开发人员轻松打造丰富、动态和直观的聊天界面。其特性包括自动聊天缓存、简化对话、消息编辑功能、自动渲染Markdown、程序控制等。此外，项目还具备流式对话和内容编辑器等标志性能力，并兼容现代浏览器和Internet Explorer 11等环境。开发人员可以使用Github Codespaces进行在线开发或克隆项目进行本地开发。

ProChat 大语言模型 2024-05-16

金融行业中 Fintech 的应用场景

本文介绍了Fintech的应用场景，包括财经新闻分析、智能营销、金融数据分析与风险控制、智能识别和量化交易等。文章指出，Fintech是将科技与金融结合在一起的领域，涉及到机器学习、业务场景和商业变现等方面。在金融领域，有许多需要数据分析的场景，如预测用户资产增加、识别欺诈行为、进行风险控制等。不同场景可能需要不同的算法和模型，如评分卡模型、逻辑回归、XGBoost等。文章还提到了量化交易的概念，并介绍了相关软件和平台。最后，文章强调了理解业务和场景的重要性，是进行机器学习和数据分析的前提。总结来说，本文概述了Fintech的应用场景和相关技术，并强调了业务理解和场景分析在数据分析中的重要性。

Fintech 金融 2024-05-16

性能超出预期！神秘的国产大模型 Kimi 开放 API

本文介绍了名为Moonshot的大模型，它以其超长上下文能力（支持20万字）脱颖而出。通过测试，Moonshot在性能、对提示词的理解能力、角色扮演能力以及特定应用场景中的表现均令人印象深刻。其Token利用率高，且API设计兼容OpenAI，为开发者提供了便利。Moonshot的开放平台吸引了众多开发者，并提供了良好的技术支持和文档。总体而言，Moonshot作为AI生态圈的新锐力量，展现出了令人欣喜的潜力和前景。

Kimi Chat 大模型 API 2024-05-16

将任意文本转换为知识图谱

本文介绍了知识图谱的概念及其构建过程，包括清理文本语料库、提取概念和实体、提取关系、转换图形模式、填充节点和边，以及可视化和查询。文章还强调了知识图谱的用途，如运行图算法、计算社区和理解概念间的联系。项目通过分割文本块、提取概念及关系、分组相似对并计算权重来构建知识图谱，同时计算节点度数和社区以调整图形表示。项目可在个人计算机上运行，无需调用GPT，具有经济性。

知识图谱转换文本 2024-05-15

百万token上下文窗口也杀不死向量数据库？CPU笑了

“Claude 3、Gemini 1.5等大语言模型因其超长的上下文窗口，被业界视为可能终结RAG（检索增强生成）技术的流派。RAG依赖外挂知识库提供准确知识，提高生成内容质量。尽管大模型的超长上下文窗口在某些方面显示出优势，但其在速度、价值、体量和多样性等方面仍存在明显缺陷。相比之下，RAG得益于向量数据库技术，能规避这些缺陷。腾讯云发布的VectorDB向量数据库，通过提供高效的存储、检索和分析能力，成为连接数据与AI的桥梁。该数据库支持多种索引类型和相似度计算方法，并通过与英特尔合作，在CPU平台上实现显著性能加速。尽管AI模型能力不断提升，但AI系统的综合性能还需考虑其他组件的配合。因此，向量数据库等技术在AI平台化发展中仍具重要价值。”

向量数据库大模型 cpu 2024-05-15

如何构建基于大模型的App

文章概括了基于大模型开发业务应用的现状、挑战和策略。文章指出，虽然并非所有组织都需要训练大模型，但基于大模型开发业务应用已成为趋势。文章强调了理解大模型的能力边界、利用LLM进行语言理解和处理、推理、审查、文本转换等任务的重要性。同时，提出了利用模型微调和上下文注入来回答LLM无法知道的问题的方法。文章还指出了基于大模型API构建应用所面临的问题，如响应不可预测、与目标应用数据和用例不相关等，并提出了构建基于大模型应用的系统架构的思考，包括应用编排器、任务计划器、上下文和记忆型数据的向量存储、提示和响应管理器、效果评估器以及大模型管理器等组件。最后，文章给出了一个构建基于大模型应用的简单示例，并总结了利用大模型为业务赋能的挑战和策略。

构建大模型App 2024-05-15

主流网络爬虫蜘蛛详解

文章简洁精练的总结如下：文章介绍了网络爬虫的概念，强调区分真伪蜘蛛并了解各种蜘蛛的重要性，以避免不必要的资源浪费。文中列举了多个主流搜索引擎和工具的爬虫，包括Googlebot、Bingbot、Baiduspider、Bytespider等，并提供了它们的识别特征和UA（用户代理）字符串。同时，文章也介绍了如何根据实际需要，通过robots.txt文件屏蔽不必要的爬虫，以及针对特定搜索引擎优化网站的方法。此外，文章还提供了爬虫特征字符串的汇总整理版，方便程序员直接使用。整体而言，文章旨在帮助网站管理员更好地管理和优化网站，提高网站在搜索引擎中的表现。

爬虫蜘蛛详解 2024-05-15

构建开源多模态RAG系统

本文深入探讨了使用开源大型语言多模态（LLMM）技术构建检索增强型生成（RAG）系统的过程，而不依赖于特定的框架如LangChain或Llama索引。文章首先介绍了RAG系统的核心概念，即通过允许模型从外部来源动态检索实时信息来增强AI的理解和输出能力。然后，解释了多模态学习的意义，即通过教导计算机理解和学习不同类型的信息（如图像、文本或语音）来做出更好的预测。接着，文章提出了一个构建RAG管道的方案，其中涉及使用CLIP嵌入图像和文本，并将这些数据存储在ChromDB向量数据库中。最后，利用Hugging Face的MLLM根据检索到的信息参与用户聊天会话。作为示例，文章描述了一个创建花专家聊天机器人的过程，包括数据预处理、创建向量数据库以及使用多模态嵌入函数进行检索。该方案通过整合不同的模态和嵌入技术，提高了AI模型在处理复杂和多样化数据时的准确性和可靠性。此外，RAG系统通过减少幻觉和增加透明度，提高了AI决策的可信度和可解释性。这种经济高效的方法为改进AI输出提供了一种新的途径，而无需进行广泛的重新训练或微调。综上所述，本文介绍了一种利用开源技术和多模态学习构建高效RAG系统的方法，该方法具有增强AI理解和输出能力、提高准确性和可靠性、减少幻觉和增加透明度等优点，为AI应用的发展提供了新的思路。

RAG 大模型 2024-05-13

大模型训练工程那些事

本文围绕大模型训练工程进行了深入探讨，将其与历史上的曼哈顿计划相提并论，凸显了其在当代科技领域的重要性。文章从技术原理、数据算力与资源、时间计划等方面，分析了大模型训练工程的复杂性和挑战性。在技术原理方面，文章介绍了Scaling Laws等科学原理在指导大模型训练中的应用。在数据、算力和资源方面，文章揭示了数据规模、模型规模和计算资源对AI模型性能的影响，并讨论了算力租赁、国产替代等当前面临的问题。在时间计划方面，文章预测了大模型训练迭代和应用的紧迫性，并强调了资源规划和差异化能力的重要性。总结来说，本文认为大模型训练工程是一项集科技、人力、资源和时间于一体的复杂系统工程，其发展和应用将对社会产生深远影响。文章呼吁产业界和学术界共同努力，推动大模型技术的发展和应用，为产业变革和社会进步贡献力量。

训练工程大模型 2024-05-13

<...9 10 11 121314 15 16 17 18 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2024 AI魔法学院

京ICP备20027199号-1