文章列表-AI魔法学院

文章列表

基于Ollama本地部署Llama3指南！

众所周知，扎克伯格的Meta又开源了Llama3 8B和70B的预训练（pretrained）和指令微调（instruction-tuned）两个版本，还有个更大的400B参数预计在今年夏天发布，这个400B

LLama3 ollama

实测：本地跑llama3:70B需要什么配置

llama3 8B版本实测可以在大多数普通配置的个人PC上运行，即使没有显卡，只要不是很拉胯的CPU跑起来也还算能用的样子。

llama GPU内存

Llama 3突然来袭！开源社区再次沸腾：GPT-4级别模型可以自由访问的时代到来

Llama 3突然来袭！开源社区再次沸腾：GPT-4级别模型可以自由访问的时代到来

meta llama3

手把手！做Llama3的MoE专家混合模型！底层原理怎样的？做自己的MoE模型？需要多少算力？

llama3表现爆棚！

MoE 专家混合模型

开源新标杆，千问Qwen2系列模型发布，全面超越LLama3

千问Qwen2系列模型发布，Qwen2 系列模型包括五个尺寸的模型（Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B 和 Qwen2-72B），这些模型在中文和英文基础上增加了 27 种语言的高质量数据，并在多个评测基准上展现了优异的性能。Qwen2 系列模型在代码和数学能力上有显著提升

qwen 千问开源

Nvidia发布Llama3-ChatQA-1.5: 提升对话问答和表格推理能力，平均性能超越GPT-4

前言近日，Nvidia推出了一款名为Llama3-ChatQA-1.5的对话问答模型。

Llama3-ChatQA-1.5 对话问答模型

微软打破Decoder-Only架构！大幅降低GPU内存需求，网友：把Llama3 70B弄20GB GPU上运行

微软&清华最新研究，打破GPT系列开创的Decoder-Only架构—— 提出Decoder-Decoder新型架构，名为YOCO（You Only Cache Once）。 YOCO仅缓存一次键值对，可大幅降低GPU内存需求，且保留全局注意力能力。

Decoder-Decoder YOCO 架构

【手把手带你微调 Llama3】改变大模型的自我认知，单卡就能训

微调Llama3的自我认知后当你问Llama3中文问题： “你叫什么名字？”

Llama3 对话问答模型

最强国产开源多模态大模型MiniCPM-V：可识别图片、视频，还可在端侧部署

我们还进一步提升了 MiniCPM-Llama3-V 2.5 的多项亮点能力，并首次支持了 iPad 上的实时视频理解。

minicpm 面壁

如何微调Meta Llama-3 8B

Load Llama3 model 2.

Meta Llama 3 大模型

一键部署本地私人专属知识库，开源免费！可接入GPT-4、Llama 3、Gemma、Kimi等几十种大模型，零代码集成。

这里我们使用最近开源的大语言模型llama3来作为运行本地知识库的大语言模型，到ollama模型列表界面，选中并打开llama3模型界面，在界面最底部找到下载llama3模型的命令，

知识库MaxKB 开源

基于Ollama本地部署谷歌开源Gemma大模型！

Ollama项目地址：https://github.com/ollama/ollama Ollama官网地址：https://ollama.com/ PS：还可以安装通义千问和llama3

ollama gemma qwen

Dify：大模型创业开源工具，46,558 行代码，完全开源

全面的模型支持: 与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成，涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。

Dify 开源工具

星标破万！小钢炮2.6登顶GitHub，Hugging Face TOP3，燃爆开源社区！

与 MiniCPM-Llama3-V 2.5 相比，MiniCPM-V 2.6 性能提升显著，并引入了多图和视频理解的新功能。

MiniCPM-V 2.6 大模型

LLM每周速递！大模型最前沿：多模态RAG、RAG加速、大模型Agent、模型微调/对齐

实验结果显示，在四个RAG基准测试中，经过块微调后，Block-Attention模型的性能与自注意力模型相当（Llama3上为68.4%对67.9%），甚至在某些情况下表现更好（Mistral上为62.8%

大模型研究

<12 >

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2024 AI魔法学院

京ICP备20027199号-1