大模型时代,数据为王,在哪里寻找开源数据集?
AI魔法学院
2023-12-18
分享海报

大模型时代,数据为王,在哪里寻找开源数据集?是一个比较头疼的问题。经过调研整理,下面列出目前可以寻找开源大模型数据集网站清单,一网打尽,请您按需使用。

开源数据集网站:

1huggingface.co开源数据集

链接:https://huggingface.co/datasets

镜像:https://hf-mirror.com/datasets

2opendatalab开源数据集

链接:https://opendatalab.com/

3aws亚马逊开源数据集

链接:https://registry.opendata.aws/

4、微软开源数据集

链接:https://www.microsoft.com/en-us/research/tools/

5、谷歌开源数据集

链接:https://datasetsearch.research.google.com/

没有FQ工具,暂时打不开。

6github开源数据集

链接:https://github.com/awesomedata/awesome-public-datasets

7modelscope开源数据集

链接:https://modelscope.cn/datasets

8luge千言开源数据集

链接:https://www.luge.ai/

9tianchi天池开源数据集

链接:https://tianchi.aliyun.com/dataset/

10kaggle开源数据集

链接:https://www.kaggle.com/datasets

11uci开源数据集

链接:https://archive.ics.uci.edu/datasets

12、计算机视觉开源数据集

链接:https://visualdata.io/discovery

13dataju聚数力开源数据集

链接:http://dataju.cn/Dataju/web/home

14hyper超神经开源数据集

链接:https://hyper.ai/datasets

15baai开源数据集

链接:https://data.baai.ac.cn/data

16、百度飞桨开源数据集

链接:https://aistudio.baidu.com/datasetoverview

17payititi帕衣提提开源数据集

链接:https://www.payititi.com/opendatasets/

18、启智开源数据集

链接:https://openi.pcl.ac.cn/explore/datasets

19、和鲸开源数据集

链接:https://www.heywhale.com/home/dataset

希望以上开源数据集网站清单,能对您训练大模型有所帮助,持续关注开源数据集,为持续大模型输送语料。

出自:https://mp.weixin.qq.com/s/ADGg6OCqjFQ-bLE-X-Q9DA

© THE END

转载请联系本网站获得授权

投稿或版权问题请加微信:skillupvip