【AdaSeq基础】30+NER数据汇总 涉及多行业 多模态命名实体识别数据集收集

简介

命名实体识别NER是NLP基础任务，一直以来受到学术界和业界的广泛关注，本文汇总了常见的中英文、多语言、多模态NER数据集介绍。

相关数据详情可以访问链接：

/modelscope/AdaSeq/blob/master/docs/datasets.md

一、中文数据集

首先我们先介绍常用的中文NER数据集，语料来源包括新闻、电商、文娱、医疗、微博、论文文献等。

MSRA命名实体识别数据集

简介：本数据集包括训练集（46364）、测试集（4365），实体类型包括地名(LOC)、人名(NAME)、组织名(ORG)，数据源自新闻领域。

语种：Chinese

"训练集/验证集/测试集"数量: 46364/-/4365

实体类别数量：3

论文：/W06-0115.pdf

下载地址：/dataset/144307

简历命名实体识别数据集

简介：本数据集包括训练集（3821）、验证集（463）、测试集（477），实体类型包括国籍(CONT)、教育背景(EDU)、地名(LOC)、人名(NAME)、组织名(ORG)、专业(PRO)、民族(RACE)、职称(TITLE)，文本比较规范，实体识别模型效果通常F1 90%以上。

语种：Chinese

"训练集/验证集/测试集"数量：3821/463/477

实体类别数量：9

论文：/P18-1144.pdf

下载地址：/dataset/144345

Github: /jiesutd/LatticeLSTM

weibo命名实体识别数据集

简介：本数据集包括训练集（1350）、验证集（269）、测试集（270），实体类型包括地缘政治实体(GPE.NAM)、地名(LOC.NAM)、机构名(ORG.NAM)、人名(PER.NAM)及其对应的代指(以NOM为结尾），数据来自社交媒体平台，表达方式比较灵活。

语种：Chinese

"训练集/验证集/测试集"数量: 1350/269/270

实体类别数量：4

论文：/D15-1064.pdf

下载地址：/dataset/144312

Github: /hltcoe/golden-horse

OntoNotes Release 4.0

简介：OntoNotes Release 4.0 consists of 2.4 million words as follows: 300k words of Arabic newswire 250k words of Chinese newswire, 250k words of Chinese broadcast news, 150k words of Chinese broadcast conversation and 150k words of Chinese web text and 600k words of English newswire, 200k word of English broadcast news, 200k words of English broadcast conversation and 300k words of English web text.

语种：English, Mandarin Chinese, Arabic, Chinese

"训练集/验证集/测试集"数量: 15724/4301/4346

下载地址：https://catalog.ldc.upenn.edu/LDCT03

OntoNotes Release 5.0

简介：OntoNotes Release 5.0 is the final release of the OntoNotes project, a collaborative effort between BBN Technologies, the University of Colorado, the University of Pennsylvania and the University of Southern Californias Information Sciences Institute. The goal of the project was to annotate a large corpus comprising various genres of text (news, conversational telephone speech, weblogs, usenet newsgroups, broadcast, talk shows) in three languages (English, Chinese, and Arabic) with structural information (syntax and predicate argument structure) and shallow semantics (word sense linked to an ontology and coreference).

语种：English

"训练集/验证集/测试集"数量: 59924/8528/8262

论文：/W13-3516.pdf

下载地址：https://catalog.ldc.upenn.edu/LDCT19

CLUENER 中文细粒度命名实体识别

简介：本数据是在清华大学开源的文本分类数据集THUCTC基础上，选出部分数据进行细粒度命名实体标注，原数据来源于Sina News RSS.

语种：Chinese

"训练集/验证集/测试集"数量：10748/1343/1345

实体类别数量：10

论文：/ftp/arxiv/papers/2001/2001.04351.pdf

下载地址：/dataset/144362

GitHub：/CLUEbenchmark/CLUENER

人民日报NER数据集

简介：本NER数据集由人民日报语料库1998版和版生成，包含了人名(PER)、地名(LOC)和机构名(ORG)3类常见的实体类型。

语种：Chinese

实体类别数量：3

下载地址：/InsaneLife/ChineseNLPCorpus/tree/master/NER/renMinRiBao

中文医学命名实体识别数据集CMeEE

简介：中文医学命名实体识别CMeEE，全称为Chinese Medical Entity Extraction dataset，来自于知名的中文医学NLP评测基准CBLUE。数据集包含504种常见的儿科疾病、7,085种身体部位、12,907种临床表现、4,354种医疗程序等九大类医学实体，包含训练集15,000条，验证集5,000条和测试集数据3,000条。 CMeEE包括两个版本：CMeEE和CMeEE-V2（在CMeEE基础上更新了部分标注错误）。 请研究人员到CBLUE项目主页下载：/dataset/95414

语种：Chinese

"训练集/验证集/测试集"数量: 15000/5000/3000

实体类别数量: 9

论文：/.acl-long.544/

下载地址：/dataset/144495

Github: /CBLUEbenchmark/CBLUE

Yidu-S4K：医渡云结构化4K数据集

简介：Yidu-S4K 数据集源自CCKS 评测任务一，即“面向中文电子病历的命名实体识别”的数据集。

语种：Chinese

"训练集/验证集/测试集"数量: 1000/-/379

实体类别数量：6

下载地址：/dataset/144419

Youku NER Dataset / 文娱NER数据集

简介：命名体识别(NER)是一项重要的自然语言处理任务，本数据集提供了文娱领域的NER开放数据集，包括了3大类、9小类实体类别。该数据集由阿里巴巴达摩院和新加坡科技设计大学联合提供。

语种：Chinese

"训练集/验证集/测试集"数量: 8,001/1,000/1,001

实体类别数量: 9

论文：/N19-1079.pdf

下载地址：/dataset/108771

Github: /allanj/ner_incomplete_annotation

E-Commercial NER Dataset / 电商NER数据集

简介：命名体识别(NER)是一项重要的自然语言处理任务，本数据集提供了电商领域的NER开放数据集，包括了4大类、9小类实体类别。该数据集由阿里巴巴达摩院和新加坡科技设计大学联合提供。

语种：Chinese

"训练集/验证集/测试集"数量: 6,000/998/1,000

实体类别数量: 9

论文：/N19-1079.pdf

下载地址：/dataset/108758

Github: /allanj/ner_incomplete_annotation

Chinese-Literature-NER-RE-Dataset

简介：A Discourse-Level Named Entity Recognition and Relation Extraction Dataset for Chinese Literature Text.

语种：Chinese

实体类别数量：7

论文：/pdf/1711.07010.pdf

下载地址：/dataset/144431

GitHub：/lancopku/Chinese-Literature-NER-RE-Dataset

二、英文+多语言数据集

接下来我们介绍常用的英文和其它语种NER数据集，包括多模态NER的数据：

conll2002命名实体识别数据集

简介：CoNLL 2002和CoNLL 应该是NER开发者和研究人员常用的数据集了，分别是包含英语、俄语、西语、法语四种语言。每种语言的数据集涉及人名、地名、组织名和misc四类实体。

语种：Spanish, Dutch

实体类别数量：4

论文：/W02-2024.pdf

下载地址：ts.ua.ac.be/conll2002/ner/

conll命名实体识别数据集

简介：同上。

语种：English、German

实体类别数量：4

论文：/W03-0419.pdf

下载地址：https://www.clips.uantwerpen.be/conll/ner/

wnut16命名实体识别数据集

简介：本数据集包括训练集（2394）、验证集（1000）、测试集（3850），实体类型包括company、facility、loc、movie、musicartist、other、person、product、sportsteam、tvshow。

语种：English

"训练集/验证集/测试集"数量：2394/1000/3850

实体类别数量: 10

论文：/W16-3919.pdf

下载地址：/dataset/144348

wnut17命名实体识别数据集

简介：本数据集包括训练集（3394）、验证集（1009）、测试集（1287），实体类型包括corporation、creative-work、group、location、person、product。

语种：English

"训练集/验证集/测试集"数量：3394/1009/1287

实体类别数量：6

论文：/W17-4418.pdf

下载地址：/dataset/144349

conllpp命名实体识别数据集

简介：本数据集包括训练集（14041）、验证集（3250）、测试集（3453），实体类型包括地点(LOC)、混合(MISC)、组织(ORG)、人名(PER)。conllpp数据集是conll数据集的修复版本。

语种：English

"训练集/验证集/测试集"数量: 14041/3250/3453

实体类别数量：4

论文：/D19-1519.pdf

下载地址：/dataset/144414

Github: /ZihanWangKi/CrossWeigh

CrossNER命名实体识别数据集

简介：CrossNER数据集是面向多个不同领域（文学、政治、音乐、科学、人工智能）的英文命名实体识别数据集，主要作为低资源NER的练兵场。

语种：English

论文：/index.php/AAAI/article/view/17587/17394

下载地址：/dataset/144418

Github: /zliucr/CrossNER

BioCreative V CDR task corpus

简介：The BioCreative V CDR task corpus is manually annotated for chemicals, diseases and chemical-induced disease (CID) relations. It contains the titles and abstracts of 1500 PubMed articles and is split into equally sized train, validation and test sets.

语种：English

"训练集/验证集/测试集"数量：4560/4581/4797

实体类别数量：2

论文：https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4860626/

下载地址：https://biocreative.bioinformatics.udel.edu/tasks/biocreative-v/track-3-cdr/

NCBI disease corpus

简介：The NCBI disease corpus is fully annotated at the mention and concept level to serve as a research resource for the biomedical natural language processing community.

语种：English

"训练集/验证集/测试集"数量：5424/923/940

实体类别数量：1

论文：https://pubmed.ncbi.nlm.nih.gov/24393765/

下载地址： https://www.ncbi.nlm.nih.gov/CBBresearch/Dogan/DISEASE/

MIT-Movie命名实体识别数据集

简介：The MIT Movie Corpus is a semantically tagged training and test corpus in BIO format in the movie domain.

语种：English, Chinese

"训练集/验证集/测试集"数量：6816/1000/1953

实体类别数量: 12

论文：https://groups.csail.mit.edu/sls/publications//Liu_ICASSP-.pdf

下载地址：/dataset/145106

MIT-Restaurant命名实体识别数据集

简介：MIT Restaurant Corpus 是餐厅领域中 BIO 格式的实体识别语料库。

语种：English, Chinese

"训练集/验证集/测试集"数量：6900/760/1521

实体类别数量: 9

论文：https://groups.csail.mit.edu/sls/publications//Liu_ICASSP-.pdf

下载地址：/dataset/145105

ACE Multilingual Training Corpus

简介：This corpus represents the complete set of English, Arabic, and Chinese training data for the Automatic Content Extraction (ACE) technology evaluation created by LDC with support from the ACE Program and additional assistance from the DARPA TIDES (Translingual Information Detection, Extraction and Summarization) Program. This data was previously distributed as an e-corpus (LDCE17) to participants in the ACE evaluation.

语种：English，Arabic, and Chinese

论文：http://www.lrec-/proceedings/lrec/pdf/5.pdf

下载地址：https://catalog.ldc.upenn.edu/LDCT09

ACE Multilingual Training Corpus

简介：ACE Multilingual Training Corpus was developed by the Linguistic Data Consortium (LDC) and contains approximately 1,800 files of mixed genre text in English, Arabic, and Chinese annotated for entities, relations, and events. This represents the complete set of training data in those languages for the Automatic Content Extraction (ACE) technology evaluation. The genres include newswire, broadcast news, broadcast conversation, weblog, discussion forums, and conversational telephone speech. The data was annotated by LDC with support from the ACE Program and additional assistance from LDC.

语种：English，Arabic, and Chinese

下载地址：https://catalog.ldc.upenn.edu/LDCT06

KBP命名实体识别数据集

简介：The Entity Discovery and Linking (EDL) track aims to extract entity mentions from a source collection of textual documents in multiple languages, and link them to a reference knowledge base; an EDL system is also required to cluster mentions for those entities that don't have corresponding KB entries.

语种：English

实体类别数量: 5

论文：https://tac.nist.gov/publications//additional.papers/TAC.KBP_Entity_Discovery_and_Linking_overview.proceedings.pdf

下载地址：https://catalog.ldc.upenn.edu/LDCT19

任务官网：https://tac.nist.gov//KBP/

JNLPBA生物命名体识别数据集

简介：The BioNLP / JNLPBA Shared Task involves the identification and classification of technical terms referring to concepts of interest to biologists in the domain of molecular biology. The task was organized by GENIA Project based on the annotations of the GENIA Term corpus (version 3.02).

语种：English

"训练集/验证集/测试集"数量: 2000/-/404

实体类别数量: 5

论文：/doi/10.5555/1567594.1567610

下载地址：/dataset/144943

Few-NERD

简介：Few-NERD是一个大规模，多粒度的人工标注命名实体识别（Named Entity Recognition, NER）数据集，包含了8个大类，66个小类，18万余个句子，49余万个实体。本数据集包括3个任务，分别为标准监督NER（Few-NERD (SUP)），跨大类Few-shot NER（Few-NERD (INTRA)）和不跨大类的Few-shot NER （Few-NERD (INTER)）。Few-NERD由清华大学和阿里巴巴的研究者构建而成。

语种：English

"训练集/验证集/测试集"数量：131767/18824/37548

实体类别数量: 8 / 66

论文：/.acl-long.248.pdf

下载地址：/dataset/102048

Github: /thunlp/Few-NERD

Financial NER Dataset

简介：The dataset is generated using CoNll data and financial documents obtained from U.S. Security and Exchange Commission (SEC) filings.

语种：English

"训练集/验证集/测试集"数量: (Document level) 5/-/3

实体类别数量: 4

论文：/U15-1010/

下载地址：/dataset/145092

Broad Twitter Corpus (BTC)

简介：The Broad Twitter Corpus is a named entity-annotated dataset of tweets, collected in order to capture temporal, spatial and social diversity. Its annotations have high agreement and quality, and it has about 12000 entity annotations, of types Person, Location and Organization.

语种：English

"训练集/验证集/测试集"数量：6338/1001/2000

实体类别数量：3

论文：/C16-1111.pdf

下载地址：/dataset/145001

Github: /GateNLP/broad_twitter_corpus

Temporal Twitter Corpus (TTC)

简介：It includes 12,000 tweets annotated for the named entity recognition task. The tweets are uniformly distributed over the years -, with 2,000 tweets from each year. The goal is to have a temporally diverse corpus to account for data drift over time when building NER models.

语种：English

"训练集/验证集/测试集"数量: 10000/500/1500

实体类别数量: 3

论文：/.acl-main.680.pdf

下载地址：/dataset/144438

GitHub：/shrutirij/temporal-twitter-corpus

Tweebank-NER

简介：Social media data such as Twitter messages (“tweets”) pose a particular challenge to NLP systems because of their short, noisy, and colloquial nature. The Tweebank-NER is an English NER corpus based on Tweebank V2 (TB2).

语种：English

"训练集/验证集/测试集"数量: 1,639/710/1,201

实体类别数量：4

论文：/.lrec-1.780.pdf

下载地址：/dataset/145049

Github：/mit-ccc/TweebankNLP

TweetNER7

简介：TweetNER7 is a NER dataset on Twitter with 7 entity labels annotated over 11,382 tweets from September to August .

语种：English

实体类别数量: 7

论文：/.aacl-main.25.pdf

下载地址：/dataset/145052

HuggingFace： https://huggingface.co/datasets/tner/tweetner7/tree/main/dataset

三、多模态NER数据集

接下来我们介绍常用多模态NER的数据：

Multimodal Twitter-15 NER Dataset

简介：来自社交媒体领域的多模态NER数据集，内容来自推文及其图片。

语种：English

"训练集/验证集/测试集"数量: 4000/1000/3257

实体类别数量：4

论文：/index.php/AAAI/article/view/11962/11821

下载地址：/dataset/145058

GitHub：/jinlanfu/NERmultimodal

Multimodal Twitter-17 NER Dataset

简介：与上面类似，来自社交媒体领域的多模态NER数据集，内容来自推文及其图片。多模态NER的论文通常会在这两个数据集上进行实验。

语种：English

"训练集/验证集/测试集"数量: 4000/1000/3257

实体类别数量：4

论文：/.acl-main.306.pdf

下载地址：/jefferyYu/UMT

GitHub：/jefferyYu/UMT

Multimodal SNAP NER Dataset

简介：SNAP的多模态NER数据，实体类型分别是人名、地名、组织名和misc。

语种：English

实体类别数量：4

论文：/P18-1185.pdf

下载地址：/jefferyYu/UMT

GitHub：/jefferyYu/UMT

WikiDiverse Dataset

简介：是一个多模态实体识别和实体链接数据集。这一数据集是基于多个角度的考虑：首先，综合参考现有的实体链接数据集、分析图文匹配程度、实体消歧难度等信息，采用WikiNews的“图片-标题”对作为原始数据，将Wikipedia作为对应的知识图谱。其次，我们采集了体育、政治、娱乐、灾难、科技、犯罪、经济、教育、健康、天气主题的图文对，并进行了质量低下、色情、暴恐信息的清洗，对图片类型进行了归一化（因为部分图片为gif等格式），从而保证数据的高覆盖性和质量。最后，引入了众包标注平台进行数据标注，在此过程中设计了详细的标注规范，特别地，我们关注人物、组织、地点、国家、事件、作品（包含图书、画作等）、其他等多个实体类型。

语种：English

"训练集/验证集/测试集"数量: 6312/755/757

论文：/.acl-long.328.pdf

下载地址：/dataset/145103

GitHub：/wangxw5/wikidiverse

四、 多语言NER数据集

接下来我们介绍常用的多语种NER的数据：

MultiCoNER Dataset

简介：MultiCoNER 是用于命名实体识别的大型多语言数据集（11 种语言）。它旨在代表 NER 中的一些当代挑战，包括低上下文场景（短文本和无大小写文本）、句法复杂的实体（如电影片名）和长尾实体分布。

语种： Bangla、 Chinese、Dutch、English、Farsi、German、Hindi、Korean、Russian、Spanish、Turkish.

实体类别数量：6

论文：/.coling-1.334/

下载地址：/dataset/145100

任务官网：https://multiconer.github.io/multiconer_1/

命名实体识别数据集汇总列表

致谢

本列表由达摩院NLP团队和天池数据科学团队长期维护，相关数据可以通过序列理解统一框架AdaSeq进行模型训练。

/modelscope/AdaSeq/blob/master/README_zh.md

如果觉得《【AdaSeq基础】30+NER数据汇总 涉及多行业 多模态命名实体识别数据集收集》对你有帮助，请点赞、收藏，并留下你的观点哦！