ymcui/Chinese-BERT-wwm：基于全词掩码的中文BERT预训练模型

RasaNLU for Chinese是从RasaHQ/rasa_nlu派生出来的项目。它主要功能是将中文自然语言转化为结构化数据。在使用时需要特定文件，如data/total_word_feature_extractor_zh.dat，该文件由MITIE wordreptools从中文语料库训练得到且训练耗时2 - 3天，并且要先对中文语料库标记化再用于训练，与用户案例匹配的封闭域语料库效果佳，还能从中文维基百科转储和百度百科下载已训练模型，使用时需安装、配置、训练模型并运行服务器等一系列操作。

liuhuanyong/liuhuanyong.github.io是一个丰富的面向中文自然语言处理的学习资源。它包含了六十余类实践项目及学习索引，像语言资源构建、社会计算、自然语言处理组件等多个学习主题都有涵盖。并且还包含作者的个人简介、学习心得等内容，还有语言资源以及工业落地系统等方面的内容。这是一个专门为自然语言处理入门学习者打造的较为全面的学习资源，能够让学习者在这个平台上获取多方面的知识，对中文自然语言处理领域有一个较为全面的初步认识，方便学习者在这个基础上进一步深入学习该领域的知识。

brightmart/albert_zh是一个基于TensorFlow实现的ALiteBertForSelf - SupervisedLearningLanguageRepresentations项目。提供多种版本的中文ALBERT预训练模型，包括不同参数规模和性能特点的模型。项目涵盖预训练、下游任务微调的代码示例，还有如转换为TensorflowLite格式进行移动端部署的操作及性能测试等内容。详细展示了ALBERT模型对BERT的改进之处，如词嵌入向量参数因式分解、跨层参数共享、段落连续性任务等改进方式。这对于自然语言处理研究和应用开发有很大的参考价值。

CLUE是一个中文语言理解测评基准项目，包含数据集、基准（预训练）模型、语料库和排行榜等重要部分。其数据集涵盖多种任务类型，如语义相似度、新闻分类、自然语言推理等，且具有不同的数据量和任务难度。预训练模型包含BERT、ALBERT、RoBERTa等常见技术，在不同数据集上有着不同的参数设置。项目还给出了各模型在不同任务上的实践结果，为中文自然语言处理提供了全面的参考，无论是模型开发还是应用开发都极具价值。

PaddleHub是一个基于PaddlePaddle的预训练模型工具包。它包含400多个模型，涵盖图像、文本、音频、视频和跨模态等多个领域，具有容易推理和服务的特点。支持多种平台，如Linux、Windows和MacOS。其模型丰富，涉及计算机视觉、自然语言处理、语音、视频和跨模态等领域，使用简单，仅需3行代码即可对400多个AI模型进行预测，还能一行命令提供模型服务。并且该项目一直在更新，2022年8月19日发布v2.3.0版本，支持ERNIE - ViLG等，2月18日将模型发布到HuggingFace PaddlePaddle Space。所有模型开源免费，欢迎关注并加入官方群交流。

ymcui/Chinese - XLNet项目由哈工大讯飞联合实验室推出，提供了面向中文的XLNet预训练模型，包含模型下载相关信息，如不同参数的XLNet - mid和XLNet - base模型在Google和百度网盘的下载方式等，且在多个任务如简体中文阅读理解、繁体中文阅读理解、情感分类任务上对比了多种模型的基线系统效果，还详细阐述了预训练细节以及下游任务微调细节等内容，是一个对中文自然语言处理研究有重要参考价值的项目。