Large-scale Self-supervised Pre-training Across Tasks, Languages, and Modalities

Open Source Pre-training Model Framework in PyTorch & Pre-trained Model Zoo

pytorch实现 Bert 做seq2seq任务，使用unilm方案,现在也可以做自动摘要，文本分类，情感分析，NER，词性标注等任务,支持t5模型，支持GPT2进行文章续写。

Tencent Pre-training framework in PyTorch & Pre-trained Model Zoo

Unilm for Chinese Chitchat Robot.基于Unilm模型的夸夸式闲聊机器人项目。

天池阿里灵杰问天引擎电商搜索算法赛非官方 baseline，又名 NLP 从入门到 22/2771。

code for the paper "UniKeyphrase: A Unified Extraction and Generation Framework for Keyphrase Prediction"

利用BERT预训练模型进行文本生成，可用于对话、摘要、问题生成等任务。 目前支持策略，词表的插入和删除、自定义Character Embedding、随机词替换等

2020 AI研习社 知乎文本摘要

Using Unilm-Chinese to generate Chinese couplets. 使用unilm中文版来生成中文对联。