人工智能

last_hidden_state 、 pooler_output 必定会返回的，而hidden_state是在model设置output_hidden_states=True。Encoder编码器部分占比 0.8316849528014959。embedding层占比 0.16254008305735163。pooler层占比 0.005774964141152439。总共的参数：102267648。

transformers里的AutoTokenizer之返回值token_type_ids

通过ipython进行查看sentiment-analynise依赖的Hugging Face – The AI community building the future.We’re on a journey to advance and democratize artificial intelligence through open source and open science.https://huggingface.co/里的库： 从上面的输出得到了pipeline模式进行预训练所用到的库：dist