特点 Generative Pre-trained Transformer。OpenAI 提出的生成式预训练 Transformer 模型，采用单向解码器架构，通过无监督预训练 + 有监督微调的两阶段训练范式。 参考资料 Improving Language Understanding by Generative Pre-Training