chatgpt构架逻辑

chatgpt构架逻辑
ChatGPT架构逻辑主要由四个独立的模块组成：输入模块、生成模块、脚本模块和评估模块。

输入模块：该模块负责将输入文本变得易于被读取，可以为模型提供信息。

它会根据文本格式创建计算机可读到的特征，以便被后面的生成模块使用。

生成模块：该模块来自Transformer框架，通过嵌入，Encoder和Decoder 等模型层，用以提取主题语义以及生成下文内容，给出对话中语料的有效表示。

脚本模块：该模块在对话系统中起着至关重要的作用，它能够根据输入的上文及语义，联系上文的状态、分析当前环境，再根据Dialog flow等策略模块来调节下文内容。

评估模块：该模块负责通过多种评估手段，反馈生成模块和脚本模块的性能以及提出改进方案，比如通过自然语言理解（NLU）评估语义正确性，和通过可视化评估策略的准确度等等。