登录/注册购买服务

搜索

  • OpenAI 使用的大规模语言模型构建流程

    OpenAI 使用的大规模语言模型构建流程

    发布时间：2024-10-28

    根据OpenAI 联合创始人Andrej Karpathy在微软Build 2023大会上所公开的信息，OpenAI所使用的大规模语言模型构建流程如下图所示。主要包含四个阶段：预训练、有监督微调、奖励建模、强化学习。这四个阶段都需要不同规模数据集合以及不同类型的算法，会产出不同类型的模型，同时所需要的资源也有非常大的差别。

    下载原图
    相关报告：《2024-2029年中国大模型产业发展前景与投资战略规划分析报告》

相关图表推荐