为什么后训练没有像预训练那样的数据公地

预训练依赖 Common Crawl、Wikipedia、ArXiv 等数字知识公地，GPT-3 约 60% 训练数据来自 Common Crawl 衍生数据；后训练消耗的是任务而非文档，不存在现成的任务公地。软件工程因版本控制、容器等确定性基础设施成为智能体 AI 最先落地的领域，但开源软件公地能否转化为后训练任务仍待解决。