Follow
今年随着 AIGC 行业爆火，让全球各个头部科技企业争相入局。然而，AI 大模型风光无限的背后是成本极其高昂，单次预训练成本或高达上千万元。
基于 LLaMA 等现有开源大模型的微调，也难以满足企业打造核心竞争力和多样化商业使用等需求。
为此，作为全球最大、最活跃的大模型开发工具与社区 Colossal-AI，以当前被最广泛使用的 LLaMA 为例，提供了开箱即用的 650 亿参数预训练方案，将训练速度提升至 38%，为大模型企业节省了大量成本！
GitHub: https://github.com/hpcaitech/ColossalAI
该方案仅需 32 张 A100/A800 即可使用，并且不限制商业使用。项目搭配了丰富的中文教程，让开发者能够更快的上手。
目前，该项目已在 GitHub 开源，大家可以学习一下。
