大模型之家讯 9月22日，上海人工智能实验室与上海交通大学人工智能学院 LUMIA 实验室团队提出新的预训练任务\u201c下一概念预测\u201d（NCP），并发布全球首个 8.9B 规模离散隐空间基座模型 NCP-ArchPreview。该模型在 5.73T Dolma-3 数据上预训练，仅使用 51.3% 的 Token 预算即追平 OLMo-3-7B 的最终预训练 Loss，收敛速度提升 1.95 倍、计算帕累托效率提升 1.74 倍；下游任务平均超出 2.45 分，GSM8K 数学推理提升近 6 分。团队还发现，仅微调 17M 隐空间参数即可超越 LoRA，且无灾难性遗忘，训练吞吐提升同时显存占用下降。
