大模型之家讯 近日,据媒体报道称,智源研究院开源了一种名为 JudgeLM 的裁判模型,可以高效准确地评判各类大模型。与 GPT-4 相比,JudgeLM 仅需 1/120 的成本,就能达到 90% 以上的评判结果一致性。它可以应用于纯文本、多模态等多种评判场景,并可以输出评分、判断和阐述理由。通过创新方法,JudgeLM 与参考答案的一致性最高超过了 90%,接近人类表现。
JudgeLM 有三个不同参数版本,分别为 70 亿、130 亿和 330 亿参数,能力和表现随着参数规模的增大而提升。此外,智源研究院还开源了一个包含训练和验证样本的数据集,用于深入研究大语言模型裁判。JudgeLM 的评判效率高,成本低于基于 API 的评判方法。