大模型之家讯 7月19日,科大讯飞正式推出星火 Token Factory,定位为企业级 AI 模型智能路由与治理平台。该平台基于 Prompt 长短、规则预置等多维度特征对任务进行智能分级,综合考虑质量、成本、延迟、可用性、安全五个因子匹配最优模型资源,决策延迟可控制在 100 毫秒以内。平台还提供推理引擎优化,相较开源框架推理效率提升约 5 倍,并内置三权分立安全体系与全链路审计日志。
大模型之家讯 7月19日,科大讯飞正式推出星火 Token Factory,定位为企业级 AI 模型智能路由与治理平台。该平台基于 Prompt 长短、规则预置等多维度特征对任务进行智能分级,综合考虑质量、成本、延迟、可用性、安全五个因子匹配最优模型资源,决策延迟可控制在 100 毫秒以内。平台还提供推理引擎优化,相较开源框架推理效率提升约 5 倍,并内置三权分立安全体系与全链路审计日志。