创企Hailo发布边缘侧生成式AI芯片Hailo-10

大模型之家讯 今日,以色列芯片制造商Hailo宣布扩大C轮融资,获得1.2亿美元的追加资金。同时,Hailo宣布推出高性能边缘侧生成式AI芯片Hailo-10,使用户可以在本地拥有和运行生成式AI应用程序,而无需采用云服务。据介绍,在主流生成式AI平台上,Hailo-10可以在低于5W的功率下以每秒高10个Token的速度运行Llama2-7B;在运行文生图模型Stable Diffusion 2.1时,Hailo-10在相同的低功耗范围内每张图像的额定生成速度不到5秒。

上一篇:

下一篇:

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注