Fujitsu研发AI模型轻量化技术

富士通开发生成式AI重构技术,通过1位量化实现内存消耗降低94%,推理速度提升3倍,使大模型能在低端GPU上运行,推动边缘AI部署。

上一篇:

下一篇: