CompactifAI Large Model Compression Platform
基于量子启发张量网络的LLM压缩工具,可将模型体积缩减50%以上并保持近100%精度,显著降低推理成本并加快推理速度。
还没有相关资讯——用过它?来写第一篇。