Intel硬件优化LLM工具,基于DeepSeek模型提升CPU/GPU性能。
硬件加速(如AVX-512),高效推理;优势包括性能提升2-3倍,新手友好与Intel工具链集成。
企业服务器、本地部署、高性能计算
需专业经验
免费
https://github.com/intel/ipex-llm