Ipex Llm

项目简介

Intel硬件优化LLM工具，基于DeepSeek模型提升CPU/GPU性能。

项目优势

硬件加速（如AVX-512），高效推理；优势包括性能提升2-3倍，新手友好与Intel工具链集成。

使用场景

企业服务器、本地部署、高性能计算

上手难度

需专业经验

是否免费

免费

项目地址

https://github.com/intel/ipex-llm