丹凤千字科普：npu gpu cpu区别（详细资料介绍）

去年开始，业界出现了一个新的术语：AI PC。

AI PC指的是那些内置NPU（网络处理单元），能够运行生成式AI应用的PC。目前，AI PC主要指的是笔记本电脑平台。新技术的涌现总是伴随着众多新术语，这一轮AI也不例外。每个笔记本厂商和芯片制造商都在推广一个新的术语：NPU TOPS。

NPU TOPS是NPU的计算能力指标，可能在未来购买笔记本电脑时，会成为我们参考的重要指标之一，就像之前买手机看摄像头像素，买硬盘看MB/s，买CPU看GHz一样。那么，究竟什么是TOPS呢？

TOPS是Tera Operations Per Second的缩写，是计算性能的一种度量单位，表示处理器每秒钟可以进行的操作次数。在深度学习和网络中，TOPS常用于衡量硬件平台的处理能力。它侧重于计算操作的次数，这里的操作主要是指8位整数（INT8）运算。

与GPU的TFLOPS（Tera Floating Point Operations Per Second）不同，TOPS更关注整数运算的性能。NPU是专为AI和机器学习任务而设计的专用硬件加速器，它的作用在于加速AI计算中的网络计算。NPU的出现，使得PC设备能够本地运行AI大模型应用。

在x86平台上，AMD首次为PC带来了NPU。随后，英特尔、高通也相继在自家的CPU中集成了NPU。这些NPU与CPU、GPU协同工作，提供更快速的处理速度。对于芯片厂商而言，TOPS代表了NPU的峰值理论算力，是评估AI性能的重要指标之一。

为什么TOPS如此重要呢？随着芯片厂商在PC芯片中集成了NPU，AI PC得以诞生。NPU的加入，使得AI PC能够更有效率地运行各类生成式AI应用。有了NPU的算力加成，再加上CPU和GPU的协同作用，AI PC具备了强大的端侧力量，能够带来丰富的AI体验。这一点得到了微软的深刻认同。微软联合高通、英特尔等芯片制造商推出了Copilot+PC。Copilot+PC是微软专为AI设计的新型Windows PC，它引入了全新的系统架构，将CPU、GPU和NPU相结合，通过内置的本地大模型和在Azure云端的协同工作，带来了革新的AI应用体验。而微软在推出Copilot+PC时提出的标准便是要达到至少40 TOPS的NPU算力标准才能达到理想的AI体验效果。那些低于此标准的设备将无法完全满足Copilot的需求或与微软的其他某些功能不兼容。至此可见TOPS对于AI PC的重要性可见一斑随着技术的发展如GPU、CPU和专门的图形处理器的发展，它们都能提供更高的速度处理计算能力；因此当购买笔记本电脑或AI PC时除了关注NPU算力之外还需要考虑平台整体算力包括CPU、GPU和所有处理器的总算力在内而另一方面对于那些没有内置NPU但整体算力很高的产品虽然看似强大但由于无法满足微软的Copilot+PC标准因此在AI应用体验上可能无法达到最佳状态总的来说在购买笔记本时我们确实需要关注NPU算力但它仅是考量的一部分全面评估才能找到最适合自己的AI PC接下来我们将继续见证这一领域的飞速发展并期待更多创新和突破性的产品问世。