一、通常耗费 GPU 的算法
想象 GPU 是一个有很多小工人同时干活的工厂。像训练很厉害的图像识别网络、处理复杂的图形渲染以及处理大量数据的时候，就好比有很多相似的任务可以同时进行。比如，图像识别的时候要对很多像素点同时做计算，这就很适合让 GPU 这个工厂里的小工人们一起干，所以这些算法耗费 GPU。
- 大规模数据并行计算：当你需要处理大量数据且这些数据可以被并行处理时，深度学习中的大规模神经网络训练，例如深度卷积神经网络（CNN）用于图像识别、循环神经网络（RNN）和长短期记忆网络（LSTM）用于自然语言处理等。这些算法涉及大量的矩阵运算和并行计算，非常适合 GPU 强大的并行计算能力。
- 图形渲染相关的算法，如光线追踪、实时渲染等。这些算法需要处理大量的图形数据和复杂的计算，GPU 的并行架构能够高效地完成这些任务。
- 大规模数据分析和处理中的某些算法，例如基于 GPU 的并行数据挖掘算法、大规模矩阵运算等，当数据量非常大时，GPU 可以显著提高计算速度。
二、通常耗费 CPU 的算法
CPU 更像是一个聪明的指挥官。对于那些需要仔细思考、做很多判断和复杂逻辑推理的事情，比如专家系统要根据各种规则来判断情况，就像指挥官要考虑很多不同的情况做出决策，这时候 CPU 更在行。还有一些很精确的数学计算，以及处理复杂的数据结构操作，CPU 能更好地处理这些细致的任务，所以这些算法耗费 CPU。
- 复杂的逻辑推理算法，如基于规则的专家系统、复杂的决策树算法等。这些算法通常需要进行大量的条件判断和逻辑推理，CPU 的控制能力和复杂指令集更适合处理这类任务。
- 一些传统的数值计算算法，如高精度的数值积分、复杂的数学优化算法等，在数据规模不是特别大的情况下，CPU 可能更适合进行这些精确的计算。
- 某些数据结构复杂、操作频繁的算法，如复杂的链表、树等数据结构的操作算法，CPU 可以更灵活地处理这些复杂的数据结构和操作。
需要注意的是，这并不是绝对的划分，很多算法可以通过合理的设计和优化在 GPU 和 CPU 上都能高效运行，而且现代计算系统也越来越多地采用混合计算架构，根据不同算法的特点和需求在 GPU 和 CPU 之间进行任务分配，以实现最佳的性能。