GPU 使用率太低
软件工作原理是:
根据视频中的声音识别出文字,将文字翻译为目标语言,根据目标语言合成配音,再将文字、配音、视频合并为新视频,只有在声音识别文字阶段是重度使用GPU的,而其他阶段不使用GPU或只使用很少的GPU。
GPU vs CPU:原理与不同
想象一下,训练AI大模型就像搬砖。
CPU是那种“全能选手”,一个人能干很多活:计算、逻辑、管理不管多复杂都样样精通,但它核心数量少,最多也就几十个。 它搬砖的速度再快,一次最多也只能搬几个多说几十个,累死累活效率不高。
而GPU呢?它的核心多得吓人,动不动就几千上万个。虽然每个核心只能搬一块砖,但架不住人多啊!几千上万个小弟一起上,砖头哗啦啦就搬完了。
AI训练和推理,核心任务是“矩阵运算”——简单来说,就是一大堆数字排队做加减乘除,就像海量的一堆红砖等着搬,无需脑子有手就能干的简单活。
GPU的“大量核心并行”能力正好派上用场,能同时处理几千几万个小任务,速度比CPU快几十倍甚至上百倍。
CPU呢?它更适合串行复杂任务,比如玩个单机游戏、写个文档,AI这群砖头太多了,它一次几个几十个的搬,累瘫了也追不上GPU。