GPU到底是如何工作的？这篇AI Infra入门全部告诉你

Source : mp.weixin.qq.com

AI 流行的当下，你有没有想过：大模型推理服务到底怎么跑起来的？大模型推理服务的运行过程中，CPU和GPU分别负责哪些工作？用GPU一定比CPU跑的快么？哪些场景需要用GPU?