本文系统性地介绍了GPU的工作原理及其在AI基础设施中的核心作用。文章从GPU的历史演进切入，阐述其从图形处理器到通用计算（GPGPU）的转型过程，重点解析CUDA编程模型、CPU/GPU异构架构协作机制，并通过10亿级数组加法的性能对比实验直观展示GPU的并行优势。算是个人的一个学习总结，由于非算法背景，可能会有很多地方说的不正确，有任何问题都欢迎指正。
AI 流行的当下，你有没有想过： 大模型推理服务到底怎么跑起来的？大模型推理服务的运行过程中，CPU和GPU分别负责哪些工作？用GPU一定比CPU跑的快么？哪些场景需要用GPU?
随着大模型（Large Language Models, 以下简称LLM）迅猛发展的浪潮中，幻觉（Hallucination）问题逐渐成为业界和学术界关注的焦点。所谓模型幻觉，指的是模型在生成内容时产生与事实不符、虚构或误导性的信息。比如，当你询问“世界上最长的河流是哪条？”模型可能一本正经地回答：“是亚马逊河，位于非洲”，而实际上亚马逊河在南美洲，同时也并不是最长的河流。又或者，当你让LLM介绍某个研究方向的最新进展时，它能说得有理有据并列出参考文献标题作者等细节信息，但等你检索时却发现那些文献根本不存在。这些都是幻觉问题在现实中的典型表现。随着LLM被广泛应用于搜索、问答、医疗、金融等关键领域，这种“一本正经胡说八道”的回答不仅影响用户体验，也可能带来严重的实际风险。因此，如何识别、抑制甚至消除幻觉，已经成为亟待解决的重要课题。
本文基于一个公共云大客户的实际项目案例，探讨了如何通过AI大模型结合机器学习算法，构建一套智能化的投资预算预测与分配系统。
TaoAvatar 是由阿里巴巴淘天 Meta 技术团队研发的 3D 真人数字人技术，这一技术能在手机或 XR 设备上实现 3D 数字人的实时渲染以及 AI 对话的强大功能，为用户带来逼真的虚拟交互体验。 它是如何实现的呢？本文将为您揭秘 TaoAvatar 背后的黑科技！同时我们正式宣布开源了 3D 真人数字人应用：MNN-TaoAvatar！目前应用源码已同步发布在 MNN 的 GitHub 仓库，开发者可自行下载安装和体验，欢迎大家和我们一起交流讨论，共同探索 AI 数字人技术的无限可能。
云存储 NAS 产品是一个可共享访问、弹性扩展、高可靠、高性能的分布式文件系统。 NAS 兼容了 POSIX 文件接口，可支持数千台计算节点共享访问，可挂载到弹性计算 ECS、容器实例等计算业务上，提供高性能的共享存储服务。鉴于多主机间共享的便利性和高性能， NAS 在得物的算法训练、应用构建等场景中均成为了基础支撑。
阿里集团安全部正在积极探索如何打造由多智能体组成的虚拟网络安全专家，以在工作中发挥创造性的积极作用。作为算法团队的一员，首先需要调研多种不同的MAS（多智能体系统）的协作方式，并验证其能否快速实现。在这个过程中发现，现有的AI workflow类型产品的功能比预想的更加广泛，因此希望通过这篇文章记录并分享一些思考的内容。“xxxx is all you need” 是我很喜欢的一个标题格式，它能够很旗帜鲜明地表达个人观点。这里的workflow不是指固定编排的系统设计模式，而是AI workflow产品（甚至特指有图形化画布编排的产品），例如百炼应用、Dify、扣子等等。
自1965年戈登·摩尔提出摩尔定律以来，半导体行业持续推动芯片技术的革新，IDC（互联网数据中心）为平衡成本效益和多样化需求，逐渐形成了包含Intel、AMD、ARM等多种架构的混合部署模式。早期IDC往往通过小集群分别管理，这种方式虽然简单，但随着硬件代际和架构的增多，资源隔离问题日益凸显，不同集群间的计算资源无法共享，导致资源利用困难、运营成本上升。为解决这一问题，业界开始采用资源合池技术。该技术通过虚拟化、容器化和智能调度系统，将不同架构、不同代次的硬件资源抽象成统一的资源池，打破物理集群的界限，实现计算、存储和网络资源的全局共享。这种方式不仅提高了资源利用率，还降低了管理复杂度，使IDC能够更灵活地应对动态负载，支持弹性扩展，最大化数据中心的整体计算能力。
本专题是我们打造智能数字人的部分实践总结。我们将探讨六大核心环节：LLM文案生产赋予数字人思考和内容生成能力，如同其“大脑”；LLM互动能力则聚焦对话逻辑与拟人化交流，是实现自然交互的关键；TTS（语音合成）技术负责将文字转化为富含情感、个性化的“声音”；形象驱动技术让语音与表情、口型、肢体动作精准同步，塑造逼真视觉形象；音视频工程解决实时渲染、低延迟传输与高质量画面输出的技术挑战；最后，服务端工程构建稳定、弹性、高并发的后端支撑平台，确保数字人服务高效稳定运行。欢迎大家一起交流进步。
