RTP 系统(即 Rank Service)，是一个面向搜索和推荐的 ranking 需求，支持多种模型的在线 inference 服务。在过去的几年里，我们对于RTP业务的GPU性能优化已经做了不少尝试，包括kernel fusion，CUDA Graph等。在此基础上，今年我们又在RTP上集成了Multi Stream[01]，改变了TensorFlow的单流机制，让多流的执行并行，作为增加GPU并行度的另一种选择。 RTP执行的backend是TensorFlow。TensorFlow作为调度算子的框架应用在推荐业务的推理场景中，对GPU是比较不友好的。这是因为TensorFlow总是倾向于用大量的operator构建一个graph，每个operator在GPU上又会调用一个或者多个kernel；而同时，TensorFlow本身是一个单流模型，在一个进程内只有一个Stream group（包含一个Compute Stream，一个H2D Stream，一个D2H Stream和一个D2D Stream），kernel间的执行很难并行，可以说调度的效率是偏低的。
随着ChatGPT的讨论度愈来愈高，一些爱好者也从中做了许多新的尝试，例如从中构建小的产品闭环，又或者提升自己的工作效率。我自己和两位小伙伴也实操了一个绘本案例，分享给大家，希望大家能从实践中对AIGC有更深的感触和了解~
终端工程方向的兴起十年有余，从最初的各种工具库、框架争相斗艳百舸争流，到 React、VUE 二分天下家族兴旺；从 HTML、CSS、JS 三兄弟 苦苦挣扎，到 Node.js、Typescript、WASM 等横空出世。从 Web、 APP 各自为战，到小程序、Flutter 等混合研发方案杀出重围。终端技术的每一次飞跃都离不开工程能力和研发模式鼎力相助。本话题旨在提升研发效率和质量的创新型技术方法和实践，涵盖：低（无）代码、智能辅助研发、构建工具、编码调试插件和方法、监控和性能度量、自动化测试和发布流程等。
本专题共10篇内容，包含淘宝APP基础链路过去一年在用户体验数据科学领域（包括商详、物流、性能、消息、客服、旅程等）一些探索和实践经验。 在商详页基于用户动线和VOC挖掘用户决策因子带来浏览体验提升；在物流侧洞察用户求助时间与实际物流停滞时长的关系制订表达策略带来物流产品满意度提升；在性能优化域构建主客观关联模型找到启动时长与负向反馈指标的魔法数字以明确优化目标；构建多源VOC标签体系综合运用用户行为和用户VOC洞察、落地体验优化策略，并总结出一套用户体验分析方法论。
阿里商旅作为飞猪旅行旗下面向企业客户的数字化差旅解决方案产品，依托飞猪旅行机票、酒店供应链为企业客户提供一站式的机票、酒店、火车票、用车等预订管控及结算票据服务。阿里商旅不仅是集团欢行的供应商，而且近几年在商业化差旅市场上崭露头角，服务了2万+中大型客户，43万+小微企业。
Koordinator 是一个开源项目，是基于阿里巴巴内部多年容器调度、混部实践经验孵化诞生，是行业首个生产可用、面向大规模场景的开源混部系统，致力于提升应用服务质量，优化资源使用效率。自 2022 年 4 月正式开源以来，吸引了业界众多优秀工程师的贡献参与和讨论。 小红书是 Koordinator 社区的活跃成员，自项目诞生初期就深度参与了一系列重要功能的演进。
仅以此文，分享给那些初入职场仍在“学习与工作”之间徘徊不定的同学，或者是像作者一样已经工作一段时间却陷入迷茫的同学，希望有助于能让诸位重新迈开已经停下的脚步。
随着智能化营销产品和机器学习的发展，阿里妈妈将深度学习和强化学习等AI技术越来越多地应用到广告智能决策领域。本文将以阿里妈妈广告智能决策技术的演进为例，分享我们工作和思考。
