无法与业务耦合的开发工程师，职业发展往往更易触碰到天花板。只有在经历过快速迭代的业务需求锤炼、海量用户规模场景的“拷打”以后，工程师才能向架构师甚至更高的技术岗位进阶。
在1月24日举办的腾讯科技向善创新节2024“大模型安全与伦理专题论坛”上，腾讯发布了大模型安全白皮书《大模型安全与伦理研究报告2024：以负责任AI引领大模型创新》，并邀请业界专家进行圆桌研讨。 白皮书由腾讯朱雀实验室、腾讯研究院、腾讯混元大模型、清华大学深圳国际研究生院、浙江大学区块链与数据安全全国重点实验室联合研究撰写，对大模型发展中的安全机遇与挑战、大模型安全框架和实践做法、AI伦理和价值对齐进行了系统性梳理，并展望了大模型安全与伦理未来趋势。
4年前在《AutoDiff理解》 之第一篇“自动求导技术在深度学习中的应用”[1]中打算写一个关于autodiff的系列文章，因为工作和学习上比较忙碌（Lan Duo :P），就一直拖到了现在。刚好最近又在学习OPEN MLSYS[2]，借此机会将静态图中的autodiff笔记也一并写完吧。如有谬误请联系指出。
GC 全称 Garbage Collection，垃圾收集，是一种自动管理堆内存的机制，负责管理堆内存上对象的释放。在没有 GC 时，需要开发者手动管理内存，想要保证完全正确的管理内存需要开发者花费相当大的精力。所以为了让程序员把更多的精力集中在实际问题上，GC 诞生了。Dart 作为 Flutter 的主要编程语言，在内存管理上也使用了 GC。 而在 Pink（仓储作业系统）的线上稳定性问题中，有一个和 GC 相关的疑难杂症，问题堆栈发生在 GC 标记过程，但是导致问题的根源并不在这里，因为 GC 流程相当复杂，无法确定问题到底出在哪个环节。于是，就对 DartVM 的 GC 流程进行了一次完整的梳理，从 GC 整个流程逐步排查。
本文主要以一个Java工程师视角，阐述如何从零(无任何二三方依赖)构建一个极简(麻雀虽小五脏俱全)现代深度学习框架（类比AI的操作系统）。
LoRA(Low-rank Adapter)在大模型（如GPT-3，LLama, Qwen等）中，是一种重要的微调技术。该技术通过在不改变预训练模型参数的同时，添加低阶矩阵，学习新的、特定于任务的参数。这种微调方式不仅维持了模型的高效性能，也显著提升了模型训练和部署的效率。然而当对base model进行规模化多任务微调时，相关部署成本可能会显著增加。基于实际应用场景，成本和效率考虑，我们在RTP-LLM框架上实现了两种LoRA方法：静态LoRA和动态LoRA。
