近年来，随着以OpenAI的ChatGPT和Meta的LLaMA为代表的基于数百万网页数据训练的大型Transformer语言模型的兴起，开放域语言生成领域吸引了越来越多的关注。开放域中的条件语言生成效果令人印象深刻，典型的例子有：GPT2在独角兽话题上的精彩续写和XLNet等。促成这些进展的除了transformer架构的改进和大规模无监督训练数据外，更好的采样策略也发挥了不可或缺的作用。 本文简述了不同的采样策略，同时向读者展示了如何使用流行的transformer库轻松实现这些采样策略！
随着大语言模型能力的增强，传统应用不可避免的需要调用LLM接口，提升应用的智能程度和用户体验，但是一般来说大语言模型的输出都是字符串，除了个别厂商支持JSON Mode，或者使用function call强制大语言模型输出json格式，大部分情况下，还是需要业务放自己去处理JSON格式，下面我来总结一下在解析JSON过程中遇到的一些问题和解决方案。
SERVERLESS能够将应用分为研发域和运维域，使两者独立迭代，降低运维成本，提升研发效率。点淘作为试点项目，经历了包括功能回归、压力测试和监控验证在内的质量保障流程，并在实践中遇到了各种问题，如依赖梳理、性能验证和监控建设等。文章还提到了SERVERLESS带来的部署效率提升，例如应用部署时长显著下降，并展望了未来通过基座插件化和分层自动化来进一步优化测试成本和功能保障。最后，文中列举了SERVERLESS升级带来的部署时间减少的具体案例，展示了实施SERVERLESS架构的收益。
bpftrace是一个内核跟踪工具，简单来说就是在函数上挂个钩子，挂上钩子后就可以将函数的入参和返回值取出来再放入程序进行二次编程，最终能让程序按照我们的意图来对函数进行观测。
我们新推出大淘宝技术年度特刊《学如逆水行舟，不进则退——工程师2023年度成长总结专题》，专题收录10余篇工程师2023真诚心路历程与经验思考，覆盖终端、服务端、技术质量等技术领域，这是他们的心得体会，欢迎同行的你一起沟通交流。本文为该系列第二篇—— 第一篇：《聊聊我做测试开发的十年心路历程》
我们对精简代码做了一些创新尝试，在核心发券系统alsc-pc实践落地，取得不错的效果。希望能给大家带来一点参考价值。
如果看明白了上一篇文章对神经网络和深度学习的介绍，再来逐步深入了解AI相关的概念和原理应该就相对容易了。 希望上一篇文章能给大家一点印象：AI并没有想象中复杂。AI能处理海量信息，但是它并没有人类难以理解、异常复杂的机制。因为只有机制相对简单，消耗的能源才能少，计算的速度才能快，处理的信息才能够多。自然界也一样，如果大脑的机制比现在更复杂一些，估计脑子要烧掉。 废话不多说，上一篇文章我们看到了，最基础的神经网络可以用来识别手写数字；同时也发现如果神经网络“学”的不好，对问题的一般规律没有抽象对，就会出现过拟合，过拟合往往跟数据和模型两个因素有关。本篇文章我们会讲图像识别领域有哪些经验来应对过拟合，也会讲神经网络和深度学习如何扩展到自然语言处理等其它领域。
