随着深度学习和自然语言处理技术的不断进步， Retrieval-Augmented Generation（RAG）作为一种新兴的技术， 越来越受到关注。RAG技术通过将检索和生成方法相结合， 显著提升了生成任务的效果。本文将深入探讨RAG技术的应用， 并与大语言模型（LLM）直接推理进行对比， 阐述如何使用Chinese-CLIP作为向量模型，结合chunking技术和Redis Search向量存储引擎，实现检索增强生成的实战应用。
为了高效地发现、定位和解决预发问题，闲鱼团队研发了一套异常日志问题自动追踪-定位-分发机制。这套机制通过自动化手段，实现了异常日志的定时扫描、精准定位和自动分发，显著降低了开发和测试的成本，提高了问题解决的效率。
在程序员的日常工作中，解决技术问题往往是最后要做的事情，而在此之前总是要面临诸多跨服聊天的无效沟通：你这个文档怎么没更新？变更了我怎么不知道？这乱七八糟的错误码都是啥意思？我们拉个会对齐一下？
大型语言模型（LLMs）正在重塑人工智能领域，使系统能够以极高的流畅度理解和生成人类语言。这些模型支持了从聊天机器人等对话代理到内容创作工具以及自动化数据分析等各种应用。LLMs 凭借其在多种语言任务上的高准确性，已成为许多现代 AI 应用的核心。 然而，在大规模部署 LLMs 时也面临一系列独特的挑战。当企业尝试将 LLMs 集成到生产环境中时，会遇到如管理多种模型、确保性能一致性以及控制成本等问题。尤其是在处理不同规模、架构和功能的模型时，这些复杂性让部署过程变得更加困难。 LLM Gateway 就是在这种背景下应运而生的。它作为一个集中式平台，简化并优化了 LLM 的集成、管理和部署流程。通过 LLM Gateway，开发者可以高效地协调 LLM 请求、在不同模型之间分配流量，并实时监控性能——这一切都集中在一个平台上。通过解决操作复杂性，Gateway 使开发者能够专注于构建和扩展 AI 应用，而不被技术挑战拖累。 在这篇博客中，我们将探讨 LLM Gateway 的概念、为什么 AI 开发者需要它，以及它如何简化大规模部署 LLMs 的过程。
从2020年《全球数据安全倡议》作出尊重各国数据主权的郑重承诺，到2024年《全球数据跨境流动合作倡议》明确提出加快数据领域国际合作，推动以数据流动为牵引的新型全球化，我国在数据跨境流动议题上的立场行动日益清晰。
本文将深入探讨 PolarDB-X 列存查询引擎的分层缓存解决方案，以及其在优化 ORC 列存查询性能中的关键作用。
在犹他州盐湖城举办的北美Kubecon大会上，云原生计算基金会（CNCF®）于2024年11月14日发布了2024年最新的CNCF技术景观雷达报告。该报告深入评估了生态系统中多集群应用管理以及批处理、AI和ML计算技术的生产就绪状态。 CNCF技术景观雷达通过调查300多名使用云原生技术的专业开发者以及CNCF最终用户社区的成员，收集了他们在多集群应用管理以及批处理、AI和ML技术方面的实际使用经验。这些反馈代表了云原生最终用户最关心的实际问题。 报告根据各项技术的生产使用准备情况进行评估，并将它们分为四个类别：采用、试验、评估和保留。其中，“采用”类别包括成熟度最高、用户广泛认可的技术。特别值得注意的是，批处理、AI和大数据领域的相关项目，Apache Airflow、CNCF的CubeFS、Kubeflow和Fluid，这四个技术因其在基于Kubernetes的云原生AI体系中的应用而备受关注，成为业界技术选择的风向标。
本文将详细阐述 腾讯云 AI 代码助手的历史发展形态与产品整体架构，并从技术、研发方法论的角度分别阐述了产品的研发过程。
在《醍醐灌顶！异地多活架构设计看这篇就够了》一文中，基于容灾需要，讨论了数据写入的架构模型。数据读取方面，重点在于解决读取请求的负载分担、路由选择的问题，对于容灾架构的选择影响不大。不过，其中的“写后立即读”场景，是个一致性范畴的问题，即写入的数据和写入后读到的数据是否一致的问题，本文不展开讨论各种一致性模型，只关注“写后立即读”的要求是数据写入后短时间内到来的读请求能够读取到最新写入的值这一具体问题，这是互联网应用中数据读取中比较独特和典型的场景，值得深入探讨，本文尝试分析一下这个问题的细节并探讨相应的解决思路。
