• ARTICLE
  • STRING
  • CONVERTER
  • ENCRYPT
  • NETWORK
  • MORE
    CHART
    MATH
    COORDINATE
    IMAGE
    FILE
  • ARTICLE
    STRING
    CONVERTER
    ENCRYPT
    NETWORK
    MORE
    CHART
    MATH
    COORDINATE
    IMAGE
    FILE
logo Online Tools
All Chinese English Newest Hottest
169 search results Contribute

最近经常收到内部业务方的咨询,他们想知道"如何让我们的业务系统接入大模型提效"。为了回答这个问题,我们梳理了 KubeAI 大模型平台对接的一些业务实践与一些业界经典案例分享给大家。 OpenAI 的第一次开发者大会的主题为 Maximizing LLM Performance,提出业务系统可以通过三种方式接入大模型,PROMPT(直接给大模型输入提示词),RAG(通过检索增增强来提升大模型的能力),Fine-tuning(通过微调训练来提升大模型的能力)。 本文借鉴 OpenAI 的观点,结合具体实践例子分别介绍这三种接入方式,最后建议业务可以通过渐进(PROMPT,RAG,Fine-tuning)的方式接入大模型,从而达到最佳的收益效果。

17 Technology lddgo Shared on 2024-01-22

基于 Java 类加载的特性,我们通常会将一些期望只执行一次且不需要上下文的代码(例如 SDK 初始化)放到类的静态代码块中,通过触发类加载来执行这些代码,这样就不需要考虑线程安全问题以及重复执行问题。 在启动优化中就频繁采用了这种方案来将一些主线程耗时逻辑转移至异步线程并提前执行,为了避免不必要的耦合,我们通常是通过 Class.forName("com.aaa.bbb") 的方式来触发类加载,但是这种写法要求对应的类必须 keep 住,避免被混淆导致找不到类。

10 Technology lddgo Shared on 2024-01-17

Trace2.0 是得物监控团队引入 OpenTelemetry 协议并落地的全新应用监控系统,从 2021 年底正式开始使用。在过去的两年里,我们面临着数据量呈爆炸式增长的巨大挑战。然而,通过对计算和存储的不断优化,我们成功地控制了机器数量的指数级增加。我们每天处理的日增数据量数 PB(相比去年增长了 4 倍),每天产生的 Span 数超过了数万亿条。系统面对的峰值流量可达到每秒几千万行 Span,每秒上报的带宽压缩后高达数十 GB。我们所使用的存储引擎 Clickhouse 单机支持每秒近百万行的写入量。这些数据成为 Trace2.0 作为一款强大的应用监控系统的标志,为监控团队提供了全方位的监控数据分析能力。Trace2.0 使得我们能够及时发现和解决潜在的系统问题,确保我们的服务能够始终稳定可靠地运行。

11 Technology lddgo Shared on 2024-01-15

2023 Top 10文章推荐|得物技术

15 Technology lddgo Shared on 2024-01-12

目前软广自营+商投渠道,每个季度的消耗都不少,并且在不停地铺开多媒体平台,软广的重要性不言而喻。运营人员对于编辑器的编辑概念已经弱化(软广运营创建会场的频率不高),目前都是通过固定几个外投链接,然后通过在投放链接拼接上增长算法侧的捞月 ID 参数,来创建很多的外投广告计划。 所以针对业务的变化,运营侧迫切希望目前软广外投的页面打开速度得到优化,以及解决会场失效等一些高频问题,同时与现有的投放广告系统做充分的融合,减少中间无意义的 Gap。

13 Technology lddgo Shared on 2024-01-10

支付是指为清偿商品交换和劳务活动所引起的债权债务,货币债权从付款人向收付人的转移的过程。支付能力是电商产品的核心能力之一,作为订单同学,有必要了解关联域支付的流程以及基本概念,同时支付领域的很多设计思路与资损防控经验对订单域的系统设计也很有借鉴意义。本文将从支付系统的历史、基本概念、系统设计、资损防控与订单与支付交互等方面予以介绍。

15 Technology lddgo Shared on 2024-01-08

在参与得物大语言模型(Large Language Model, LLM)项目的深度实践中,笔者亲历了预训练数据的搜集与清洗全过程。这篇文章通过详细梳理现有预训练数据集以及其清洗框架,旨在提供一个全面而实用的参考,以便为 LLM 训练提供快速有效的数据集落地方案。

13 Technology lddgo Shared on 2024-01-03

得物 App 作为互联网行业的后起之秀,在快速的业务发展过程中基础设施规模不断增长,继而对效率和成本的关注度也越来越高。我们在云原生技术上的推进历程如图所示,整体上节奏还是比较快的。

16 Technology lddgo Shared on 2023-12-27

连接池的用途实际上有过开发经验的朋友都已经比较清楚了,当资源对象的创建/销毁比较耗时的场景下,可以通过"池化"技术,达到资源的复用,以此来减少系统的开销、增大系统吞吐量,比如数据库连接池、线程池、Redis 连接池等都是使用的该方式,而我们在开发场景中使用较为广泛的 Jedis 就是使用了 GenericObjectPool 作为它底层的连接池实现。

20 Technology lddgo Shared on 2023-12-25

粗排优化探讨

47 Technology lddgo Shared on 2023-12-20