文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

真实环境下大内存 Go 服务性能优化一例

2024-12-03 02:15

关注

本文转载自微信公众号「董泽润的技术笔记」,作者董泽润 。转载本文请联系董泽润的技术笔记公众号。

本文是在上家的 case, 以前很多人在公开大会上拿该案例做分享,所以觉得有印象的同学勿喷,虽然冷饭,但是原创,而且干货十足 ^_^

有时大家很不理解的现象,明明 call RPC 时设置了超时时间 timeout, 但是 Grafna 看到 P99 latency 很高,why ???

不要犹豫,要么是 timeout 设置不合理,比如只设置了单次 socket timeout, 并没有设置 circuit breaker 外层超时。参考 你真的了解 timeout 嘛[1]

还有一种情况就是 GC 在捣乱,我们知道 Go GC 使用三色标记法,在 GC 压力大时用户态 goroutine 是要 assit 协助标记对象的,同时 GC STW 时间如果非常高,那么业务看起来 latency 就会得比 timeout 大很多

毛刺

该服务使用 go1.7, 需要加载海量的机器学习词表,标准的 Go 大内存服务,优化前表现为 latency 非常高

可以看到最大的己经到了 2s

同时查看 GC PauseNS 也非常可怕,基本接近 1s, 服务处理不可用状态

Pprof

如何开启 pprof 这里就不写了,网上有很多,大家可以自行查看

  1. go tool pprof bin/dupsdc http://127.0.0.1:6060/debug/pprof/profile 

可以看到 runtime.greyobject, runtime.mallocgc, runtime.heapBitsForObject, runtime.scanobject, runtime.memmove 就些与 GC 相关的占据了 CPU 消耗的 TOP 6

  1. go tool pprof -inuse_objects http://127.0.0.1:6060/debug/pprof/heap 

再查看下常驻对像个数,发现 1kw 常驻内存对像(现在来看很小了,不多),这些都是词表加载的小对像

优化对像

词表主要使用两种类型,map[int64][]float32 和 map[string]int

让我们看一下三色标记,本质是递归扫描所有的指针类型,遍历确定有没有被引用

那么问题来了,什么是指针类型呢???所有显示 *T 以及内部有 pointer 的对像都是指针类型,比如 map[int64][]float32 因为值是 slice, 内部包含了指针,如果 map 有 1kw 个元素,那么 GC 也要递归所描所有 key/value

了解这些,优化方法就来了,把 map[int64][]float32 变成 map[int64][6]float32, 这里 slice 变成 6 个元素的数组,业务可以接受

同时把 map[string]int 里的 key 由 string 类型换成 int 枚举值

优化效果

上线后优化效果很明显

可以看到,常驻内存对像由 1kw 降低到 200w

同时 cpu pprof 也能看到,排名第一的是 syscall, GC 相关的己经降低很多

查看 Grafana 外围 IO latency 降低非常明显。整体优化效果不错

例外

这里也有例外,比如 map 内部的实现,如果 key/value 值类型大小超过 128 字节,就会退化成指针

  1. // Builds a type representing a Bucket structure for 
  2. // the given map type. This type is not visible to users - 
  3. // we include only enough information to generate a correct GC 
  4. // program for it. 
  5. // Make sure this stays in sync with runtime/map.go. 
  6. const ( 
  7.  BUCKETSIZE  = 8 
  8.  MAXKEYSIZE  = 128 
  9.  MAXELEMSIZE = 128 
  1. // bmap makes the map bucket type given the type of the map. 
  2. func bmap(t *types.Type) *types.Type { 
  3.  if t.MapType().Bucket != nil { 
  4.   return t.MapType().Bucket 
  5.  } 
  6.  
  7.  bucket := types.New(TSTRUCT) 
  8.  keytype := t.Key() 
  9.  elemtype := t.Elem() 
  10.  dowidth(keytype) 
  11.  dowidth(elemtype) 
  12.  if keytype.Width > MAXKEYSIZE { 
  13.   keytype = types.NewPtr(keytype) 
  14.  } 
  15.  if elemtype.Width > MAXELEMSIZE { 
  16.   elemtype = types.NewPtr(elemtype) 
  17.  } 
  18.  
  19.  field := make([]*types.Field, 0, 5) 
  20.   ...... 

思考

Go 每个版本性能都会提升很多,go1.7 1kw 对像服务压力非常大,但是我司现在 go1.15 2kw 对像未优化也毫无压力

Go 在吞吐量方面优化非常显著。还是那句话,本文只做为 GC 性能分析参考,不要提前优化

另外一方面也说明,Go 三色标记并不适合所有场景,本次分享的大词表常驻内存就是一个典型:

 

很明显的 old objects, 不需要 GC 每次都扫描,这里羡慕 java 的分代 GC

 

来源:董泽润的技术笔记内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯