亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 編程 > Golang > 正文

golang中sync.Map并發創建、讀取問題實戰記錄

2020-04-01 18:56:08
字體:
來源:轉載
供稿:網友

背景:

我們有一個用go做的項目,其中用到了zmq4進行通信,一個簡單的rpc過程,早期遠端是使用一個map去做ip和具體socket的映射。

問題

大概是這樣

struct SocketMap { sync.Mutex sockets map[string]*zmq4.Socket}

然后調用的時候的代碼大概就是這樣的:

func (pushList *SocketMap) push(ip string, data []byte) { pushList.Lock() defer pushList.UnLock() socket := pushList.sockets[string] if socket == nil { socket := zmq4.NewSocket() //do some initial operation like connect pushList.sockets[ip] = socket } socket.Send(data)}

相信大家都能看出問題:當push被并發訪問的時候(事實上push會經常被并發訪問),由于這把大鎖的存在,同時只能有一個協程在臨界區工作,效率是會被大大降低的。

解決方案:會帶來crash的優化

所以我們決定使用sync.Map來替代這個設計,然后出了第一版代碼,寫的非常簡單,只做了簡單的替換:

struct SocketMap { sockets sync.Map}func (pushList *SocketMap) push(ip string, data []byte) { var socket *zmq4.Socket  socketInter, ok = pushList.sockets.Load(ip) if !ok { socket = zmq4.NewSocket() //do some initial operation like connect pushList.sockets.Store(ip, socket) } else { socket = socketInter.(*zmq4.Socket) } socket.Send(data)}

乍一看似乎沒什么問題?但是跑起來總是爆炸,然后一看log,提示有個非法地址。后來在github上才看到,zmq4.Socket不是線程安全的。上面的代碼恰恰會造成多個線程同時拿到socket實例,然后就crash了。

解決方案2: 加一把鎖也擋不住的沖突

然后怎么辦呢?看來也只能加鎖了,不過這次加鎖不能加到整個map上,否則還會有性能問題,那就考慮減小鎖的粒度吧,使用鎖包裝socket。這個時候我們的代碼也就呼之欲出了:

struct SocketMutex{ sync.Mutex socket *zmq4.Socket}struct SocketMap { sockets sync.Map}func (pushList *SocketMap) push(ip string, data []byte) { var socket *SocketMutex  socketInter, ok = pushList.sockets.Load(ip) if !ok { socket = &{  socket: zmq4.NewSocket() } //do some initial operation like connect pushList.sockets.Store(ip, newSocket) } else { socket = socketInter.(*SocketMutex) } socket.Lock() defer socket.Unlock() socket.socket.Send(data)}

但是這樣還是有問題,相信經驗比較豐富的老哥一眼就能看出來,問題處在socketInter, ok = pushList.sockets.Load(ip)這行代碼上,如果map中沒有這個值,且有多個協程同時訪問到這行代碼,顯然這幾個協程的ok都會置為false,然后都進入第一個if代碼塊,創建多個socket實例,并且爭相覆蓋原有值。

單純解決這個問題也很簡單,就是使用sync.Map.LoadOrStore(key interface{}, value interface{}) (v interface{}, loaded bool)這個api,來原子地去做讀寫。

然而這還沒完,我們的寫入新值的操作不光是調用一個api創建socket就完了,還要有一系列的初始化操作,我們必須保證在初始化完成之前,其他通過Load拿到這個實例的協程無法真正訪問socket實例。

這時候顯然sync.Map自帶的機制已經無法解決這個問題了,那么我們必須尋求其他的手段,要么鎖,要么就sync.WaitGroup或者whatever的其他什么東西。

解決方案3: 閉包帶來的神奇體驗

后來經大佬指點,我在encoder.go中看到了這么一段代碼:

 func typeEncoder(t reflect.Type) encoderFunc {      if fi, ok := encoderCache.Load(t); ok {       return fi.(encoderFunc)       }                     // To deal with recursive types, populate the map with an    // indirect func before we build it. This type waits on the   // real func (f) to be ready and then calls it. This indirect   // func is only used for recursive types.      var (           wg sync.WaitGroup         f encoderFunc         )           wg.Add(1)          fi, loaded := encoderCache.LoadOrStore(t, encoderFunc(func(e *encodeState, v reflect.Value, opts encOpts) {  wg.Wait()          f(e, v, opts)         }))          if loaded {          return fi.(encoderFunc)       }                      // Compute the real encoder and replace the indirect func with it.   f = newTypeEncoder(t, true)       wg.Done()          encoderCache.Store(t, f)        return f          }  

豁然開朗,我們可以在sync.Map中存放一個閉包函數,然后在閉包函數中等待本地的sync.WaitGroup完成再返回實例。于是最終的代碼也就成型了。

struct SocketMutex{ sync.Mutex socket *zmq4.Socket}struct SocketMap { sockets sync.Map}func (pushList *SocketMap) push(ip string, data []byte) { type SocketFunc func()*SocketMutex var (  socket *SocketMutex  w sync.WaitGroup ) socket = &SocketMutex {  socket : zmq4.NewSocket() }  w.Add(1) socketf, ok = pushList.sockets.LoadOrStore(ip, SocketFunc(func()*SocketMutex) {  w.Wait()  return socket }) if !ok {  socket = &{   socket: zmq4.NewSocket()  }  //do some initial operation like connect  w.Done() } else {  socket = socketInter.(*SockeFunc)() } socket.Lock() defer socket.Unlock() socket.socket.Send(data)}

總結:

并發代碼中的競爭問題,每一行代碼的重入性都要深思熟慮啊。

總的來說要保持以下幾個準則:

(1) 不可重入訪問的系統資源,如socketfd, filefd,signalfd(事實上大多數這種系統資源都是不可重入的)等,在使用無鎖結構的容器、讀寫鎖封裝的容器時,需要給每個資源單獨加鎖或者使用其他手段保證系統資源在臨界區受到有效保護。

(2)如果有讀取,如果為空則寫入的邏輯,需要使用能提供原子性保證的LoadOrSave調用,或者沒有的話,自己實現也要保證讀取和寫入過程整體的原子性;防止并發訪問Load調用時,多個線程都返回否而創建多個實例,然后在Save的時候又互相覆蓋。——這個原則不光對成員是系統資源的時候生效,如果存放的是其他東西也同樣適用。

(3)如果資源創建完畢,還需要其他的初始化過程,則可以考慮在容器內放置閉包,初始化過程使用sync.WaitGroup保護,在閉包中調用Wait方法等待初始化完成再給其他線程返回初始化好的實例。而初始化過程完成后,可以置換閉包函數,不再調用Wait方法,來減少可能的開銷。

好了,以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對VEVB武林網的支持。


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
久久精品久久久久| 亚洲第一网中文字幕| 国内揄拍国内精品少妇国语| 中文字幕视频在线免费欧美日韩综合在线看| 国产午夜精品一区二区三区| 欧美日韩综合视频| 亚洲女人天堂网| 国产精品久久久久7777婷婷| 夜夜嗨av色一区二区不卡| 日韩视频第一页| 91在线中文字幕| 亚洲精品国产精品久久清纯直播| 亚洲乱码一区av黑人高潮| 亚洲在线观看视频| 亚洲国产欧美一区二区三区同亚洲| 日韩高清人体午夜| 亚洲精品小视频| 欧美日韩国产中文精品字幕自在自线| 青青草精品毛片| 欧美日韩成人在线观看| 不卡av在线网站| 午夜精品久久久久久久白皮肤| 国产成+人+综合+亚洲欧洲| 97成人精品视频在线观看| 日韩一区二区三区在线播放| 亚洲精品美女久久| 成人激情av在线| 亚洲一区二区久久久久久| 亚洲国产精品字幕| 国产视频精品在线| 91成人免费观看网站| 国产午夜精品麻豆| 欧美大片免费观看在线观看网站推荐| 国产精品视频久久久久| 欧美性猛交xxxx乱大交蜜桃| 久久精品人人爽| 91精品国产乱码久久久久久久久| 国产精品偷伦视频免费观看国产| 久久久999国产精品| 久久艳片www.17c.com| 一区二区三区美女xx视频| 国产日本欧美视频| 91av在线看| 亚洲一区二区三区在线免费观看| 亚洲国产精品久久久久秋霞不卡| 成人免费看片视频| 在线看片第一页欧美| 亚洲成在人线av| 欧美在线亚洲在线| 最好看的2019的中文字幕视频| 日韩在线激情视频| 国产精品免费视频久久久| 亚洲欧美国产一本综合首页| 精品一区二区三区三区| 久精品免费视频| 久久精品人人爽| 国产精品毛片a∨一区二区三区|国| 91丝袜美腿美女视频网站| 亚洲娇小xxxx欧美娇小| 中文字幕少妇一区二区三区| 亚洲精品乱码久久久久久按摩观| 精品久久久久久久久久久| 久久久久久久久爱| 欧美高清理论片| 成人欧美一区二区三区黑人孕妇| 97精品一区二区视频在线观看| 欧美日韩视频免费播放| 亚洲二区在线播放视频| 久久精品91久久久久久再现| 日产日韩在线亚洲欧美| 日韩成人在线电影网| 国产97色在线| 欧美大片va欧美在线播放| 欧洲成人性视频| 日韩精品视频免费专区在线播放| 精品无码久久久久久国产| 欧美激情一区二区三区成人| 亚洲精品国产精品国自产在线| 久热精品视频在线免费观看| 亚洲欧美www| 欧美一级视频免费在线观看| 成人久久久久久| 久久久视频精品| 91av免费观看91av精品在线| 国产精品久久久久久久久久久久久| 欧美精品18videos性欧| 成人中心免费视频| 日韩色av导航| 国产成人精品一区二区三区| 亚洲国产成人精品电影| 国产一区在线播放| 欧美亚洲第一页| 欧美一级免费视频| 国产精品白丝av嫩草影院| 国产精品美女主播| 久热精品视频在线观看一区| 91免费人成网站在线观看18| 欧美日韩另类字幕中文| 久久网福利资源网站| 国产精品永久免费在线| 欧美国产精品va在线观看| 欧美极品少妇xxxxⅹ裸体艺术| 久久精品国产成人| 亚洲精品福利在线观看| www.久久久久| 色综合久久中文字幕综合网小说| 国产亚洲欧美视频| 国产大片精品免费永久看nba| 97精品一区二区视频在线观看| 欧洲一区二区视频| 久久夜色精品国产| 国产成人激情视频| 91免费人成网站在线观看18| 精品久久久久久久中文字幕| 国产久一一精品| 少妇高潮久久77777| 亚洲精品成人av| 国产91在线视频| 国产美女久久精品香蕉69| 美女999久久久精品视频| 成人性生交大片免费观看嘿嘿视频| 久久久久久久久久久久av| 日韩精品亚洲元码| 久久亚洲影音av资源网| 久久精品中文字幕| 国内精品一区二区三区四区| 久久久欧美一区二区| 91免费精品视频| 欧洲中文字幕国产精品| 亚洲片在线资源| 日韩影视在线观看| 亚洲高清av在线| 91久久精品美女高潮| 成人黄色网免费| 亚洲免费视频在线观看| 久久久精品一区二区| 国产成人精品久久久| 日韩中文视频免费在线观看| 亚洲无限乱码一二三四麻| 国产精品美女在线| 亚洲精品成人久久| 91美女高潮出水| 亚洲电影中文字幕| 秋霞av国产精品一区| 91精品久久久久久久久久入口| 亚洲男人天堂网| 国产精品黄色av| 久久久久久91| 日韩美女在线观看一区| 欧美大胆a视频| 欧美麻豆久久久久久中文| 91在线观看免费| 按摩亚洲人久久| 国产美女91呻吟求| www.久久久久| 亚洲理论电影网| 国产一区av在线| 日韩av电影在线免费播放| 奇米一区二区三区四区久久| 日日狠狠久久偷偷四色综合免费| 国产精品高清在线| 91在线观看免费观看| 日韩一区二区久久久| 成人精品在线视频|