亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 編程 > Golang > 正文

golang實戰之truncate日志文件詳解

2020-04-01 18:56:24
字體:
來源:轉載
供稿:網友

前言

有時候我們生成的日志文件很大,如果文件過大,或者磁盤空間有限,那么我們就需要把日志文件改小一點。

(當然實際應用場景中,一般采用log rotate的方式實現多個日志文件,定期把舊的日志文件挪走或者刪除)

現在我們考慮如何把日志文件變小的場景。

首先想到的是文件truncate,遺憾的是truncate是把新的內容刪掉,而不是把舊的內容刪掉;因為通常我們的做法是要把舊的日志內容刪除,而保留最新的日志內容。

方法1:拷貝文件,然后把前半部分刪除,保留新的后半部分

$ wc -l logfile$ tail -n {LINENUM}/2 logfile > logfile2$ mv logfile2 logfile

缺點是需要額外的臨時磁盤空間(logfile2),保留新拷貝的文件

方法2:把日志文件讀入內存,截去前半部分,把后半部分重新寫會文件。

缺點也是要創建一個臨時文件,或者把整個文件內容一次性讀入內存。

下面是一個實現創建臨時文件的例子:

(如果采用整個文件讀入內存,那么可以重復覆蓋使用原來的讀入文件,不用創建臨時文件):

package mainimport ( "bufio" "log" "io" "os")func ReadLine(r *bufio.Reader, w *bufio.Writer) error { for i := 0; ; i++ {  line, err := r.ReadString('/n')  if i >= 12554364/2 { // this number is hard-codes just for example use   if _,err := w.WriteString(line); err != nil {    log.Fatal(err)   }  }  if err != nil {   if err == io.EOF {    return nil   }   return err  } } return nil}func main() { fin, err := os.Open("data.in") if err != nil {  log.Fatal(err) } defer fin.Close() fout, err := os.Create("data.dat") if err != nil {  log.Fatal(err) } defer fout.Close() reader := bufio.NewReader(fin) writer := bufio.NewWriter(fout) if err := ReadLine(reader, writer); err != nil {  log.Fatal(err) } writer.Flush()}

運行:

對于1G大小的日志文件,在我的Linux上執行時間大約是:

$ go build && time ./mainreal 0m6.972suser 0m4.668ssys  0m2.055s

方法3:也是利用文件,把文件mmap映射到內存,然后使用copy函數覆蓋內存。

缺點是,mmap操作日志文件不能過大。

下面是一個實現的代碼例子:

package mainimport ( "fmt" "log" "os" "syscall")// Truncate file to half size, with line aligned.func truncateText(f *os.File) error { fi, err := f.Stat() if err != nil {  return err } mem, err := syscall.Mmap(int(f.Fd()), 0, int(fi.Size()), syscall.PROT_READ|syscall.PROT_WRITE, syscall.MAP_SHARED) if err != nil {  return err } size := fi.Size() if size <= 1 {  // Don't need to truncate file if it's too small  return nil } trun := size/2 - 1 for ; trun < fi.Size(); trun ++ {  if mem[trun] == '/n' {   break  } } //fmt.Printf("size=%d, trun=%d/n", size, trun) if trun >= size - 1 {  trun = size/2 } else {  trun = trun + 1 } // Overwrite file content copy(mem[0:], mem[trun:])  err = syscall.Munmap(mem) if err != nil {  return err } // truncate file f.Truncate(fi.Size() - trun) // reset file offset f.Seek(trun,0) return nil}func main() { path := "data.dat" f, err := os.OpenFile(path, os.O_RDWR|os.O_CREATE, 0644) if err != nil {  fmt.Println("Cannot create file")  log.Fatal(err) } err = truncateText(f) if err != nil {  fmt.Println("Cannot truncateLog file")  log.Fatal(err) } f.Write([]byte("ABCD")) f.Close()}

函數truncateText的功能就是把文件截取到原來的一半大小,并保持按行對齊;分如下幾步:

  • 先把文件映射syscall.Mmap 到內存。
  • 查找到中間行的位置。
  • 然后用內置函數copy,把中間行以后的挪動到文件開始位置。
  • 修改文件的大小file.Truncate
  • 重置文件的偏移指針offset
  • 取消文件映射syscall.Munmap

運行:

對于1G大小的日志文件,在我的Linux上執行時間大約是:

$ go build && time ./mainreal 0m1.861suser 0m0.335ssys  0m0.650s

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對VEVB武林網的支持。


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
超碰精品一区二区三区乱码| 久久精品夜夜夜夜夜久久| 国产精品视频男人的天堂| 久久国产精品影视| 欧美激情三级免费| 亚洲aaa激情| 九九热99久久久国产盗摄| 欧美最顶级丰满的aⅴ艳星| 中文字幕欧美视频在线| 亚洲国产精品999| 日韩精品999| 日韩精品中文字幕久久臀| 91免费电影网站| 高清日韩电视剧大全免费播放在线观看| 亚洲乱码av中文一区二区| 亚洲第一区第二区| 午夜精品99久久免费| 中文精品99久久国产香蕉| 国产精品久久久久影院日本| 国产精品自产拍高潮在线观看| 538国产精品一区二区在线| 91探花福利精品国产自产在线| 国产69精品久久久久9999| 国产成人高潮免费观看精品| 亚洲深夜福利在线| 亚洲自拍另类欧美丝袜| 国产精品r级在线| 亚洲第一区中文99精品| 欧美激情xxxxx| 国产精品三级美女白浆呻吟| 成人在线激情视频| 久久久精品国产网站| 亚洲中国色老太| 日韩av一卡二卡| 92看片淫黄大片欧美看国产片| 日韩av电影院| 久久久噜久噜久久综合| 97在线日本国产| 国产成人在线视频| 中文字幕日本精品| 中文字幕精品国产| 欧美性猛交xxxx乱大交蜜桃| 91丝袜美腿美女视频网站| 国内精品久久影院| 亚洲欧洲在线观看| 欧美大成色www永久网站婷| 国产69精品久久久久99| 91精品国产91久久久久福利| 国产91成人在在线播放| 久久乐国产精品| 久久久久久91香蕉国产| 最近2019中文字幕在线高清| 亚洲在线一区二区| 色综合久久久久久中文网| 久久天天躁夜夜躁狠狠躁2022| 亚洲视频电影图片偷拍一区| 久久视频在线播放| 欧美极品少妇xxxxⅹ免费视频| 欧美激情视频在线免费观看 欧美视频免费一| 欧美激情综合亚洲一二区| 久久久天堂国产精品女人| 中文字幕亚洲综合久久| 国产精品美女999| 亚洲精品视频中文字幕| 日韩精品极品在线观看播放免费视频| 国产欧美日韩免费| 亚洲天堂av电影| 亚洲视频电影图片偷拍一区| www.99久久热国产日韩欧美.com| 欧美有码在线观看| 国内精品久久久久久影视8| 国产亚洲视频在线观看| 国产91精品网站| 亚洲摸下面视频| 亚洲最大福利网| 91精品视频免费看| 亚洲xxxx做受欧美| 亚洲人高潮女人毛茸茸| 高清欧美电影在线| 国产日韩在线精品av| 美女性感视频久久久| 久久久综合免费视频| 亚洲新声在线观看| 欧美日韩在线一区| 亚洲国产天堂久久综合| 超碰日本道色综合久久综合| 久久精品亚洲精品| 欧美做受高潮电影o| 国语自产精品视频在线看| 欧美国产一区二区三区| 性色av一区二区咪爱| 在线观看欧美成人| 久久精品2019中文字幕| 国产精品亚洲аv天堂网| 欧美另类在线播放| 久久精品久久久久| 最近2019免费中文字幕视频三| 久久久之久亚州精品露出| 狠狠色狠色综合曰曰| 国产精品视频一区二区三区四| 欧美成人精品在线播放| 国产精品高清免费在线观看| 亚洲精品欧美极品| 欧美午夜视频一区二区| 亚洲精品wwww| 高清亚洲成在人网站天堂| 国产成人亚洲综合91| 上原亚衣av一区二区三区| 国产精品久久77777| 九九热精品在线| 亚洲欧美制服丝袜| 91精品久久久久久久久青青| 久久精品美女视频网站| 亚洲欧美日本另类| 91日韩在线视频| 亚洲一区二区中文| 国产精品第10页| 国产精品久久久久久久一区探花| 国产精品久久99久久| 日本不卡视频在线播放| 久久久久久久久久久亚洲| 亚洲aⅴ男人的天堂在线观看| 午夜精品99久久免费| 日韩激情视频在线播放| 91免费的视频在线播放| 亚洲第一精品夜夜躁人人爽| 欧美午夜视频一区二区| 92版电视剧仙鹤神针在线观看| 久久精品亚洲一区| 国产精品三级在线| 51ⅴ精品国产91久久久久久| 亚洲欧美日韩国产中文| 性亚洲最疯狂xxxx高清| 国产成人精品优优av| 国产欧美精品日韩精品| 国产精品久久久久久久久免费看| 福利精品视频在线| 日韩av最新在线| 精品美女国产在线| 日本亚洲欧洲色| 中文字幕亚洲无线码在线一区| 97人洗澡人人免费公开视频碰碰碰| 久久国产精品久久国产精品| 色婷婷综合成人| 国产精品九九九| xxx欧美精品| 色视频www在线播放国产成人| 亚洲综合在线做性| 亚洲大胆人体在线| 国产国产精品人在线视| 日韩电影在线观看免费| 欧美成人精品一区二区三区| 欧美在线视频一区| 日韩经典第一页| 亚洲a∨日韩av高清在线观看| 亚洲欧美日本伦理| 亚洲一区二区三区四区视频| 97色在线视频观看| 日本在线观看天堂男亚洲| 欧美成人免费va影院高清| 欧美大片欧美激情性色a∨久久| 午夜精品久久久久久99热| 欧美一级淫片aaaaaaa视频| 欧美日韩亚洲激情|