Shell多線程操作及線程數控制實例

2020-07-27 19:15:34

字體：大中小

來源：轉載

供稿：網友

前言

在業(yè)務開發(fā)過程中，經常會在后臺寫一些shell腳本處理數據，但估計很多人不知道shell腳本也可以支持多線程，而且非常簡單。本篇文章主要就是介紹shell實現(xiàn)多進程以及進程數量控制。

需求

為了更好的說明問題，我們結合例子講解，假設需求就是掃描url.txt文件，然后判斷里面的URL是否失效。url.txt文件的內容是一行一個URL，如：

復制代碼代碼如下:

http://www.baidu.com

http://www.google.com

http://www.49028c.com

單進程實現(xiàn)

那么shell腳本scanUrl.sh可以這樣寫：

復制代碼代碼如下:

#!/bin/bash
#判斷是否有參數
if [ $# != 1 ] ;then
echo "The parameters you enter is not correct !";
exit -1;
fi

#循環(huán)讀出URL并判斷狀態(tài)碼
while read line
do
{
    isok=`curl -I -o /dev/null -s -w %{http_code} $line`
    if [ "$isok" = "200" ]; then
        echo $line "OK"
    else
        echo $line "no"
    fi
}
done < $1
echo "執(zhí)行結束"

那么可以執(zhí)行下面的命令掃描：

復制代碼代碼如下:

/bin/sh scanUrl.sh url.txt

但這樣腳本執(zhí)行非常慢，一萬個URL幾個小時都掃描不完。

多進程實現(xiàn)

改成多進程實現(xiàn)非常簡單，只需要在do后面的大括號加 & 符號，在done后面加一個wait,表示父進程等待子進程退出后再退出

復制代碼代碼如下:

#!/bin/bash
#判斷是否有參數
if [ $# != 1 ] ;then
echo "The parameters you enter is not correct !";
exit -1;
fi

#循環(huán)讀出URL并判斷狀態(tài)碼
while read line
do
{
    isok=`curl -I -o /dev/null -s -w %{http_code} $line`
    if [ "$isok" = "200" ]; then
        echo $line "OK"
    else
        echo $line "no"
    fi
    }
}&
done < $1
wait
echo "執(zhí)行結束"

這樣就能多進程并發(fā)執(zhí)行了，但有個問題是進程會一下子非常多，幾百上千，超過系統(tǒng)限制報錯，下面我們就加上進程數控制。

多進程實現(xiàn)并控制進程數

復制代碼代碼如下:

#!/bin/bash
#允許的進程數
THREAD_NUM=200
#定義描述符為9的管道
mkfifo tmp
exec 9<>tmp
#預先寫入指定數量的換行符，一個換行符代表一個進程
for ((i=0;i<$THREAD_NUM;i++))
do
echo -ne "/n" 1>&9
done

if [ $# != 1 ] ;then
echo "The parameters you enter is not correct !";
exit -1;
fi

while read line
do
{
    #進程控制
    read -u 9
    {
        #isok=`curl -I -o /dev/null -s -w %{http_code} $line`
        if [ "$isok" = "200" ]; then
            echo $line "OK"
        else
            echo $line "no"
        fi
        echo -ne "/n" 1>&9
    }&
}
done < $1
wait
echo "執(zhí)行結束"
rm tmp

上面的代碼就可以保證子進程在指定數量了，其進程控制原理是通過管道實現(xiàn)的，當管道無內容可讀時就不會執(zhí)行

復制代碼代碼如下:

{
    #isok=`curl -I -o /dev/null -s -w %{http_code} $line`
    if [ "$isok" = "200" ]; then
        echo $line "OK" 
    else
        echo $line "no" 
    fi
    #寫入一個換行符
    echo -ne "/n" 1>&9
}&

而且每個進程執(zhí)行完成后都會向管道寫入一個換行符，從而保證進程數是指定的。

這樣就能達到我們的目的了。

上一篇：阿里云主機一鍵安裝lamp、lnmp環(huán)境的shell腳本分享

下一篇：Shell獲取文件的文件名和擴展名的例子