我們經(jīng)常需要在后臺運(yùn)行一些python腳本,來監(jiān)控系統(tǒng)或者做一些其他事情;但是 由于各種各樣的原因,排除python腳本代碼的問題,腳本運(yùn)行過程中會掛掉。為了不天天耗在上面等重啟,可以制作shell腳本對程序予以監(jiān)控,對于意外中斷的程序自動重啟。
以控制 python自動重啟的shell腳本為例:
cd Desktop
vim run.sh #新建名為run的shell腳本
寫入(此處以名為run的Python腳本為例)
#!/bin/bash
while [ 1 ];do
python run.py
done
chmod 777 run.sh #設(shè)置shell腳本權(quán)限
./run.sh #運(yùn)行shell腳本
可見Python腳本意外中斷(被kill)后,由于shell腳本的循環(huán)語句,實(shí)現(xiàn)了自動重啟。
在測試完確保能夠正常運(yùn)行后,切換為后臺運(yùn)行:關(guān)于后臺運(yùn)行命令原理,點(diǎn)此查看。
nohup ./run5.py &
此外,做爬蟲項(xiàng)目時(shí),我們需要考慮一個(gè)爬蟲在爬取時(shí)會遇到各種情況(網(wǎng)站驗(yàn)證,ip封禁),導(dǎo)致爬蟲程序中斷,這時(shí)我們已經(jīng)爬取過一些數(shù)據(jù),再次爬取時(shí)這些數(shù)據(jù)就可以忽略,所以我們需要在爬蟲項(xiàng)目中設(shè)置一個(gè)中斷重連的功能,使其在重新運(yùn)行時(shí)從 之前斷掉的位置 重新爬取數(shù)據(jù)。此代碼參見自 匡虐博客
import os
class UrlManager(object):
def __init__(self): #建立兩個(gè)數(shù)組的文件
with open('new_urls.txt','r+') as new_urls:
self.new_urls = new_urls.read()
with open('old_urls.txt','r+') as old_urls:
self.old_urls = old_urls.read()
def add_new_url(self, url): #添加url到new_ulrs文件中
if url is None:
return
if url not in self.new_urls and url not in self.old_urls:
with open('new_urls.txt', 'a') as new_urls:
new_urls.write(url)
else:
print('url had done')
def add_new_urls(self, urls): #添加多個(gè)url到new_ulrs文件中
# if urls is None or (len(url) == 0 for url in urls):
if urls is None:
print('url is none')
return
for url in urls:
if urls is None:
print('url is none')
return
else:
self.add_new_url(url)
def has_new_url(self):
return len(self.new_urls) != 0
def get_new_url(self):
new_url = get_last_line('new_urls.txt') #讀取new_urls文件中最后一個(gè)url
del_last_url('new_urls.txt',new_url) #刪除new_urls文件中最后一個(gè)url
add_old_urls('old_urls.txt',new_url) #將讀取出來的url添加入old_urls數(shù)組中
return new_url
def get_last_line(inputfile):
filesize = os.path.getsize(inputfile)
blocksize = 1024
dat_file = open(inputfile, 'rb')
last_line = b""
lines = []
if filesize > blocksize:
maxseekpoint = (filesize // blocksize) # 這里的除法取的是floor
maxseekpoint -= 1
dat_file.seek(maxseekpoint * blocksize)
lines = dat_file.readlines()
while ((len(lines) < 2) | ((len(lines) >= 2) & (lines[1] == b'\r\n'))): # 因?yàn)樵赪indows下,所以是b'\r\n'
# 如果列表長度小于2,或者雖然長度大于等于2,但第二個(gè)元素卻還是空行
# 如果跳出循環(huán),那么lines長度大于等于2,且第二個(gè)元素肯定是完整的行
maxseekpoint -= 1
dat_file.seek(maxseekpoint * blocksize)
lines = dat_file.readlines()
elif filesize: # 文件大小不為空
dat_file.seek(0, 0)
lines = dat_file.readlines()
if lines: # 列表不為空
for i in range(len(lines) - 1, -1, -1):
last_line = lines[i].strip()
if (last_line != b''):
break # 已經(jīng)找到最后一個(gè)不是空行的
dat_file.close()
return last_line
def del_last_url(fname,part):
with open(fname,'rb+') as f:
a = f.read()
a = a.replace(part,b'')
with open(fname,'wb+') as f:
f.write(a)
def add_old_urls(fname,new_url):
line = new_url + b'\r'
with open(fname,'ab') as f:
f.write(line)
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主
微信掃碼或搜索:z360901061
微信掃一掃加我為好友
QQ號聯(lián)系: 360901061
您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長非常感激您!手機(jī)微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對您有幫助就好】元

