python訪問抓取網頁常用命令
簡單的抓取網頁:
import urllib.request url="http://google.cn/" response=urllib.request.urlopen(url) #返回文件對象 page=response.read()
直接將URL保存為本地文件:
import urllib.request url="http://google.cn/" response=urllib.request.urlopen(url) #返回文件對象 page=response.read()
POST方式:
import urllib.parse import urllib.request url="http://liuxin-blog.appspot.com/messageboard/add" values={"content":"命令行發出網頁請求測試"} data=urllib.parse.urlencode(values) #創建請求對象 req=urllib.request.Request(url,data) #獲得服務器返回的數據 response=urllib.request.urlopen(req) #處理數據 page=response.read()
GET方式:
import urllib.parse import urllib.request url="http://www.google.cn/webhp" values={"rls":"ig"} data=urllib.parse.urlencode(values) theurl=url+"?"+data #創建請求對象 req=urllib.request.Request(theurl) #獲得服務器返回的數據 response=urllib.request.urlopen(req) #處理數據 page=response.read()
有2個常用的方法,geturl(),info()
geturl()的設置是為了辨別是否有服務器端的網址重定向,而info()則包含了一系列的信息。
中文問題的處理,會用到 encode()編碼 dencode()解碼:
感謝閱讀,希望能幫助到大家,謝謝大家對本站的支持!
更多文章、技術交流、商務合作、聯系博主
微信掃碼或搜索:z360901061

微信掃一掃加我為好友
QQ號聯系: 360901061
您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對您有幫助就好】元
