json是一種輕量級的數據交換格式,也可以說是一種配置文件的格式
這種格式的文件是我們在數據處理經常會遇到的
python提供內置的模塊json,只需要在使用前導入即可
你可以通過幫助函數查看json的幫助文檔
json常用的方法有load、loads、dump以及dumps,這個都屬于python初級,我不做過多解釋
json可以結合數據庫一起使用,在這以后要處理大量數據時非常有用
下面我們正式來利用數據挖掘對json文件進行處理
現在很多網站都運用了Ajax,所以一般很多都是XHR文件
通過這里我想利用一個地圖網站來演示
我們通過瀏覽器的調試獲取了相關url
https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ
下面我們通過requests模塊中的get方法,模擬瀏覽器發出的http請求,并返回的到的結果對象
代碼如下
# coding=utf-8 __Author__ = "susmote" import requests url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) print(resp.text[0:200])
在終端中運行結果如下
數據已經獲取到了,但是為了接下來能使用這些數據,我們需要利用json模塊對這些數據進行分析
代碼如下
import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) print(type(json_dict)) print(json_dict.keys())
簡單講一下上面的代碼:
導入json模塊,然后調用loads方法,將返回的文本作為方法的參數傳入?
在終端中運行結果如下?
?可以看出,轉換的結果是與json字符串對應的字典,因為type(json_dict)返回的是
因為對象是一個字典,所以我們可以調用字典的方法,在這里我們調用的就是keys方法
結果返回三個鍵,即status、searcOpt、data
下面我們來查看data鍵里面的數據
import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) print(json_dict['data'])
下面在終端中運行這一段代碼
可以看到里面有很多我們需要的數據,如?
不一一標出,通過跟網頁顯示的相比較,就能清楚哪些是有用的了
下面我們通過代碼獲取有用的信息,把它清晰的輸出
# coding=utf-8 __Author__ = "susmote" import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) data_dict = json_dict['data'] data_list = data_dict['poi_list'] dis_data = data_list[0] print('城市: ', dis_data['cityname']) print('名稱: ', dis_data['name']) print('電話: ', dis_data['tel']) print('區號: ', dis_data['areacode']) print('地址: ', dis_data['address']) print('經度: ', dis_data['longitude']) print('緯度: ', dis_data['latitude'])
?因為返回的是一個字典,通過對文件結構的研究,字典中嵌套著列表,列表中又嵌套著字典,通過層層解套,成功獲取數據
我這里把步驟分開列出了,所以你會看的更加清楚
下面我們通過終端運行程序,獲取我們想要的信息?
是不是非常簡單了,這個程序可以作為一個模版,獲取其他地方的信息時只需要改一個url即可
例如以下幾個范例
北京大學?
?
或者是騰訊大廈
數據挖掘是沒有盡頭的,希望大家多分析數據,找到你想要的數據
更多文章、技術交流、商務合作、聯系博主
微信掃碼或搜索:z360901061

微信掃一掃加我為好友
QQ號聯系: 360901061
您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對您有幫助就好】元
