本文實例講述了Python使用jsonpath-rw模塊處理Json對象操作。分享給大家供大家參考,具體如下:
這兩天在寫一個爬蟲,需要從網站返回的json數據提取一些有用的數據。
向url發起請求,返回的是response,在python3中,response.content
是二進制bytes類型的,需要用decode()
轉成unicode
的str類型
#如果用的requests發的請求import jsonresponse = requests.get(url,headers=self.headers)response = response.content.decode()response = json.loads(response) #轉成json對象,在python里也就是dict類型
#如果用的scrapy.Request發的請求import jsonimport scrapyresponse = scrapy.Request(url,headers=self.headers)response = response.text.decode()response = json.loads(response) #轉成json對象,在python里也就是dict類型
也就是說處理json對象其實可以和處理dict一樣,那就要用到很多中括號,而且取值也只能取單個精確的值。一點都不靈活
用過xpath和css選擇器的人當然會覺得這種方法很笨重。
而恰巧json也有類型的選擇器:jsonpath
但是需要注意的是,python的庫并不是jsonpath(還真有這個庫,但是不知如何使用,官方也沒有給出python的使用文檔),真正在python中可以使用的庫是:jsonpath-rw
官方文檔:https://pypi.python.org/pypi/jsonpath-rw (更多jsonpath的語法請點擊鏈接)
下面只列下簡單常用的基本方法
使用示例
>>> from jsonpath_rw import jsonpath, parse>>> json_obj = {"student":[{"male":176,"female":162},{"male":174,"female":159}]}>>> jsonpath_expr = parse("student[*].male")>>> male = jsonpath_expr.find(json_obj)>>> male #返回的是list,但是不是我們想要的值[DatumInContext(value=176, path=Fields('male'), context=DatumInContext(value={'male': 176, 'female': 162}, path=<jsonpath_rw.jsonpath.Index object at 0x000001C6B95109B0>, context=DatumInContext(value=[{'male': 176, 'female': 162}, {'male': 174, 'female': 159}], path=Fields('student'), context=DatumInContext(value={'student': [{'male': 176, 'female': 162}, {'male': 174, 'female': 159}]}, path=This(), context=None)))), DatumInContext(value=174, path=Fields('male'), context=DatumInContext(value={'male': 174, 'female': 159}, path=<jsonpath_rw.jsonpath.Index object at 0x000001C6B9510588>, context=DatumInContext(value=[{'male': 176, 'female': 162}, {'male': 174, 'female': 159}], path=Fields('student'), context=DatumInContext(value={'student': [{'male': 176, 'female': 162}, {'male': 174, 'female': 159}]}, path=This(), context=None))))]#想要獲取值,要用如下方法>>> [match.value for match in male][176, 174]
PS:這里再為大家推薦幾款比較實用的json在線工具供大家參考使用:
在線JSON代碼檢驗、檢驗、美化、格式化工具:
新聞熱點
疑難解答