python-data.md 1.3 KB
title: python-data date: 2019-07-12 15:13:41 tags: [python,reptile]
categories: [python,reptile]
Python 简单数据处理
互联网中常见的数据基本基于 json xml 或者 html。本文介绍几种个人常用的组件，下载方式自行搜索，文中api仅供参考
json
Python自带json库，转换后和字典的操作方式相同
常用api：
- json.loads() 字符转json
- json.dumps() json转字符
xml
xml转换用的lxml组件 或 minidom组件
lxml常用api：
- xml_obj = etree.fromstring() 字符转xml
- xml.find('') 查找节点
- root = Element("xml") 创建xml root节点
- sub = SubElement(root,'xx') 创建子节点
- sub.text = '' 子节点赋值
- etree.tostring(root, "UTF-8") xml转字符串
*. minidom也可使用
html
html用的BeautifulSoup4库进项处理，html相对前两种来说相对复杂，我们需要提取到数据往往需要很多步骤，这种需要发现网页代码规律尽量找唯一性较高参数进行抓取。
常用api：
- html = BeautifulSoup(house_html, 'lxml') 创建html对象
- html.find_all('li', attrs={'class': 'list-item', 'data-from': ''}) 查找标签 可自定属性和类别查询
- .find(class_='house-title').a['title'] 单个查询节点下的信息
使用中还可配合正则实现查询精准信息