pymysql|pymysql 插入数据 转义处理方式
最近用pymysql把一些质量不是很高的数据源导入mysql数据库的时候遇到一点问题,主要是遇到像 \ 这样的具有特殊意义的字符时比较难处理。这里有一个解决方案
基本环境
python3问题描述
pymysql
linux
插入(查询)数据时遇到一些特殊字符会使得程序中断。操作失败。比如 \这样的转义字符
解决方案
插入(查询)之前用 connection.escape(str)处理一下即可
代码示例
import pymongosql_pattern = "select * from my_collection where name = %s" #注意,这里直接用%s,不要给%s加引号,因为后面转移过后会自动加引号name = "xxx\xxx"name = connection.escape(name)sql = sql_pattern%nameprint(sql) # select * from my_collection where name = 'xxx\\xxx'with connection.cursor() as cursor: try:cursor.execute(sql) except:print(sql)pass for r in cursor:print(r)
补充拓展:利用 pymysql 往数据库插入百万条数据
思路:
先创建一个自定义的数据库表;
生成一个列表,列表中的数据应该和数据库表中的每一列对应;
利用cursor.executemany 批量插入列表中的数据。
注意点:
批量添加数据时,数据格式必须list[tuple(),tuple(),tuple()] 或者tuple(tuple(),tuple(),tuple())
代码解析:
# -*- coding: utf-8 -*-# Author:benjaminimport pymysql# 创建连接conn = pymysql.connect(host='192.168.214.128', port=3306, user='root', passwd='ben123', db='db2')# 创建游标cursor = conn.cursor()def createTable(): ''' 创建数据库表 :return: ''' try:sql = '''create table mytable (nid int not null auto_increment primary key,name varchar(255) not null,email varchar(255) not null,extra text)engine=innodb default charset=utf8'''cursor.execute(sql)conn.commit()print('create table ok!') except Exception as e:print(e)def myList(value): ''' 生成一个列表,[('admin1', 'admin1qq.com', 'hahaadmin1'),...] :param value: 自定义的数据量 :return: new_list ''' new_list = [] # 新建一个空列表用来存储元组数据 for i in range(1, value + 1):name = 'admin'+ str(i)email = name + '@qq.com'extra = 'I am '+ nametup = (name,email,extra) # 构造元组new_list.append(tup) # [(),(),()...] print("*"*5+"generate list ok"+"*"*5) return new_listdef myInsert(newList): ''' 数据库插入 :param newList: 传入的列表数据 :return: ''' try:sql = "insert into mytable(name,email,extra) values(%s,%s,%s)" # 要插入的数据cursor.executemany(sql,newList) # 执行插入数据conn.commit()cursor.close()conn.close()print('insert ok') except Exception as e:print(e)if __name__ == '__main__': # 创建数据表 createTable() # 选择要插入的数据量 value = https://www.it610.com/article/1000000 # 定义数据量 newList = myList(value) myInsert(newList)
【pymysql|pymysql 插入数据 转义处理方式】以上这篇pymysql 插入数据 转义处理方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。
推荐阅读
- 数据库索引的作用
- 小记
- 大数据课设&毕设|大数据接私活200元,做个简易的HDFS浏览器(一)
- 数据结构|深入理解数据结构原理(1)—栈(Stack)
- 软件工程-分层数据流图的画法
- 减肥能否成功(自测这个数据,也许能知道|减肥能否成功?自测这个数据,也许能知道| 第19日,共减重20斤)
- yolov4训练自己的数据|yolov4训练自己的数据 灰度图像_【AI实战】手把手教你深度学习文字识别(文字检测篇(基于MSER, CTPN, SegLink, EAST等方法)...)
- GD32|GD32F103/303串口+空闲中断连续接收数据
- 推荐 | 一体化实时 HTAP 数据库 StoneDB,如何替换 MySQL 并实现近百倍性能提升
- PHP实现导入大量CSV数据的示例代码