Python操作SQLite/MySQL/LMDB

Posted 骑着螞蟻流浪

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Python操作SQLite/MySQL/LMDB相关的知识，希望对你有一定的参考价值。

1.概述

1.1前言

　　最近在存储字模图像集的时候，需要学习LMDB，趁此机会复习了SQLite和MySQL的使用，一起整理在此。

1.2环境

　　使用win7，Python 3.5.2。

2.SQLite

2.1准备

　　SQLite是一种嵌入式数据库，它的数据库就是一个文件。Python 2.5x以上版本内置了SQLite3，使用时直接import sqlite3即可。

2.2操作流程

　　概括地讲，操作SQLite的流程是：

　　　　·通过sqlite3.open()创建与数据库文件的连接对象connection

　　　　·通过connection.cursor()创建光标对象cursor

　　　　·通过cursor.execute()执行SQL语句

　　　　·通过connection.commit()提交当前的事务，或者通过cursor.fetchall()获得查询结果

　　　　·通过connection.close()关闭与数据库文件的连接

　　详细的sqlite3模块API可以看这里：SQLite - Python

　　总结起来就是用cursor.execute()执行SQL语句，改变数据（插入、删除、修改）时用connection.commit()提交变更，查询数据时用cursor.fetchall()得到查询结果。

2.3操作实例

2.3.1建立数据库与建立表

#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author   : MaYi
# Blog     : http://www.cnblogs.com/mayi0312/
# Date     : 2019-11-07
# Name     : test01
# Software : PyCharm
# Note     : 
import sqlite3


# 创建连接
conn = sqlite3.connect("test.db")
# 创建光标
cur = conn.cursor()
# 执行（创建数据表的）SQL语句
cur.execute("CREATE TABLE IF NOT EXISTS students (sid INTEGER PRIMARY KEY, name TEXT)")
# 提交
conn.commit()
# 关闭连接
conn.close()

　　这里conn是与数据库文件test.db的连接对象，cur是conn的光标对象，通过cur.execute()执行建表操作，创建了简单的学生信息表（学号, 名字），通过conn.commit()提交，最后用conn.close()关闭连接。

　　创建连接时，发现数据库文件不存在时会自动创建，这里使用了文件“test.db”，也可以使用“:memory:”建立内存数据库。

2.3.2插入、删除、修改

　　为了便于多次运行，直接使用了内存数据库：

#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author   : MaYi
# Blog     : http://www.cnblogs.com/mayi0312/
# Date     : 2019-11-07
# Name     : test01
# Software : PyCharm
# Note     : 
import sqlite3


# 创建链接
conn = sqlite3.connect(":memory:")
# 创建光标
cur = conn.cursor()
# 执行（创建数据表的）SQL语句
cur.execute("CREATE TABLE students (sid INTEGER PRIMARY KEY, name TEXT)")
# 执行（插入）SQL语句
cur.execute("INSERT INTO students VALUES(?, ?)", (1, "Alice"))
cur.execute("INSERT INTO students VALUES(?, ?)", (2, "Bob"))
cur.execute("INSERT INTO students VALUES(?, ?)", (3, "Peter"))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # [(1, \'Alice\'), (2, \'Bob\'), (3, \'Peter\')]
# 执行（删除）SQL语句
cur.execute("DELETE FROM students WHERE sid = ?", (1,))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # [(2, \'Bob\'), (3, \'Peter\')]
# 执行（修改）SQL语句
cur.execute("UPDATE students SET name = ? WHERE sid = ?", ("Mark", 3))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # [(2, \'Bob\'), (3, \'Mark\')]
# 关闭链接
conn.close()

　　做的事情还就非常简单易懂的，向学生信息表中插入(1, Alice)、(2, Bob)、(3, Peter)三条记录，删除(1, Alice)，修改(3, Peter)为(3, Mark)。插入、删除、修改后查询数据库中的内容并打印出来。

“?”是sqlite3中的占位符，execute时会用第二个参数元组里的元素按顺序替换。官方文档里建议出于安全考虑，不要直接用Python做字符串拼接。

　　另外，注意不需要每次execute后调用commit。

2.3.3查询

　　直接用上面的代码：

# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # [(2, \'Bob\'), (3, \'Peter\')]

　　fetchall()返回的是记录数组，可能通过WHERE子句做更细致的选择。

3.MySQL

3.1准备

　　安装MySQL：略（百度）

　　安装pymysql：

pip install PyMySQL

3.2操作流程

　　同为关系型数据库，MySQL的操作方法与SQLite是大同小异的。建立连接对象与光标对象，用execute()执行SQL语句，commit()提交事物，fetchall()获得所有查询结果。

3.3操作实例

3.3.1建立与数据库连接与建立表

　　准备工作：

　　　　-   已经创建了数据库TESTDB

　　　　-   连接数据库TESTDB使用的用户名为“mayi”，密码为“test123”，你可以自己设定或者直接使用root用户名及其密码。

　　·数据库连接

#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author   : MaYi
# Blog     : http://www.cnblogs.com/mayi0312/
# Date     : 2019-11-07
# Name     : test02
# Software : PyCharm
# Note     : 
# 导入模块
import pymysql

# 创建数据库连接
conn = pymysql.connect(
    host="localhost",
    port=3306,
    db="testdb",
    user="mayi",
    password="test123",
    charset="utf8")
# 创建游标
cur = conn.cursor()
# 执行SQL语句（查询Mysql版本）
cur.execute("SELECT VERSION()")
# 获取单条数据
data = cur.fetchone()
# 打印：Database version: 5.7.17-log 
print("Database version: %s " % data)
# 关闭数据库连接
conn.close()

　　·建立表

　　如果数据库连接存在我们可以使用execute()方法来为数据库创建表，如下所示创建表students

#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author   : MaYi
# Blog     : http://www.cnblogs.com/mayi0312/
# Date     : 2019-11-07
# Name     : test02
# Software : PyCharm
# Note     : 
# 导入模块
import pymysql

# 创建数据库连接
conn = pymysql.connect(
    host="localhost",
    port=3306,
    db="testdb",
    user="mayi",
    password="test123",
    charset="utf8")
# 创建游标
cur = conn.cursor()
# 执行SQL语句，如果表存在则删除
cur.execute("DROP TABLE IF EXISTS students")
# 使用预处理语句创建表
cre_sql = """CREATE TABLE students (
        sid INT(4) PRIMARY KEY,
        name VARCHAR(10)
        )"""
# 执行SQL语句（建表）
cur.execute(cre_sql)

# 关闭数据库连接
conn.close()

3.3.2插入、删除、修改

#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author   : MaYi
# Blog     : http://www.cnblogs.com/mayi0312/
# Date     : 2019-11-07
# Name     : test02
# Software : PyCharm
# Note     : 
# 导入模块
import pymysql

# 创建数据库连接
conn = pymysql.connect(
    host="localhost",
    port=3306,
    db="testdb",
    user="mayi",
    password="test123",
    charset="utf8")
# 创建游标
cur = conn.cursor()

# 执行（插入）SQL语句
cur.execute("INSERT INTO students(sid, name) VALUES(%s, \'%s\')" % (1, \'Alice\'))
cur.execute("INSERT INTO students(sid, name) VALUES(%s, \'%s\')" % (2, \'Bob\'))
cur.execute("INSERT INTO students(sid, name) VALUES(%s, \'%s\')" % (3, \'Peter\'))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # ((1, \'Alice\'), (2, \'Bob\'), (3, \'Peter\'))
# 执行（删除）SQL语句
cur.execute("DELETE FROM students WHERE sid = %s" % (1,))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # ((2, \'Bob\'), (3, \'Peter\'))
# 执行（修改）SQL语句
cur.execute("UPDATE students SET name = \'%s\' WHERE sid = %s" % (\'Mark\', 3))
# # 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # ((2, \'Bob\'), (3, \'Mark\'))
# 提交
conn.commit()
# 关闭数据库连接
conn.close()

3.3.3查询

　　Python查询MySQL使用fetchone()方法获取单条数据，使用fetchall()方法获取多条数据。

　　　　·fetchone()：该方法获取下一个查询结果集。结果集是一个对象。

　　　　·fetchall()：接收全部的返回结果条。

　　　　·rowcount：这是一个只读属性，并返回执行execute()方法后影响的行数。

#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author   : MaYi
# Blog     : http://www.cnblogs.com/mayi0312/
# Date     : 2019-11-07
# Name     : test02
# Software : PyCharm
# Note     : 
# 导入模块
import pymysql

# 创建数据库连接
conn = pymysql.connect(
    host="localhost",
    port=3306,
    db="testdb",
    user="mayi",
    password="test123",
    charset="utf8")
# 创建游标
cur = conn.cursor()

# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
# 返回影响的行数
print(cur.rowcount)  # 2
# 取一条数据
print(cur.fetchone())  # (2, \'Bob\')
# 取剩下所有数据
print(cur.fetchall())  # ((3, \'Mark\'),)
# 关闭数据库连接
conn.close()

4.LMDB

4.1准备

　　LMDB和SQLite/MySQL等关系型数据库不同，属于key-value数据库（把LMDB想成dict会比较容易理解），键key与值value都是字符串。

　　安装：

pip install lmdb

　　使用时import lmdb

4.2操作流程

　　概况地讲，操作LMDB的流程是：

　　　　·通过env = lmdb.open()打开环境

　　　　·通过txn = env.begin()建立事务

　　　　·通过txn.put(key, value)进行插入和修改

　　　　·通过txn.delete(key)进行删除

　　　　·通过txn.get(key)进行查询

　　　　·通过txn.cursor()进行遍历

　　　　·通过txn.commit()提交更改

4.3操作实例

4.3.1建立环境

#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author   : MaYi
# Blog     : http://www.cnblogs.com/mayi0312/
# Date     : 2019-11-07
# Name     : test03
# Software : PyCharm
# Note     : 
import lmdb


# 打开环境
env = lmdb.open("students")

　　运行一下，查看当前目录的变化：

 　　可以看到当前目录下多了students目录，里面有data.mdb和lock.mdb两个文件。

4.3.2插入、删除、修改

　　插入与修改都用put实现，删除用delete实现。

import lmdb


# 打开环境
env = lmdb.open("students")
# 建立事务
txn = env.begin(write=True)
# 插入三条记录
txn.put(b"1", b"Alice")
txn.put(b"2", b"Bob")
txn.put(b"3", b"Peter")
# 删除key="1"的记录
txn.delete(b"1")
# 修改key="3"的值为"Mark"
txn.put(b"3", b"Mark")
# 提交更改
txn.commit()

　　注意用txn=env.begin()创建事务时，有write=True才能够写数据库。

4.3.3查询

　　查音箱记录用get(key)，遍历数据库用cursor。

import lmdb


# 打开环境
env = lmdb.open("students")
# 建立事务
txn = env.begin()
# 查询单条记录
print(txn.get(b"3"))  # b\'Mark\'
# b\'2\' b\'Bob\'
# b\'3\' b\'Mark\'
for key, value in txn.cursor():
    print(key, value)
# 提交更改
txn.commit()

5.学习总结

　　最后回顾一下，SQLite与MySQL都是关系型数据库，操作时创建连接对象connection与光标对象cursor，通过execute执行SQL语句，commite提交变更，fetch得到查询结果；LMDB是key-value数据库，操作时建立与数据库的连接，用put/delete改变数据，用get获取数据。

以上是关于Python操作SQLite/MySQL/LMDB的主要内容，如果未能解决你的问题，请参考以下文章

Python数据库操作 Python操作mysql#学习猿地

Python基础篇第2篇: Python文件操作

redis python 操作 Python操作Redis数据库

python操作数据库

python操作mysql

python操作mysql