sqlite3数据库最大可以是多大？可以存放多少数据？读写性能怎么样？

Posted 2021-12-02 derekhan

sqlite是款不错的数据库，使用方便，不需要事先安装软件，事先建表。很多人担心它的性能和数据存储量问题。

比如有的网友问：Sqlite数据库最大可以多大呀？会不会像acc数据库那样，几十MB就暴掉了？
不会的，放心用SQLite, 这是两个数量级的东西, 看下面的说明。
Access不能算真正意义上的数据库，但是Access是前台和后台在一起，对小用户还是有其优点。
SQLite，是一款轻型的数据库，是遵守ACID的关系型数据库管理系统，它的设计目标是嵌入式的，而且目前已经在很多嵌入式产品中使用了它，它占用资源非常的低，在嵌入式设备中，可能只需要几百K的内存就够了。它能够支持Windows/Linux/Unix等等主流的操作系统，同时能够跟很多程序语言相结合，比如 Tcl、C#、php、Java等，还有ODBC接口，同样比起mysql、PostgreSQL这两款开源的世界著名数据库管理系统来讲，它的处理速度比他们都快。SQLite第一个Alpha版本诞生于2000年5月。 至今已经有14个年头，SQLite也迎来了一个版本 SQLite 3已经发布。 

根据SQLite的官方提示：http://www.sqlite.org/limits.html
SQLIte数据库最大支持128TiB(140 terabytes, or 128 tebibytes, or 140,000 gigabytes or 128,000 gibibytes).

此外，关于性能。本人也在网上查了大量资料：

在2011年，有网友发表观点：
“不得了了，在7G文件大小下，6千万条记录的有索引某个表中，查询条件如果是索引字段，不管什么位置，查询都不要1ms时间。”
“但如果查询条件不是索引字段的话，最后一条记录的查询竟然需要589秒啊，不是ms啊。在1千万条记录前插入1百万条记录需要120秒，在6千万条记录后插入1百万条记录需要156秒。“

SQLite极致性能提升方法:
关闭同步，Synchronous=Off，提升性能。添删改操作时不必同步等待写入磁盘，操作系统会延迟若干毫秒批量写入
设置WAL模式，Journal Mode=WAL，减少锁定。写入向前日志模式，避免多线程访问时锁定数据库，写入时不必使用排它锁影响其它线程读取，而是把事务操作写入到WAL文件中，延迟合并
加大缓存，Cache Size=5000，提升性能。操作系统通过文件映射MapFile把整个数据库文件映射进入内存，实际查询时会把用到数据所在附近页预先加载进入缓存，极大提升查询性能
插入速度 5000~16000tps，依赖CPU，HDD/SSD差别不大，主要受限于SQLite.Data.dll的Prepare
查询速度 非首次查询，缓存命中以后，索引查询基本上都是毫秒级。数据库较大则相应加大缓存，速度不变。
查记录数 单表数据超过一千万行以后，尽量不要使用Select Count，否则可能需要十几秒到半分钟的样子才能返回。NewLife.XCode封装了‘Meta.Count‘

当然，SQLite不适合多线程高并发写入，多线程高并发读取倒是非常不错。
因为数据库就在进程内，高并发读取一般比其它RDS要快一大截。
总的来说，SQLite数据库甭管多少数据多大库文件，只要配置得当，内存管够，性能不是太大问题！

SQLite大数据测试
为了验证SQLite的性能巅峰，我们来做一个大数据测试。
模拟每天4亿票销售订单，分表分库，每天一个数据库文件，有订单号、部门节点、时间等。
1, Test项目生成4亿行订单数据，主键自增ID，订单号建立索引，文件大小26.5G
2, Web项目，魔方+XCode，首次查询较慢，约427毫秒，需要预热
不同机器的首次查询时间偏差比较大，最大可能达到几秒钟
本机第一次启动该项目时，魔方需要从公网下载SQLite驱动文件以及样式资源文件
3, 第二页，99毫秒，操作系统文件映射缓存生效
4, 第20000页，147毫秒，系统缓存依然生效
5, 第200000页，32021毫秒，距离太远，文件系统缓存没有命中
6, 第200001页，867毫秒，缓存命中
7, 查询一个中间订单号000199999980，20毫秒，索引命中
显然，只要有索引，多大数据都不怕。
8, 本地内存占用150M。虽然整个数据库26.5G，但操作系统只会加载需要部分
对于重要程度不是特别高的场合，可以大量使用SQLite库保存历史数据，平时用不到的时候只占硬盘，不占内存
9, 记录数Select Count(select count(*)from xxx)，362058毫秒，约6分钟，超级慢，这建议进行这种操作。