概述
当TXT文件太大,计算机内存不够时,我们可以选择按行读取TXT文件,并将其存储进Python内置轻量级splite数据库,这样可以加快数据的读取速度,当我们需要重复读取数据时,这样的速度加快所带来的时间节省是非常可观的,比如,当我们在训练数据时,要迭代10万次,即要从文件中读取10万次,即使每次只加快0.1秒,那么也能节省几个小时的时间了。
#创建数据库并把txt文件的数据存进数据库
import sqlite3
#导入sqlite3
cx = sqlite3.connect('./train.db')
#创建数据库,如果数据库已经存在,则链接数据库;如果数据库不存在,则先创建数据库,再链接该数据库。
cu = cx.cursor()
#定义一个游标,以便获得查询对象。
cu.execute('create table if not exists train4 (id integer primary key,name text)')
#创建表
fr = open('data_sample.txt')
#打开要读取的txt文件
i = 0
for line in fr.readlines():
#将数据按行插入数据库的表train4中。
cu.execute('insert into train4 values(?,?)',(i,line))
i +=1
cu.close()
#关闭游标
cx.commit()
#事务提交
cx.close()
#关闭数据库
查询数据:
cu.execute('select * from train4 where id = ?',(i,))
#i代表你要读取表train4中某一行的数据
result = cu.fetchall()
PS:如果前面已经关闭了数据库,那么在查询时要重新打开数据库,并创建游标。这一点要注意一下。
完整的查询程序是这样的:
import sqlite3
cx = sqlite3.connect('./train.db')
cu = cx.cursor()
for i in range(5):
cu.execute('select * from train4 where id = ?',(i,))
result = cu.fetchall()
cx.commit()
cu.close()
cx.close()
最后
以上就是从容鞋垫为你收集整理的将TXT文件数据存进Python内置数据库splite3的全部内容,希望文章能够帮你解决将TXT文件数据存进Python内置数据库splite3所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复