我是靠谱客的博主 激情奇异果,最近开发中收集的这篇文章主要介绍python mysql写入速度加快_python,mysql_大神帮忙看下20行的python代码,文件io和数据库插入太慢,python,mysql,mysql优化 - phpStudy...,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

大神帮忙看下20行的python代码,文件io和数据库插入太慢

新学python,在做一个把爬虫爬下来的股票数据从文件插入到mysql数据库,速度很慢,不知道瓶颈是文件处理还是sql插入问题,望大神不吝赐教,感激不尽!

# encoding: utf-8

#!/usr/bin/python

import MySQLdb

import os

db = MySQLdb.connect(host="localhost",user="root",passwd="4242",

db="STOCKS", charset="utf8", use_unicode=True)

cursor = db.cursor()

files = os.listdir("shanghaiHistory")

for fileName in files:

print "start insert " + fileName

isTheFirstLine = True

for line in open("shanghaiHistory/" + fileName):

if isTheFirstLine:

isTheFirstLine = False

continue

lineList = line.split(',')

lineList.insert(0,fileName[:6])

sql = "insert into shanghaiHistory(Code,Date,Open,High,Low,Close,Volume,AdjClose)

values ('%s','%s','%s','%s','%s','%s','%s','%s')" % tuple(lineList)

try:

cursor.execute(sql)

db.commit()

except:

db.rollback()

db.close()

文件格式是形如:

Date,Open,High,Low,Close,Volume,Adj Close

2012-12-21,0.9151,0.9151,0.9151,0.9151,000,0.9151

2012-12-20,0.896,0.898,0.896,0.898,22924300,0.898

2012-12-19,0.895,0.898,0.895,0.897,37858100,0.897

2012-12-18,0.896,0.896,0.895,0.896,43542500,0.896

2012-12-17,0.895,0.897,0.895,0.896,41877700,0.896

2012-12-14,0.895,0.897,0.894,0.897,35734700,0.897

2012-12-13,0.894,0.896,0.894,0.895,11613800,0.895

2012-12-12,0.89,0.895,0.89,0.894,26586500,0.894

两个多小时才插入45W条数据,怎么才能提速一点呢.

相关阅读:

avoscloud中的ios实时通信 如何知道消息到达?

express生成器生成的项目如何使用 socket.io?

iOS 9 跳转系统设置, 返回后不调用viewWillAppear, 无法刷新页面数据, 谁有思路?

mysql 联合查询在数据库里测试时正确,通过php操作就不对了?

在局域网范围内如何确定应用层数据包之间的请求响应关系?

Vue.js的平行组件之间如何互相通信?

关于backbone.js里的model.set和model.get

zabbix的监控的历史图形

如何删除Android ExpandableListView中某个group item的child item?

angularjs 视频全屏切换

Mysql在插入数据的工作方式。

写直播播放器。是不是我使用插件后。就不用学as?

jquery是如何开发的?

css3 动画问题

js 中参数是按值传递的,但声明对象时又是引用指向某个对象的,该怎么理解?

关于nodejs作为中间层的疑问

如果想成为mysql dba应该看什么书?

AngularJS操作ng-show指令

PHP处理大量数据的问题

javacript的面向对象思想体现在哪里?

最后

以上就是激情奇异果为你收集整理的python mysql写入速度加快_python,mysql_大神帮忙看下20行的python代码,文件io和数据库插入太慢,python,mysql,mysql优化 - phpStudy...的全部内容,希望文章能够帮你解决python mysql写入速度加快_python,mysql_大神帮忙看下20行的python代码,文件io和数据库插入太慢,python,mysql,mysql优化 - phpStudy...所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(31)

评论列表共有 0 条评论

立即
投稿
返回
顶部