Python股票历史数据的获取 - tan_2810

时间:2024-02-20 12:08:45

Python股票历史数据的获取

获取股票数据的接口很多,免费的接口有新浪、网易、雅虎的API接口,收费的就是证券公司及相应的公司提供的接口。
收费试用的接口一般提供的数据只是最近一年或三年的,限制比较多,除非money足够多。
所以本文主要讨论的是免费数据的获取及处理。

国内提供股票数据的接口如sinajs,money.163.com,yahoo,它们提供的API接口不同,每家提供的数据大同小异,可以选择一家的数据来处理。

目前,国内有一个开源的财经数据获取包,封装了上述的接口,不需关系数据源从哪去,它会优先从最快的源来取数据。使用起来非常方便。它是TuShare,具体的安装使用见链接。

本文基于TuShare的数据获取基础上开发,介绍如何获取A股所有股票的历史K线数据。
一、获取A股上市公司列表
import tushare as ts
import pandas as pd
def download_stock_basic_info():

    try:
       df = ts.get_stock_basics()
       #直接保存到csv
       print \'choose csv\'
       df.to_csv(\'stock_basic_list.csv\');
       print \'download csv finish\'
股票列表中包括当前A股的2756只股票的基本信息,包括:
code,代码
name,名称
industry,所属行业
area,地区
pe,市盈率
outstanding,流通股本
totals,总股本(万)
totalAssets,总资产(万)
liquidAssets,流动资产
fixedAssets,固定资产
reserved,公积金
reservedPerShare,每股公积金
eps,每股收益
bvps,每股净资
pb,市净率
timeToMarket,上市日期
二、获取单只股票的历史K线

获取的日K线数据包括:

date : 交易日期 (index)
open : 开盘价(前复权,默认)
high : 最高价(前复权,默认)
close : 收盘价(前复权,默认)
low : 最低价(前复权,默认)
open_nfq : 开盘价(不复权)
high_nfq : 最高价(不复权)
close_nfq : 收盘价(不复权)
low_nfq : 最低价(不复权)
open_hfq : 开盘价(后复权)
high_hfq : 最高价(后复权)
close_hfq : 收盘价(后复权)
low_hfq : 最低价(后复权)
volume : 成交量
amount : 成交金额

下载股票代码为code的股票历史K线,默认为上市日期到今天的K线数据,支持递增下载,如本地已下载股票60000的数据到2015-6-19,再次运行则会从6.20开始下载,追加到本地csv文件中。

# 默认为上市日期到今天的K线数据
# 可指定开始、结束日期:格式为"2015-06-28"
def download_stock_kline(code, date_start=\'\', date_end=datetime.date.today()):

    code = util.getSixDigitalStockCode(code) # 将股票代码格式化为6位数字

    try:
       fileName = \'h_kline_\' str(code) \'.csv\'

       writeMode = \'w\'
       if os.path.exists(cm.DownloadDir fileName):
           #print (">>exist:" code)
           df = pd.DataFrame.from_csv(path=cm.DownloadDir fileName)

           se = df.head(1).index #取已有文件的最近日期
           dateNew = se[0] datetime.timedelta(1)
           date_start = dateNew.strftime("%Y-%m-%d")
           #print date_start
           writeMode = \'a\'

       if date_start == \'\':
           se = get_stock_info(code)
           date_start = se[\'timeToMarket\'] 
           date = datetime.datetime.strptime(str(date_start), "%Y%m%d")
           date_start = date.strftime(\'%Y-%m-%d\')
       date_end = date_end.strftime(\'%Y-%m-%d\')  

       # 已经是最新的数据
       if date_start >= date_end:
           df = pd.read_csv(cm.DownloadDir fileName)
           return df

       print \'download \' str(code) \' k-line >>>begin (\', date_start u\' 到 \' date_end \')\'
       df_qfq = ts.get_h_data(str(code), start=date_start, end=date_end) # 前复权
       df_nfq = ts.get_h_data(str(code), start=date_start, end=date_end) # 不复权
       df_hfq = ts.get_h_data(str(code), start=date_start, end=date_end) # 后复权

       if df_qfq is None or df_nfq is None or df_hfq is None:
           return None

       df_qfq[\'open_no_fq\'] = df_nfq[\'open\']
       df_qfq[\'high_no_fq\'] = df_nfq[\'high\']
       df_qfq[\'close_no_fq\'] = df_nfq[\'close\']
       df_qfq[\'low_no_fq\'] = df_nfq[\'low\']
       df_qfq[\'open_hfq\']=df_hfq[\'open\']
       df_qfq[\'high_hfq\']=df_hfq[\'high\']
       df_qfq[\'close_hfq\']=df_hfq[\'close\']
       df_qfq[\'low_hfq\']=df_hfq[\'low\']

       if writeMode == \'w\':
           df_qfq.to_csv(cm.DownloadDir fileName)
       else:

           df_old = pd.DataFrame.from_csv(cm.DownloadDir fileName)

           # 按日期由远及近
           df_old = df_old.reindex(df_old.index[::-1])
           df_qfq = df_qfq.reindex(df_qfq.index[::-1])

           df_new = df_old.append(df_qfq)
           #print df_new

           # 按日期由近及远
           df_new = df_new.reindex(df_new.index[::-1])
           df_new.to_csv(cm.DownloadDir fileName)
           #df_qfq = df_new

       print \'\ndownload \' str(code)   \' k-line finish\'
       return pd.read_csv(cm.DownloadDir fileName)

    except Exception as e:
       print str(e)        


    return None
##  private methods  ##
#######################

# 获取个股的基本信息:股票名称,行业,地域,PE等,详细如下
#    code,代码
#    name,名称
#    industry,所属行业
#    area,地区
#    pe,市盈率
#    outstanding,流通股本
#    totals,总股本(万)
#    totalAssets,总资产(万)
#    liquidAssets,流动资产
#    fixedAssets,固定资产
#    reserved,公积金
#    reservedPerShare,每股公积金
#    eps,每股收益
#    bvps,每股净资
#    pb,市净率
#    timeToMarket,上市日期
# 返回值类型:Series
def get_stock_info(code):
    try:
       sql = "select * from %s where code=\'%s\'" % (STOCK_BASIC_TABLE, code)
       df = pd.read_sql_query(sql, engine)
       se = df.ix[0]
    except Exception as e:
       print str(e)
    return se
三、获取所有股票的历史K线

# 获取所有股票的历史K线
def download_all_stock_history_k_line():
    print \'download all stock k-line\'
    try:
       df = pd.DataFrame.from_csv(cm.DownloadDir cm.TABLE_STOCKS_BASIC \'.csv\')
       pool = ThreadPool(processes=10)
       pool.map(download_stock_kline, df.index)
       pool.close()
       pool.join()  

    except Exception as e:
       print str(e)
    print \'download all stock k-line\'
Map来自函数语言Lisp,map函数能够按序映射出另一个函数。

urls = [\'http://www.yahoo.com\', \'http://www.reddit.com\']
results = map(urllib2.urlopen, urls)

有两个能够支持通过map函数来完成并行的库:一个是multiprocessing,另一个是鲜为人知但功能强大的子文件:multiprocessing.dummy。
Dummy就是多进程模块的克隆文件。唯一不同的是,多进程模块使用的是进程,而dummy则使用线程(当然,它有所有Python常见的限制)。

通过指定processes的个数来调用多线程。

附:文中用到的其他函数及变量,定义如下:
TABLE_STOCKS_BASIC = \'stock_basic_list\'
DownloadDir = os.path.pardir \'/stockdata/\' # os.path.pardir: 上级目录

# 补全股票代码(6位股票代码)
# input: int or string
# output: string
def getSixDigitalStockCode(code):
    strZero = \'\'
    for i in range(len(str(code)), 6):
       strZero = \'0\'
    return strZero str(code)