Python學習教程：手把手教你搭建自己的量化分析數據庫
引言：
數據是金融量化分析的重要基礎，包括股票歷史交易數據、上市公司基本面數據、宏觀和行業數據等。隨著信息流量的日益膨脹，學會獲取、查詢和加工數據信息變得越來越重要。對于鼓搗量化交易的人來說，怎么能說不會玩數據庫呢？目前常用的開源（免費）數據庫有MySQL、Postgresql 、Mongodb 和 SQLite （Python自帶），在2018-2019年DB-Engines 排行榜上位居前十（見下圖），可見其使用量和受歡迎程度較高。這幾個數據庫各有自己的特點和適用環境，關于該學習哪一個或如何學習網上有很多相關資料。本文主要為大家簡單介紹如何使用 Python 操作 Postgresql 數據庫（其他數據庫類似），利用 psycopg2 和 sqlalchemy 實現 postgresql 與 pandas 的 dataframe 進行交互，一步步搭建自己的量化分析數據庫。
PostgreSQL的安裝與使用
安裝 PostgreSQL。到其官網選擇適合自己電腦配置的版本下載安裝即可，安裝過程除了設置密碼（本文設置為“123456”），其他可選擇全部默認，如實在不會可參考CSDN上的文章：PostgreSQL安裝詳細步驟（windows）。安裝完之后在安裝目錄里還可以看到pgAdmin4，這個是自帶的數據庫圖形化工具，最新版是Web 應用程序，有點類似 Python 的 Jupyter Notebook，可用來查看和操作postgresql 數據庫。
Python上安裝psycopg2 和 sqlalchemy 庫。psycopg2 是 Python 連接PostgreSQL數據庫的接口，sqlalchemy 應用更廣泛，可連接數據庫（MySQL, SQLite, PostgreSQL），尤其是對于 pandas 的dataframe型數據，操作起來十分方便。關于這兩個 python 庫的介紹網上有很多，這里不詳細展開，在cmd上使用pip install xxx 進行安裝即可。
實例應用
首先，使用 tushare 獲取3000多只股票行情數據到本地，使用psycopg2 和 sqlalchemy 為接口，將數據存入本地PostgreSQL數據庫中，方便進一步查詢和操作。
#先引入后面分析、可視化等可能用到的庫
import tushare as ts
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
#正常顯示畫圖時出現的中文和負號
from pylab import mpl
mpl.rcParams['font.sans-serif']=['SimHei']
mpl.rcParams['axes.unicode_minus']=False
#設置token
token='輸入你的token'
pro = ts.pro_api(token)
數據獲取函數，默認時間可以隨時改動。
#如果報錯，把tushare升級到最新
def get_data(code,start='20190101',end='20190425'):
df=ts.pro_bar(ts_code=code, adj='qfq', start_date=start, end_date=end)
return df
股票代碼獲取函數，獲取最新交易日的代碼。
#獲取當前交易日最新的股票代碼和簡稱
def get_code():
codes = pro.stock_basic(list_status='L').ts_code.values
return codes
插入PostgreSQL 數據庫操作，函數里使用了try…except…pass是為了避免某些數據出錯導致程序崩潰。
from sqlalchemy import create_engine
import psycopg2
engine = create_engine('postgresql+psycopg2://postgres:123456@localhost:5432/postgres')
def insert_sql(data,db_name,if_exists='append'):
#使用try...except..continue避免出現錯誤，運行崩潰
try:
data.to_sql(db_name,engine,index=False,if_exists=if_exists)
#print(code+'寫入數據庫成功')
except:
pass
由于行情數據量龐大，下載比較慢，先下載20190101至20190425期間日交易
數據，后續再不斷更新。
#下載20190101-20190425數據并插入數據庫stock_data
#此步驟比較耗費時間，大致25-35分鐘左右
for code in get_code():
data=get_data(code)
insert_sql(data,'stock_data')
#讀取整張表數據
df=pd.read_sql('stock_data',engine)
print(len(df))
#輸出結果：270998
#選取ts_code=000001.SZ的股票數據
df=pd.read_sql("select * from stock_data where ts_code='000001.SZ'",engine)
print(len(df))
構建一個數據更新函數，可以下載和插入其他時間周期的數據。2018年1月1日至2019年4月25日，數據就已達到108萬條。
#更新數據或下載其他期間數據
def update_sql(start,end,db_name):
from datetime import datetime,timedelta
for code in get_code():
data=get_data(code,start,end)
insert_sql(data,db_name)
print(f'{start}:{end}期間數據已成功更新')
#下載20180101-20181231期間數據
#只需運行一次，不再運行后可以注釋掉
#下載數據比較慢，需要20-35分鐘左右
start='20180101'
end='20181231'
db_name='stock_data'
#數據下載和存入數據庫
update_sql(start,end,db_name)
#使用pandas的read_sql讀取數據
df_all_data=pd.read_sql('stock_data',engine)
print(len(df_all_data))
#輸出結果：1087050
#查看交易代碼和交易日期個數
print(len(df_all_data.ts_code.unique()))
print(len(df_all_data.trade_date.unique()))
#輸出結果：3604；319
d=df_all_data.trade_date.unique()
print(d.max())
print(d.min())
2019-04-25T00:00:00.000000000
2018-01-02T00:00:00.000000000
#獲取交易日2019年4月25日數據
pd.read_sql("select * from stock_data where trade_date='2019-04-25' ",engine).head()
構建數據查詢和可視化函數：
def plot_data(condition,title):
from pyecharts import Bar
from sqlalchemy import create_engine
engine = create_engine('postgresql+psycopg2://postgres:123456@localhost:5432/postgres')
data=pd.read_sql("select * from stock_data where+"+ condition,engine)
count_=data.groupby('trade_date')['ts_code'].count()
attr=count_.index
v1=count_.values
bar=Bar(title,title_text_size=15)
bar.add('',attr,v1,is_splitline_show=False,linewidth=2)
return bar
查詢股價低于2元個股數據分布
c1="close<2"
t1="股價低于2元個股時間分布"
plot_data(c1,t1)
Python學習教程：干貨實操—手把手教你搭建自己的量化分析數據庫
查詢股價日漲幅超過9.5%個股數據分布：
c2="pct_chg>9.5"
t2="股價漲幅超過9.5%個股時間分布"
plot_data(c2,t2)
查詢股價日跌幅超過-9.5%個股數據分布：
c3="pct_chg<-9.5"
t3="股價跌幅超過-9.5%個股時間分布"
plot_data(c3,t3)
結合選股策略對數據庫進行查詢和提取數據：
#篩選代碼
#獲取當前交易的股票代碼和名稱
def get_new_code(date):
#獲取當前所有交易股票代碼
df0 = pro.stock_basic(exchange='', list_status='L')
df1 =pro.daily_basic(trade_date=date)
df=pd.merge(df0,df1,on='ts_code')
#剔除2017年以后上市的新股次新股
df=df[df['list_date'].apply(int).values<20170101]
#剔除st股
df=df[-df['name'].apply(lambda x:x.startswith('*ST'))]
#剔除動態市盈率為負的
df=df[df.pe_ttm>0]
#剔除大市值股票
df=df[df.circ_mv<10**5]
#剔除價格高于20元股票
#df=df[df.close<20]
codes=df.ts_code.values
return codes
len(get_new_code('20190425'))
#輸出結果：46
import talib as ta
#20日均線交易策略
def find_stock(date):
f_code=[]
for code in get_new_code(date):
try:
data=df_all_data.loc[df_all_data.ts_code==code].copy()
data.index=pd.to_datetime(data.trade_date)
data=data.sort_index()
data['ma_20']=ta.MA(data.close,timeperiod=20)
if data.iloc[-1]['close']>data.iloc[-1]['ma_20']:
f_code.append(code)
except:
pass
return f_code
fs=find_stock('20190305')
print(f'篩選出的股票個數：{len(fs)}')
if fs:
df_find_stocks=pd.DataFrame(fs,columns=['ts_code'])
#將選出的股票存入數據庫，如果表已存在，替換掉，相當于每次更新
insert_sql(df_find_stocks,'find_stocks',if_exists='replace')
print('篩選的股票已入庫')
篩選出的股票個數：9
篩選的股票已入庫
#查看數據庫中篩選的股票池
codes=pd.read_sql('find_stocks',engine)
codes=codes.values.tolist()
codes=[c[0] for c in codes]
#print(codes)
對篩選的股票作進一步分析：
select_data=pd.DataFrame()
for code in codes:
try:
df_= df_all_data[df_all_data.ts_code.values==code]
df_.index=pd.to_datetime(df_.trade_date)
df_=df_.sort_index()
select_data[code]=df_.close
except:
pass
select_data.fillna(method='ffill',inplace=True)
select_data.tail()
ret=select_data.apply(lambda x:x/x.shift(1)-1)
ret=ret.dropna()
ret.tail()
prod_ret=ret.apply(lambda x:(1+x).cumprod())
prod_ret.plot(figsize=(12,5))
plt.xlabel('',fontsize=15)
plt.title('股票池累計凈值',size=15)
ax = plt.gca()
ax.spines['right'].set_color('none')
ax.spines['top'].set_color('none')
plt.show()
#根據代碼從數據庫中獲取數據
def get_data_from_sql(code):
from sqlalchemy import create_engine
engine = create_engine('postgresql+psycopg2://postgres:123456@localhost:5432/postgres')
data=pd.read_sql(f"select * from stock_data where ts_code='{code}'",engine)
data.index=pd.to_datetime(data.trade_date)
data=data.sort_index()
#計算20日均線
data['ma20']=data.close.rolling(20).mean()
return data
利用20日均線交易策略，搭建數據查詢和可視化函數kline_plot()，完整代碼將分享在知識星球上。對選出的股票日K線、20日均線、成交量、買入（buy）和賣出（sell）信號進行可視化，下面以002790.和300573股票的K線圖為例。
kline_plot('002790.SZ')
kline_plot('300573.SZ')
結語
數據庫操作其實要學的東西還很多，本文旨在拋磚引玉，簡單介紹使用Python 對 PostgreSQL 數據庫與 dataframe 型數據進行交互，一步步搭建自己的量化分析數據庫。由于文中用到的數據僅為百萬條左右，實際上使用excel的csv來讀寫也很快，并且比較直觀，但隨著數據的不斷增多，要建立自己完善的量化分析系統，數據庫的學習就顯得尤為重要。注意，文中所提及選股方式和股票代碼僅作為示例應用，不構成任何投資建議
更多文章、技術交流、商務合作、聯系博主
微信掃碼或搜索：z360901061
微信掃一掃加我為好友
QQ號聯系： 360901061
您的支持是博主寫作最大的動力，如果您喜歡我的文章，感覺我的文章對您有幫助，請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧，狠狠點擊下面給點支持吧，站長非常感激您！手機微信長按不能支付解決辦法：請將微信支付二維碼保存到相冊，切換到微信，然后點擊微信右上角掃一掃功能，選擇支付二維碼完成支付。
【本文對您有幫助就好】元
