(1)下载收盘价数据:
观察文件可知:此文件实际上就是一个很长的python列表,其中每个元素都是一个包含五个键的字典:统计日期,月份,周数,周几及收盘价。
(2)JSON格式数据的读取:(使用load()方法将JSON格式数据转换为Python能够处理的字典格式!)
import json
#将数据加载到一个列表中
filename = 'btc_close_2017.json'
with open(filename) as f:
btc_data = json.load(f)
# 打印每一天的信息
for btc_dict in btc_data:
date = btc_dict['date']
month = btc_dict['month']
week = btc_dict['week']
weekday = btc_dict['weekday']
close = btc_dict['close']
print("{} is month {} week {},{}, the close price is {} RMB".format(date, month, week, weekday, close))
(3)将字符串转换为数字值:
JSON文件中的每个键和值都是字符串。为了后面能够进行数据的计算,需要将表示周数,月数和收盘价的字符串转换为数值!
但是将收盘价close转换为整数时,出现了ValueError异常。原因:python不能直接将包含小数点的字符串“6928.6492”转换为整数。解决方法:先将字符串转换为浮点数,再将浮点数转换为整数:
(4)绘制收盘价折线图:
使用Pygal来实现收盘价的折线图!
import json
import pygal
#将数据加载到一个列表中
filename = 'btc_close_2017.json'
with open(filename) as f:
btc_data = json.load(f)
#创建五个列表,分别存储日期和收盘价 将数据转换为绘制折线图的可用数据
dates = []
months = []
weeks = []
weekdays = []
close = []
#每一天的信息
for btc_dict in btc_data:
dates.append(btc_dict['date'])
months.append(int(btc_dict['month']))
weeks.append(int(btc_dict['week']))
weekdays.append(btc_dict['weekday'])
close.append(int(float(btc_dict['close'])))
'''绘制收盘价折线图'''
# x_label_rotation=20让x轴上的日期标签顺时针旋转20度 ; show_minor_x_labels=False告诉图形不用显示所有的x轴标签
line_chart = pygal.Line(x_label_rotation=20,show_minor_x_labels=False) #创建Line实例,进行一些设置
line_chart.title = '收盘价(¥)'
line_chart.x_labels = dates #设置x轴为日期,但是总共346个日期,如果都显示太拥挤,所以上面设置show_minor_x_labels=False
N = 20 #x轴坐标每隔20天显示一次
line_chart.x_labels_major = dates[::N]
line_chart.add('收盘价',close)
line_chart.render_to_file('收盘价折线图(¥).svg')
从图可知:加个从2017年11月12日到2017年12月12日快速增长,平均每天增值约2500元人命币。
(5)时间序列特征初探:
**
进行时间序列分析总是期望发现趋势,周期性和噪声,从而能够描述事实,预测未来,做出决策!
从收盘价的折线图可以看出,总体趋势是非线性的,而且增长幅度不断增大,似乎呈指数分布。
但是在每个季度末(3月,6月,9月)似乎有一些相似的波动,虽然这些波动被增长的趋势掩盖了,不过也许有周期性。
为了验证周期性的假设,需要首先将非线性的趋势消除。
对数变换是常用的处理方法之一。
这里以10为底的对数函数math.log10计算收盘价,日期仍然保持不变。这种方式称为半对数变换!**
import json
import pygal
import math
#将数据加载到一个列表中
filename = 'btc_close_2017.json'
with open(filename) as f:
btc_data = json.load(f)
#创建五个列表,分别存储日期和收盘价 将数据转换为绘制折线图的可用数据
dates = []
months = []
weeks = []
weekdays = []
close = []
#每一天的信息
for btc_dict in btc_data:
dates.append(btc_dict['date'])
months.append(int(btc_dict['month']))
weeks.append(int(btc_dict['week']))
weekdays.append(btc_dict['weekday'])
close.append(int(float(btc_dict['close'])))
'''绘制收盘价对数变换折线图'''
line_chart = pygal.Line(x_label_rotation=20,show_minor_x_labels=False) #创建Line实例,进行一些设置
line_chart.title = '收盘价对数变换(¥)'
line_chart.x_labels = dates #设置x轴为日期,但是总共346个日期,如果都显示太拥挤,所以上面设置False
N = 20 #x轴坐标每隔20天显示一次
line_chart.x_labels_major = dates[::N]
close_log = [math.log10(_) for _ in close]
line_chart.add('log收盘价',close_log)
line_chart.render_to_file('收盘价对数变换折线图(¥).svg')
'''现在,用对数变换剔除非线性趋势之后,整体上涨的趋势更接近线性增长。'''
从图可知:收盘价在每个季度末似乎有显著的周期性----3月,6月和9月都出现了剧烈的波动。那么,12月是不是也是如此呢?下面看看收盘价的月日均值与周日均值的表现。
(6)收盘价均值:
绘制2017年前11个月的日均值,前49周(2017年-01-02~2017-12-10)的日均值,以及每周中各天的日均值。虽然这些日均值的数值不同,但都是一段时间的均值,计算方法一致。所以,将前面的绘图代码封装成函数:
from itertools import groupby # 由于需要将数据按月份,周数,周几分组,再计算每组的平均值,因此导入此模块
def draw_line(x_data, y_data, title, y_legend):
xy_map = []
for x, y in groupby(sorted(zip(x_data, y_data)), key=lambda _: _[0]): # 先将x轴与y轴的数据合并,排序,再用groupby分组
y_list = [v for _, v in y]
xy_map.append([x, sum(y_list) / len(y_list)]) # 分组之后,求出每组的平均值
x_unique, y_mean = [*zip(*xy_map)] # 将xy_map中存储的x轴与y轴的数据分离
line_chart = pygal.Line()
line_chart.title = title
line_chart.x_labels = x_unique
line_chart.add(y_legend, y_mean)
line_chart.render_to_file(title+'.svg')
return line_chart
①收盘价月日均值(取2017年1月到11的数据。通过dates查找2017-12-01的索引位置,确定周数和收盘价的取数范围)
from itertools import groupby # 由于需要将数据按月份,周数,周几分组,再计算每组的平均值,因此导入此模块
import json
import pygal
#将数据加载到一个列表中
filename = 'btc_close_2017.json'
with open(filename) as f:
btc_data = json.load(f)
# 创建五个列表,分别存储日期和收盘价
dates = []
months = []
weeks = []
weekdays = []
close = []
for btc_dict in btc_data:
dates.append(btc_dict['date'])
months.append(int(btc_dict['month']))
weeks.append(int(btc_dict['week']))
weekdays.append(btc_dict['weekday'])
close.append(int(float(btc_dict['close'])))
def draw_line(x_data, y_data, title, y_legend):
xy_map = []
for x, y in groupby(sorted(zip(x_data, y_data)), key=lambda _: _[0]): # 先将x轴与y轴的数据合并,排序,再用groupby分组
y_list = [v for _, v in y]
xy_map.append([x, sum(y_list) / len(y_list)]) # 分组之后,求出每组的平均值
x_unique, y_mean = [*zip(*xy_map)] # 将xy_map中存储的x轴与y轴的数据分离
line_chart = pygal.Line()
line_chart.title = title
line_chart.x_labels = x_unique
line_chart.add(y_legend, y_mean)
line_chart.render_to_file(title+'.svg')
return line_chart
# 收盘价月日均值:
idx_month = dates.index('2017-12-01')
line_chart_month = draw_line(months[:idx_month], close[:idx_month], '收盘价月日均值(¥)', '月日均值')
②绘制前49周的日均值(2017年的第一周从2017年1月2日开始,取数时将第一天去掉;2017年第49周周日是2017年12月10号,因此通过dates查找2017-12-11的索引位置!)
idx_week = dates.index('2017-12-11')
line_chart_week = draw_line(months[1:idx_week], close[1:idx_week], '收盘价周日均值(¥)', '周日均值')
③绘制每周中各天的均值(取前49周[2017-01-02~2017-12-10]的数据)
由于这里的周几是字符串,按周一到周日的顺序排列,而不是单词首字母的顺序,绘图时x轴标签的顺序会有问题。另外,原来的周几都是英文单词,还可将其调整为中文。
idx_week = dates.index('2017-12-11')
wd = ['Monday', 'Tuesday', 'Wednesday', 'Thursday', 'Friday', 'Saturday', 'Sunday']
# 将weekdays的内容替换为1~7的整数
weekdays_int = [wd.index(w) + 1 for w in weekdays[1:idx_week]]
line_chart_weekday = draw_line(weekdays_int, close[1:idx_week], '收盘价星期均值(¥)', '星期均值')
line_chart_weekday.x_labels = ['周一', '周二', '周三', '周四', '周五', '周六', '周日']
④收盘价数据仪表盘
现在已经有很多图了,每个SVG文件打开之后都是独立的页面。如果能将它们整合一起,会很方便管理,监测和分析。另外,新的图表也可以十分方便的加入进来,这样就形成了一个数据仪表盘
''' 将多张SVG文件整合在一起
就是做一个数据仪表盘,即一个完整的网页(HTML文件)
思路如下,.svg文件需要插件才能实现在网页中'''
with open('收盘价Dashboard.html', 'w', encoding='utf8') as html_file:
html_file.write(
'<!DOCTYPE html>\n<html lang="en">\n<head>\n<meta charset="utf-8">'
'<title>收盘价Dashboard</title>\n</head>\n<body>\n')
for svg in [
'收盘价星期均值(¥).svg', '收盘价对数变换折线图(¥).svg', '收盘价月日均值(¥).svg', '收盘价周日均值(¥).svg']:
html_file.write(
' <object codebase="image/svg+xml" data="{0}" height=500></object>\n'.format(svg))
html_file.write('</body>\n</html>')
生成的名为‘收盘价Dashboard.html’的HTML文件:
<!DOCTYPE html>
<html lang="en">
<head>
<meta charset="utf-8"><title>收盘价Dashboard</title>
</head>
<body>
<object codebase="image/svg+xml" data="收盘价星期均值(¥).svg" height=500></object>
<object codebase="image/svg+xml" data="收盘价对数变换折线图(¥).svg" height=500></object>
<object codebase="image/svg+xml" data="收盘价月日均值(¥).svg" height=500></object>
<object codebase="image/svg+xml" data="收盘价周日均值(¥).svg" height=500></object>
</body>
</html>