北京歷史空氣質量數據可視化~

01-28

還記得之前推送過的一篇講大連天氣數據可視化的文章嗎，後來有小夥伴兒直呼不過癮，牆裂要求來一個北京版的。

小編我日夜趕工，終於出爐了北京版的空氣質量數據可視化，而且相比之前大連版的有所升級：

時間區間增加到了連續三個年度（2014~2016）

圖表形式不再局限於年度日曆熱圖，而且增加了矩陣熱圖和圓環堆積熱力圖。

圓環圖提供了基於ggplot函數的多種實現方法。

以下是整個數據可視化的處理過程（包括數據爬取過程哦，最後我會將整理後的數據集分享在QQ共享里，方便哪些希望直接跳過數據抓取過程，進入可視化階段的小夥伴兒們下載練習）

載入包：（我一向習慣在文首載入所有必要的軟體包）

all.pcg<-c("RCurl","XML","dplyr","ggplot2","stringr","rvest","lubridate","DT","scales","showtext","grid","Cairo")
pcg <- function(pcg){
new <- pcg[!(pcg %in% installed.packages()[, "Package"])]
if (length(new)) install.packages(new, dependencies = T)
sapply(pcg, require, ch = T)
}
req.pcg(all.pcg)

根據要爬取網址的數據鏈接結構手動構造網址鏈接使其遍歷所有需要爬取的網頁（當然這個過時你完全可以通過請求網頁的形式篩選文本並提取目標URL，但是這樣需要迂迴很多步驟，需要考慮編碼，查找路徑，我也不是那種特勤快的人，看到有捷徑能偷懶就絕不花冤枉時間。）

year<-2014:2016
month<-sprintf("d",1:12)
url<- paste("2017年04月空氣質量指數AQI_PM2.5日歷史數據_中國空氣質量在線監測分析平台歷史數據北京&month=",expand.grid(year,month)$Var1
,expand.grid(year,month)$Var2,sep="")

以上過程構造了北京市2014~2016年三整年的歷史空氣質量數據網址鏈接（月份鏈接）：

接下來進入數據爬取階段：

先寫完一個看下具體情況

tbls<-read_html(url[1],encoding="utf-8")%>%html_table(.,header=TRUE,trim=TRUE);tbls<-tbls[[1]]

檢查無誤之後，構造下載循環函數：

mytable<-data.frame()

for (i in url){
Sys.sleep(sample(1:5,1))
fun<-function(m){
table<-read_html(m,encoding="utf-8")%>%html_table(.,header=TRUE,trim=TRUE)
table<-table[[1]]
}
mytable<-rbind(mytable,fun(i))
}

這裡預覽一下以上數據結構：

dim(mytable)

[1] 1096 11
attributes(mytable)$names

[1] "日期" "AQI" "範圍" "質量等級" "PM2.5" "PM10" "SO2"

[8] "CO" "NO2" "O3" "排名"

datatable(mytable)

使用DT表格預覽數據集：mytable<-read.csv("beijingtianqi.csv",stringsAsFactors=FALSE,check.names=FALSE)

查看數據結構和變數屬性是否符合分析需要：

str(mytable)
data.frame:t1096 obs. of 11 variables:

$ 日期 : chr "2014-01-01" "2014-01-02" "2014-01-03" "2014-01-04" ...
$ AQI : int 87 119 81 151 121 181 144 29 44 86 ...
$ 範圍 : chr "76~99" "80~218" "38~202" "87~229" ...
$ 質量等級: chr "良" "輕度污染" "良" "中度污染" ...
$ PM2.5 : num 45 111.4 46.5 114.4 90.5 ...
$ PM10 : num 111.3 168.5 97.7 147 117.5 ...
$ SO2 : num 27.7 69.3 29 40 35.9 46.3 34.4 13 19.3 53.2 ...
$ CO : num 1.5 3.43 1.31 2.82 2.31 ...
$ NO2 : num 61.9 93.1 52 75.4 67 68.2 59.8 21.1 34.5 70.5 ...
$ O3 : int 64 17 65 10 57 11 55 59 65 28 ...

$ 排名 : int 32 66 41 112 67 104 85 9 25 58 ...

定義日期變數格式：

mytable$日期<-as.Date(mytable$日期)
names(mytable)[c(1,3,4,11)]<-c("date","Range","Level","Order")
mytable$Year<-year(mytable$date)
breaks<-c(0,50,100,150,200,300,500)
label<-c("excellent","good","Mild pollution","moderate pollution","heavy pollution ","serious pollution")

製作北京市2014~2016三年度歷史空氣質量數據年度日曆熱圖

filter(mytable,Year==2014)%>%calendarPlot(.,pollutant="AQI",breaks=breaks,labels=label,year=2014)

filter(mytable,Year==2015)%>%calendarPlot(.,pollutant="AQI",breaks=breaks,labels=label,year=2015)

filter(mytable,Year==2016)%>%calendarPlot(.,pollutant="AQI",breaks=breaks,labels=label,year=2016)

接下來讓我們瘋狂一把，將北京三年的空氣質量指標AQI用一幅圖形盡數呈現。

首先要生成一個副本數據：

mydata1<-mytable

讀出數據存檔：

write.table (mytable,"beijingtianqi.csv",sep=",",row.names=FALSE)

提取需要使用的目標變數：

mydata11<-mydata1[c("date","AQI","Year")]
myasst<-mydata11[mydata11$date %in% as.Date(c("2014-01-01","2015-01-01","2016-01-01")),]
mydata11<-rbind(mydata11,myasst)

因為作圖需要，2016年是閏年，2月有29天，14、15年均為28天，會導致最終數據不等長，影響之後的圖表製作過程，這裡暫且將其去除。

mydata11<-arrange(mydata11,Year,date)
mydata11<-mydata11[mydata11$date!="2016-02-29",]

提取月份數據並構月份標籤：

mydata11$Month<-month(mydata11$date)
mydata11$Monthdata<--5

mydata11$Monthjo<-ifelse(mydata11$Month%%2==0,"A","B")
circlemonth<-seq(15,345,length=12)
circlebj<-rep(c(-circlemonth[1:3],rev(circlemonth[1:3])),2)

構造年度ID、年份、以及之後作圖需要用到的輔助數據：

mydata11$ID<-rep(seq(from=0,to=365),3)
mydata11$Year<-factor(mydata11$Year,order=T)
mydata11$Asst<-5
mydata11$Asst[mydata11$Year==2015]<-10
mydata11$Asst[mydata11$Year==2016]<-15
mydata11A<-mydata11[mydata11$Year==2014&mydata11$Monthjo=="A",]
mydata11B<-mydata11[mydata11$Year==2014&mydata11$Monthjo=="B",]

構造季度、季度標籤，及其輔助數據：

mydata11$Quarter<-quarter(mydata11$date)
mydata11$Quarterdata<-20
mydata11C<-mydata11%>%filter(mydata11$Year==2014)%>%filter(Quarter %in% c(1,3))
mydata11D<-mydata11%>%filter(mydata11$Year==2014)%>%filter(Quarter %in% c(2,4))
circlequarter<-seq(45,315,length=4)
circleqd<-rep(c(-circlequarter[1],circlequarter[1]),2)

將數值型的AQI指數根據行業標準進行分割：

mydata11$FADD<-cut(mydata11$AQI,breaks=c(0,50,100,150,200,300,500),labels=c("0~50","51~100","101~150","151~200","201~300","301~500"),order=T)

作圖方法1：（簡便方法，但效果不太好調整）

CairoPNG(file="ECOCirclejj.png",width_=1488,height=996)
showtext.begin()
ggplot(data=mydata11)+
geom_tile(aes(ID,Year,fill=FADD))+
coord_polar(theta="x")+
expand_limits(ylim=c(-4,4))+
scale_fill_brewer(palette="YlOrRd",type="seq",direction=1,guide=guide_legend(reverse=TRUE))+
labs(title="2014~2016年度北京市空氣質量水平可視化",subtitle="數據根據AQI指標水平進行分段分割",caption="Source：PM2.5查詢|PM2.5歷史數據查詢|PM2.5全國排名|PM2.5統計分析|PM2.5全國分布圖|中國空氣質量在線監測分析平台",x="",y="",fill="")+
theme(
axis.text=element_blank(),
axis.title=element_blank(),
axis.ticks=element_blank(),
panel.background=element_blank(),
panel.grid=element_blank(),
panel.border=element_blank(),
legend.key.size=unit(1.2,cm),
legend.key.height=unit(1,cm),
legend.text.align=1,
legend.position=c(1,0.95),legend.justification=c(1,1),
legend.text=element_text(size=20,hjust=3,vjust=3,face="bold"),
plot.background=element_blank(),
plot.title=element_text(size=50,lineheight=1.5),
plot.subtitle=element_text(size=35,lineheight=1.5),
plot.caption=element_text(size=25,hjust=0,lineheight=1.2),
plot.margin=unit(c(.5,.5,.5,.5),"lines")
)
showtext.end()
dev.off()

這裡使用geom_raster()圖層進行映射（不支持極坐標轉換）
breaks<-aggregate(ID~Month,data=mydata11[mydata11$Year==2014,],FUN=median)
CairoPNG(file="ECOCirclejjj.png",width_=1200,height=600)
showtext.begin()
ggplot(data=mydata11)+
geom_raster(aes(ID,Year,fill=FADD))+
scale_fill_brewer(palette="YlOrRd",type="seq",direction=1,guide=guide_legend(reverse=TRUE))+
scale_x_continuous(breaks=breaks[,2],labels=paste0(1:12,"月"))+
labs(title="2014~2016年度北京市空氣質量水平可視化",subtitle="數據根據AQI指標水平進行分段分割",caption="Source：PM2.5查詢|PM2.5歷史數據查詢|PM2.5全國排名|PM2.5統計分析|PM2.5全國分布圖|中國空氣質量在線監測分析平台",fill="")+
theme(
text=element_text(family="myfont"),
axis.text=element_text(size=20),
axis.title=element_blank(),
axis.ticks=element_blank(),
panel.background=element_blank(),
panel.grid=element_blank(),
panel.border=element_blank(),
legend.key.size=unit(1.2,cm),
legend.key.height=unit(1,cm),
legend.text.align=1,
legend.text=element_text(size=20,hjust=3,vjust=3,face="bold"),
plot.background=element_blank(),
plot.title=element_text(size=50,lineheight=1.5),
plot.subtitle=element_text(size=35,lineheight=1.5),
plot.caption=element_text(size=25,hjust=0,lineheight=1.2),
plot.margin=unit(c(.5,.5,.5,.5),"lines")
)
showtext.end()
dev.off()

作圖方法2：（雖然代碼多但是調整相對自由）
setwd("F:/微信公眾號/公眾號——數據小魔方/2017年4月/20170404")
font.add("myfont","msyhl.ttc")
CairoPNG(file="ECOCircle.png",width_=1488,height=996)
showtext.begin()
ggplot()+
geom_bar(data=mydata11A,aes(x=ID,y=Monthdata),stat="identity",width_=1,fill="#ECEDD1",col="#ECEDD1")+
geom_bar(data=mydata11B,aes(x=ID,y=Monthdata),stat="identity",width_=1,fill="#DFE0B1",col="#DFE0B1")+
geom_bar(data=mydata11C,aes(x=ID,y=Quarterdata),stat="identity",width_=1,fill="#BDBDBD",col="#BDBDBD")+
geom_bar(data=mydata11D,aes(x=ID,y=Quarterdata),stat="identity",width_=1,fill="#D4D2D3",col="#D4D2D3")+
geom_bar(data=mydata11[mydata11$Year==2016,],aes(x=ID,y=Asst,fill=FADD),stat="identity",width_=1)+
geom_bar(data=mydata11[mydata11$Year==2015,],aes(x=ID,y=Asst,fill=FADD),stat="identity",width_=1)+
geom_bar(data=mydata11[mydata11$Year==2014,],aes(x=ID,y=Asst,fill=FADD),stat="identity",width_=1)+
scale_fill_brewer(palette="YlOrRd",type="seq",direction=1,guide=guide_legend(reverse=TRUE))+
coord_polar(theta="x")+
ylim(-20,20)+
guides(colour=guide_legend(reverse=TRUE))+
geom_text(data=NULL,aes(x=circlemonth,y=-2.5,label=paste0(1:12,"月"),angle=circlebj),family="myfont",size=7,hjust=0.5,vjust=.5)+
geom_text(data=NULL,aes(x=circlequarter,y=17.5,label=paste0(c("一","二","三","四"),"季度"),angle=circleqd),family="myfont",size=7,hjust=0.5,vjust=.5)+
annotate("text",x=0,y=-15,label="北京",size=25,hjust=.5,vjust=1,family="myfont") +
labs(title="2014~2016年度北京市空氣質量水平可視化",subtitle="數據根據AQI指標水平進行分段分割",caption="Source：PM2.5查詢|PM2.5歷史數據查詢|PM2.5全國排名|PM2.5統計分析|PM2.5全國分布圖|中國空氣質量在線監測分析平台",x="",y="",fill="")+
theme(
text=element_text(family="myfont"),
axis.text=element_blank(),
axis.title=element_blank(),
axis.ticks=element_blank(),
panel.background=element_blank(),
panel.grid=element_blank(),
panel.border=element_blank(),
legend.key.size=unit(1.2,cm),
legend.key.height=unit(1,cm),
legend.text.align=1,
legend.position=c(1,0),legend.justification=c(1,0),
legend.text=element_text(size=20,hjust=3,vjust=3,face="bold"),
plot.background=element_blank(),
plot.title=element_text(size=50,lineheight=1.5),
plot.subtitle=element_text(size=35,lineheight=1.5),
plot.caption=element_text(size=25,hjust=0,lineheight=1.2),
plot.margin=unit(c(.5,.5,.5,.5),"lines"),
)
showtext.end()
dev.off()

以上整個過程涉及到的處理方法比綜合，有爬蟲、數據清洗和字元串處理、時間格式轉換和ggplot高級製圖方法，如果感興趣可以作為練習。

最後提示大家，最終的天氣數據我會上傳至qq群共享文件里，如果有小夥伴兒想跳過數據爬取過程，直接做後面的可視化部分，可以自行下載~

---------------------

作者：EasyCharts
博客專欄：EasyCharts 博客專欄
公眾號：EasyCharts

大家也可以加小編微信：tswenqu(備註：知乎)，進R語言中文社區交流群，可以跟各位老師互相交流。玩R的夥伴都在裡面的，一起進來多交流

官方公眾號：R語言中文社區 (ID：R_shequ) 歡迎關注，持續連載。