R语言扩展包dplyr——数据清洗和整理

2015-01-22 18:04 7357人阅读 评论(0) 收藏 举报
R语言扩展包dplyr——数据清洗和整理 分类:
R Programming(11) R语言扩展包dplyr——数据清洗和整理

版权声明:本文为博主原创文章,未经博主允许不得转载。

该包主要用于数据清洗和整理,coursera课程链接:Getting and Cleaning Data

也可以载入swirl包,加载课Getting and Cleaning Data跟着学习。

如下:

  1. library(swirl)
  2. install_from_swirl("Getting and Cleaning Data")
  3. swirl()

此文主要是参考R自带的简介:Introduce to dplyr

1、示范数据

  1. > library(nycflights13)
  2. > dim(flights)
  3. [1] 336776     16
  4. > head(flights, 3)
  5. Source: local data frame [3 x 16]
  6. year month day dep_time dep_delay arr_time arr_delay carrier tailnum flight origin dest air_time
  7. 1 2013     1   1      517         2      830        11      UA  N14228   1545    EWR  IAH      227
  8. 2 2013     1   1      533         4      850        20      UA  N24211   1714    LGA  IAH      227
  9. 3 2013     1   1      542         2      923        33      AA  N619AA   1141    JFK  MIA      160
  10. Variables not shown: distance (dbl), hour (dbl), minute (dbl)

2、将过长的数据整理成友好的tbl_df数据

  1. > flights_df <- tbl_df(flights)
  2. > flights_df

3、筛选filter()

  1. > filter(flights_df, month == 1, day == 1)
  2. Source: local data frame [842 x 16]
  3. year month day dep_time dep_delay arr_time arr_delay carrier tailnum flight origin dest air_time
  4. 1  2013     1   1      517         2      830        11      UA  N14228   1545    EWR  IAH      227
  5. 2  2013     1   1      533         4      850        20      UA  N24211   1714    LGA  IAH      227

筛选出month=1和day=1的数据

同样效果的,

  1. flights_df[flights_df$month == 1 & flights_df$day == 1, ]

4、选出几行数据slice()

  1. slice(flights_df, 1:10)

5、排列arrange()

  1. >arrange(flights_df, year, month, day)

将flights_df数据按照year,month,day的升序排列。

降序

  1. >arrange(flights_df, year, desc(month), day)

R语言当中的自带函数

  1. flights_df[order(flights$year, flights_df$month, flights_df$day), ]
  2. flights_df[order(desc(flights_df$arr_delay)), ]

6、选择select()

通过列名来选择所要的数据

  1. select(flights_df, year, month, day)

选出三列数据
使用:符号

  1. select(flights_df, year:day)

使用-来删除不要的列表

  1. select(flights_df, -(year:day))

7、变形mutate()

产生新的列

  1. > mutate(flights_df,
  2. +        gain = arr_delay - dep_delay,
  3. +        speed = distance / air_time * 60)

8、汇总summarize()

  1. <pre name="code" class="html">> summarise(flights,
  2. +           delay = mean(dep_delay, na.rm = TRUE)

求dep_delay的均值

9、随机选出样本

  1. sample_n(flights_df, 10)

随机选出10个样本

  1. sample_frac(flights_df, 0.01)

随机选出1%个样本

10、分组group_py()

  1. by_tailnum <- group_by(flights, tailnum)
  2. #确定组别为tailnum,赋值为by_tailnum
  3. delay <- summarise(by_tailnum,
  4. count = n(),
  5. dist = mean(distance, na.rm = TRUE),
  6. delay = mean(arr_delay, na.rm = TRUE))
  7. #汇总flights里地tailnum组的分类数量,及其组别对应的distance和arr_delay的均值
  8. delay <- filter(delay, count > 20, dist < 2000)
  9. ggplot(delay, aes(dist, delay)) +
  10. geom_point(aes(size = count), alpha = 1/2) +
  11. geom_smooth() +
  12. scale_size_area()

R语言扩展包dplyr——数据清洗和整理

结果都需要通过赋值存储

  1. a1 <- group_by(flights, year, month, day)
  2. a2 <- select(a1, arr_delay, dep_delay)
  3. a3 <- summarise(a2,
  4. arr = mean(arr_delay, na.rm = TRUE),
  5. dep = mean(dep_delay, na.rm = TRUE))
  6. a4 <- filter(a3, arr > 30 | dep > 30)

11、引入链接符%>%

使用时把数据名作为开头,然后依次对数据进行多步操作:

  1. flights %>%
  2. group_by(year, month, day) %>%
  3. select(arr_delay, dep_delay) %>%
  4. summarise(
  5. arr = mean(arr_delay, na.rm = TRUE),
  6. dep = mean(dep_delay, na.rm = TRUE)
  7. ) %>%
  8. filter(arr > 30 | dep > 30)

前面都免去了数据名

若想要进行更多地了解这个包,可以参考其自带的说明书(60页):dplyr

上一篇:如何让你的 footer 总是在浏览器底部无论什么分辨率无论什么浏览器?


下一篇:Flume-NG启动过程源码分析(二)(原创)