统计科学之多因素方差分析
01.前言
在前面我们讲过简单的单因素方差分析,这一篇我们讲讲双因素方差分析以及多因素方差分析,双因素方差分析是最简单的多因素方差分析。
单因素分析就是只考虑一个因素会对要比较的均值产生影响,而多因素分析是有多个因素会对均值产生影响。
需要注意的是一个因素可能会有不同的水平值,即不同的取值。比如要判断某一款药对某种病症有没有效果,服用不同的剂量效果应该是不一样的,虽然因素都是服药这一个因素,但是不同的药剂量代表不同的水平。
双因素(多因素)方差分析又可以分为两种,一种是有交互作用的,一种是没有交互作用的。啥意思呢?什么是交互作用呢?
比如我们大家所熟知的,牛奶和药是不可以一起吃的,如果单独喝牛奶有助于身体蛋白质的补充,如果单独吃药可以有助于治疗病症,但是牛奶和药同时吃就会把两者的作用抵消掉。这种两者之间的相互作用就可以理解成是交互作用,当然了,有的时候交互是正向呢,有的时候是负向的。
02.无交互作用方差分析
现在有如下一份不同品牌不同地区的产品销量数据表,想要看一下不同品牌和不同地区这两个因素是否对销量有显著性影响:
我们先来看看无交互作用的双因素方差分析具体怎么做呢,所谓的无交互也就是假设品牌和地区之间是没有交互作用的,相互不影响,只是彼此单独对销量产生影响。
前面单因素方差分析中,我们是用F值去检验显著性的,多因素方差分析也同样是用F值.
F = 组间方差/组内方差。
对于没有交互作用的多因素,可以单纯理解为多个单因素。也就是你可以单独去看品牌对销量的影响,然后再单独去看地区对销量的影响。
那单独怎么看呢?这就回到了我们前面讲过的单因素方差分析。
我们先来计算品牌的组内平方和:
SSA = (每个品牌的均值 - 全部销量均值)^2*每个品牌内样本数
= (344.20-328.45)^2*5 + (347.80-328.45)^2*5 + (337.00-328.45)^2*5 + (284.80-328.45)^2*5
= 13004.55
我们再来计算地区的组内平方和:
SSB = (每个地区的均值 - 全体销量均值)^2*每个地区内样本数
= (339.00-328.45)^2*4 + (330.25-328.45)^2*4 + (339.25-328.45)^2*4 + (318.25-328.45)^2*4
= 2011.7
接着我们来计算全部平方和:
SST = (每个值-总体均值)^2
= 17888.95
除此之外还有一个平方和:
SSE = SST - SSA - SSB
这部分是除品牌和地区以外的其他因素所产生的,称为随机误差平方和。
有了平方和以后,我们同样需要求取均方,而均方 = 平方和/自由度。
SST的自由度 = 总水平数 - 1 = 19
SSA的自由度 = 品牌的水平数 - 1 = 3
SSB的自由度 = 地区的水平数 - 1 = 4
SSE的自由度 = SSA的自由度*SSB的自由度 = 12
平方和有了,自由度也有了,均方MS也就可以求出来了,接下来进入到最重要的F值求取,
品牌因素的F值 = SSA/SSE
地区因素的F值 = SSB/SSE
最后可以通过查F值表获得在置信度为95%的情况下时的F边界值表,然后和实际的F值作比较,最后做出是否显著的判断。如下表:
03.有交互作用方差分析
某交通部门想要知道高峰期与路段是否会对汽车的行车时间有影响,通过人工采集得到了如下数据:
本次分析需要考虑峰期与路段之间的交互作用,某些路段的峰期行车时间可能异常偏高或偏低等。
和无交互作用的多因素方差分析流程类似,我们先计算峰期的平方和:
SSA = (每个峰期内的均值-总体均值)^2*每个峰期内样本数
= (23.2-20.25)^2*10 + (17.3-20.25)^2*10
= 174.05
再来计算路段的平方和:
SSB = (每个路段内的均值-总体均值)^2*每个路段内样本数
= (22.4-20.25)^2*10 + (18.1-20.25)^2*10
= 92.45
再来计算交互作用的平方和:
SSAB = (每个路段&峰期内的均值-该路段内的均值-该峰期内的均值+总体均值)^2*每个区间内的样本数
= (25.4-23.2-22.4+20.25)^2*5 + (21-23.2-18.1+20.25)^2*5 + (19.4-17.3-22.4+20.25)^2*5 + (15.2-17.3-18.1+20.25)^2*5
= 0.05
接着计算全部平方和:
SST = (每个值-总体均值)^2
= 329.75
最后来计算误差平方和:
SSE = SST - SSA - SSB - SSAB
SST的自由度 = 总样本数 - 1 = 19
SSA的自由度 = 峰期数 - 1 = 1
SSB的自由度 = 路段数 - 1 = 1
SSAB的自由度 = SSA的自由度*SSB的自由度 = 1
SSE的自由度 = SST的自由度 - SSA的自由度 - SSB的自由度 - SSAB的自由度
经过求均方,查F表,就可得到如下表:
04.方差分析与回归分析异同
上面通过以有无交互作用的双因素方差分析为例,给大家把多因素方差分析中涉及到的计算过程都演示了一遍,实际工作中我们是不需要自己手动进行计算的,直接通过Excel、Python都可以计算得到。以后专门讲解工具如何实现。
通过上面的多因素方差分析,我们就可以得出来不同因素对某一目标值(销量/行车时间等)的影响情况,你可能会有这样的疑问,那这和多元回归有什么区别呢?多元回归不也是求取多个x和一个y的关系么?那这两个是一样的吗?
还是有些不太一样的,方差分析只是告诉你某个因素的影响显著不显著,而没有告你影响有多大,回归分析是告诉你具体影响有多大。方差分析是一种定性分析,解决有没有的问题;回归分析是一种定量分析,解决有多少的问题。
俊红的数据分析之路
张俊红
公众号:《俊红的数据分析之路》,分享数据分析相关的内容。
张俊红
公众号:《俊红的数据分析之路》,分享数据分析相关的内容。
宣传栏
01.前言
在前面我们讲过简单的单因素方差分析,这一篇我们讲讲双因素方差分析以及多因素方差分析,双因素方差分析是最简单的多因素方差分析。
单因素分析就是只考虑一个因素会对要比较的均值产生影响,而多因素分析是有多个因素会对均值产生影响。
需要注意的是一个因素可能会有不同的水平值,即不同的取值。比如要判断某一款药对某种病症有没有效果,服用不同的剂量效果应该是不一样的,虽然因素都是服药这一个因素,但是不同的药剂量代表不同的水平。
双因素(多因素)方差分析又可以分为两种,一种是有交互作用的,一种是没有交互作用的。啥意思呢?什么是交互作用呢?
比如我们大家所熟知的,牛奶和药是不可以一起吃的,如果单独喝牛奶有助于身体蛋白质的补充,如果单独吃药可以有助于治疗病症,但是牛奶和药同时吃就会把两者的作用抵消掉。这种两者之间的相互作用就可以理解成是交互作用,当然了,有的时候交互是正向呢,有的时候是负向的。
02.无交互作用方差分析
现在有如下一份不同品牌不同地区的产品销量数据表,想要看一下不同品牌和不同地区这两个因素是否对销量有显著性影响:
我们先来看看无交互作用的双因素方差分析具体怎么做呢,所谓的无交互也就是假设品牌和地区之间是没有交互作用的,相互不影响,只是彼此单独对销量产生影响。
前面单因素方差分析中,我们是用F值去检验显著性的,多因素方差分析也同样是用F值.
F = 组间方差/组内方差。
对于没有交互作用的多因素,可以单纯理解为多个单因素。也就是你可以单独去看品牌对销量的影响,然后再单独去看地区对销量的影响。
那单独怎么看呢?这就回到了我们前面讲过的单因素方差分析。
我们先来计算品牌的组内平方和:
SSA = (每个品牌的均值 - 全部销量均值)^2*每个品牌内样本数
= (344.20-328.45)^2*5 + (347.80-328.45)^2*5 + (337.00-328.45)^2*5 + (284.80-328.45)^2*5
= 13004.55
我们再来计算地区的组内平方和:
SSB = (每个地区的均值 - 全体销量均值)^2*每个地区内样本数
= (339.00-328.45)^2*4 + (330.25-328.45)^2*4 + (339.25-328.45)^2*4 + (318.25-328.45)^2*4
= 2011.7
接着我们来计算全部平方和:
SST = (每个值-总体均值)^2
= 17888.95
除此之外还有一个平方和:
SSE = SST - SSA - SSB
这部分是除品牌和地区以外的其他因素所产生的,称为随机误差平方和。
有了平方和以后,我们同样需要求取均方,而均方 = 平方和/自由度。
SST的自由度 = 总水平数 - 1 = 19
SSA的自由度 = 品牌的水平数 - 1 = 3
SSB的自由度 = 地区的水平数 - 1 = 4
SSE的自由度 = SSA的自由度*SSB的自由度 = 12
平方和有了,自由度也有了,均方MS也就可以求出来了,接下来进入到最重要的F值求取,
品牌因素的F值 = SSA/SSE
地区因素的F值 = SSB/SSE
最后可以通过查F值表获得在置信度为95%的情况下时的F边界值表,然后和实际的F值作比较,最后做出是否显著的判断。如下表:
03.有交互作用方差分析
某交通部门想要知道高峰期与路段是否会对汽车的行车时间有影响,通过人工采集得到了如下数据:
本次分析需要考虑峰期与路段之间的交互作用,某些路段的峰期行车时间可能异常偏高或偏低等。
和无交互作用的多因素方差分析流程类似,我们先计算峰期的平方和:
SSA = (每个峰期内的均值-总体均值)^2*每个峰期内样本数
= (23.2-20.25)^2*10 + (17.3-20.25)^2*10
= 174.05
再来计算路段的平方和:
SSB = (每个路段内的均值-总体均值)^2*每个路段内样本数
= (22.4-20.25)^2*10 + (18.1-20.25)^2*10
= 92.45
再来计算交互作用的平方和:
SSAB = (每个路段&峰期内的均值-该路段内的均值-该峰期内的均值+总体均值)^2*每个区间内的样本数
= (25.4-23.2-22.4+20.25)^2*5 + (21-23.2-18.1+20.25)^2*5 + (19.4-17.3-22.4+20.25)^2*5 + (15.2-17.3-18.1+20.25)^2*5
= 0.05
接着计算全部平方和:
SST = (每个值-总体均值)^2
= 329.75
最后来计算误差平方和:
SSE = SST - SSA - SSB - SSAB
SST的自由度 = 总样本数 - 1 = 19
SSA的自由度 = 峰期数 - 1 = 1
SSB的自由度 = 路段数 - 1 = 1
SSAB的自由度 = SSA的自由度*SSB的自由度 = 1
SSE的自由度 = SST的自由度 - SSA的自由度 - SSB的自由度 - SSAB的自由度
经过求均方,查F表,就可得到如下表:
04.方差分析与回归分析异同
上面通过以有无交互作用的双因素方差分析为例,给大家把多因素方差分析中涉及到的计算过程都演示了一遍,实际工作中我们是不需要自己手动进行计算的,直接通过Excel、Python都可以计算得到。以后专门讲解工具如何实现。
通过上面的多因素方差分析,我们就可以得出来不同因素对某一目标值(销量/行车时间等)的影响情况,你可能会有这样的疑问,那这和多元回归有什么区别呢?多元回归不也是求取多个x和一个y的关系么?那这两个是一样的吗?
还是有些不太一样的,方差分析只是告诉你某个因素的影响显著不显著,而没有告你影响有多大,回归分析是告诉你具体影响有多大。方差分析是一种定性分析,解决有没有的问题;回归分析是一种定量分析,解决有多少的问题。