Journal of Probability and Statistics / 2012 / Article / Tab 2 / Research Article
Design and Statistical Analysis of Pooled Next Generation Sequencing for Rare Variants Table 2 Type I error rates at a level of 5% for the PB test and Fisher’s exact tests under various depths of coverage, numbers of pools, allele frequencies, and the error rates for testing association. Sample size was set at 500 cases and 500 controls.
Depth of coverage Pool number
θ e Unbalanced design Balanced design PB FT FN FE PB FT FN 5×
0.01
0.005
0.046
0.033
0.041
0.096
0.041
0.036
0.027
0.017
2
0.01
0.044
0.041
0.024
0.16
0.013
0.028
0.008
0.004
0.05
0.005
0.053
0.041
0.072
0.086
0.059
0.037
0.049
0.113
0.01
0.047
0.044
0.062
0.091
0.059
0.042
0.052
0.092
0.01
0.005
0.048
0.026
0.04
0.111
0.056
0.039
0.025
0.065
10
0.01
0.057
0.039
0.028
0.152
0.02
0.026
0.012
0.033
0.05
0.005
0.051
0.037
0.066
0.083
0.09
0.035
0.052
0.302
0.01
0.046
0.033
0.06
0.093
0.076
0.05
0.048
0.317
0.01
0.005
0.05
0.029
0.032
0.082
0.049
0.028
0.019
0.044
40
0.01
0.049
0.03
0.02
0.122
0.072
0.05
0.017
0.133
0.05
0.005
0.054
0.032
0.065
0.073
0.07
0.044
0.047
0.043
0.01
0.055
0.032
0.065
0.098
0.083
0.033
0.05
0.088
10×
0.01
0.005
0.045
0.033
0.02
0.066
0.051
0.034
0.01
0.018
2
0.01
0.04
0.037
0.012
0.107
0.032
0.037
0.011
0.013
0.05
0.005
0.055
0.042
0.056
0.063
0.057
0.053
0.03
0.055
0.01
0.039
0.042
0.034
0.056
0.04
0.045
0.033
0.051
0.01
0.005
0.05
0.032
0.016
0.072
0.061
0.045
0.021
0.062
10
0.01
0.045
0.037
0.016
0.098
0.012
0.031
0.006
0.032
0.05
0.005
0.051
0.046
0.052
0.067
0.066
0.042
0.044
0.168
0.01
0.048
0.039
0.04
0.071
0.059
0.042
0.03
0.181
0.01
0.005
0.043
0.036
0.023
0.051
0.048
0.026
0.012
0.034
40
0.01
0.05
0.032
0.01
0.079
0.053
0.026
0.003
0.035
0.05
0.005
0.041
0.042
0.04
0.049
0.06
0.049
0.039
0.045
0.01
0.051
0.047
0.041
0.065
0.053
0.033
0.031
0.046
20×
0.01
0.005
0.06
0.024
0.018
0.054
0.058
0.033
0.015
0.037
2
0.01
0.036
0.034
0.008
0.049
0.014
0.031
0.003
0.006
0.05
0.005
0.043
0.036
0.039
0.043
0.045
0.035
0.032
0.036
0.01
0.054
0.039
0.043
0.054
0.037
0.04
0.026
0.035
0.01
0.005
0.045
0.025
0.014
0.047
0.061
0.03
0.015
0.051
10
0.01
0.05
0.04
0.004
0.058
0.011
0.026
0.004
0.034
0.05
0.005
0.043
0.035
0.034
0.041
0.055
0.038
0.036
0.05
0.01
0.06
0.041
0.036
0.064
0.048
0.038
0.029
0.051
0.01
0.005
0.051
0.023
0.012
0.035
0.042
0.036
0.013
0.034
40
0.01
0.054
0.033
0.002
0.052
0.039
0.022
0.002
0.023
0.05
0.005
0.052
0.033
0.045
0.049
0.061
0.046
0.038
0.036
0.01
0.052
0.04
0.034
0.056
0.052
0.048
0.039
0.043