Journal of Probability and Statistics / 2012 / Article / Tab 3 / Research Article
Design and Statistical Analysis of Pooled Next Generation Sequencing for Rare Variants Table 3 Type I error rates at a level of 5% for multivariant tests under various allele frequencies, error rates, depths of coverage, and numbers of variants for testing association. Sample size was set at 500 cases and 500 controls. Simulations were based on the unbalanced design with 10 and 20 pools.
Number of pool Number of variant
Depth θ e Uncorrelated Correlated (ρ = 0.5) E I S min E I S 10 5×
0.01
0.005
0.058
0.038
0.039
0.037
0.051
0.067
0.062
0.036
0.01
0.051
0.045
0.045
0.034
0.046
0.05
0.046
0.035
0.05
0.005
0.062
0.052
0.058
0.048
0.028
0.046
0.038
0.04
0.01
0.072
0.042
0.044
0.042
0.062
0.034
0.07
0.056
10×
0.01
0.005
0.065
0.053
0.056
0.035
0.033
0.038
0.035
0.038
5
0.01
0.057
0.043
0.044
0.042
0.037
0.053
0.043
0.04
0.05
0.005
0.066
0.048
0.048
0.046
0.03
0.06
0.04
0.046
0.01
0.07
0.052
0.052
0.06
0.032
0.072
0.052
0.052
20×
0.01
0.005
0.063
0.049
0.052
0.039
0.039
0.058
0.045
0.035
0.01
0.069
0.049
0.049
0.036
0.032
0.045
0.042
0.041
0.05
0.005
0.054
0.042
0.042
0.042
0.038
0.066
0.048
0.064
0.01
0.076
0.06
0.06
0.042
0.018
0.05
0.03
0.032
5×
0.01
0.005
0.071
0.05
0.049
0.03
0.027
0.049
0.045
0.036
0.01
0.064
0.051
0.052
0.023
0.03
0.049
0.043
0.036
0.05
0.005
0.066
0.048
0.048
0.066
0.008
0.046
0.028
0.058
0.01
0.068
0.044
0.048
0.036
0.02
0.082
0.062
0.05
10×
0.01
0.005
0.063
0.058
0.058
0.04
0.024
0.063
0.05
0.045
10
0.01
0.062
0.05
0.049
0.036
0.02
0.049
0.039
0.043
0.05
0.005
0.064
0.054
0.052
0.048
0.014
0.056
0.044
0.044
0.01
0.082
0.068
0.066
0.05
0.016
0.056
0.032
0.04
20×
0.01
0.005
0.067
0.048
0.049
0.041
0.021
0.06
0.041
0.049
0.01
0.067
0.046
0.045
0.038
0.022
0.053
0.04
0.026
0.05
0.005
0.066
0.044
0.046
0.046
0.008
0.06
0.04
0.05
0.01
0.098
0.078
0.084
0.044
0.008
0.068
0.038
0.044
20 5×
0.01
0.005
0.058
0.053
0.052
0.048
0.037
0.055
0.05
0.039
0.01
0.052
0.048
0.05
0.049
0.028
0.044
0.037
0.041
0.05
0.005
0.057
0.047
0.048
0.061
0.027
0.058
0.046
0.053
0.01
0.058
0.051
0.047
0.044
0.026
0.055
0.044
0.047
10×
0.01
0.005
0.052
0.043
0.045
0.031
0.039
0.06
0.052
0.058
5
0.01
0.05
0.041
0.041
0.054
0.029
0.046
0.043
0.037
0.05
0.005
0.048
0.038
0.04
0.044
0.025
0.055
0.045
0.054
0.01
0.051
0.042
0.043
0.044
0.025
0.063
0.042
0.051
20×
0.01
0.005
0.058
0.051
0.05
0.035
0.034
0.053
0.046
0.042
0.01
0.051
0.04
0.038
0.035
0.026
0.043
0.041
0.041
0.05
0.005
0.051
0.049
0.05
0.042
0.022
0.056
0.037
0.047
0.01
0.054
0.045
0.041
0.042
0.02
0.055
0.034
0.044
5×
0.01
0.005
0.068
0.06
0.058
0.024
0.03
0.058
0.046
0.03
0.01
0.07
0.046
0.048
0.044
0.024
0.048
0.044
0.034
0.05
0.005
0.08
0.06
0.65
0.052
0.012
0.062
0.04
0.038
0.01
0.054
0.048
0.046
0.036
0.025
0.066
0.046
0.038
10×
0.01
0.005
0.064
0.048
0.05
0.038
0.02
0.046
0.032
0.036
10
0.01
0.076
0.05
0.054
0.048
0.02
0.068
0.054
0.034
0.05
0.005
0.068
0.052
0.05
0.044
0.008
0.072
0.038
0.032
0.01
0.08
0.048
0.052
0.05
0.01
0.07
0.038
0.05
20×
0.01
0.005
0.056
0.054
0.052
0.042
0.022
0.04
0.034
0.036
0.01
0.072
0.06
0.06
0.04
0.028
0.064
0.052
0.028
0.05
0.005
0.074
0.054
0.06
0.038
0.026
0.09
0.054
0.038
0.01
0.044
0.038
0.038
0.046
0.014
0.074
0.034
0.034