Design and Statistical Analysis of Pooled Next Generation Sequencing for Rare Variants

Table 3

Type I error rates at a level of 5% for multivariant tests under various allele frequencies, error rates, depths of coverage, and numbers of variants for testing association. Sample size was set at 500 cases and 500 controls. Simulations were based on the unbalanced design with 10 and 20 pools.

Number of pool	Number of variant	Depth	θ	e	Uncorrelated				Correlated (ρ = 0.5)
						E	I	S	min	E	I	S
10		5×	0.01	0.005	0.058	0.038	0.039	0.037	0.051	0.067	0.062	0.036
				0.01	0.051	0.045	0.045	0.034	0.046	0.05	0.046	0.035
			0.05	0.005	0.062	0.052	0.058	0.048	0.028	0.046	0.038	0.04
				0.01	0.072	0.042	0.044	0.042	0.062	0.034	0.07	0.056
		10×	0.01	0.005	0.065	0.053	0.056	0.035	0.033	0.038	0.035	0.038
	5			0.01	0.057	0.043	0.044	0.042	0.037	0.053	0.043	0.04
			0.05	0.005	0.066	0.048	0.048	0.046	0.03	0.06	0.04	0.046
				0.01	0.07	0.052	0.052	0.06	0.032	0.072	0.052	0.052
		20×	0.01	0.005	0.063	0.049	0.052	0.039	0.039	0.058	0.045	0.035
				0.01	0.069	0.049	0.049	0.036	0.032	0.045	0.042	0.041
			0.05	0.005	0.054	0.042	0.042	0.042	0.038	0.066	0.048	0.064
				0.01	0.076	0.06	0.06	0.042	0.018	0.05	0.03	0.032
		5×	0.01	0.005	0.071	0.05	0.049	0.03	0.027	0.049	0.045	0.036
				0.01	0.064	0.051	0.052	0.023	0.03	0.049	0.043	0.036
			0.05	0.005	0.066	0.048	0.048	0.066	0.008	0.046	0.028	0.058
				0.01	0.068	0.044	0.048	0.036	0.02	0.082	0.062	0.05
		10×	0.01	0.005	0.063	0.058	0.058	0.04	0.024	0.063	0.05	0.045
	10			0.01	0.062	0.05	0.049	0.036	0.02	0.049	0.039	0.043
			0.05	0.005	0.064	0.054	0.052	0.048	0.014	0.056	0.044	0.044
				0.01	0.082	0.068	0.066	0.05	0.016	0.056	0.032	0.04
		20×	0.01	0.005	0.067	0.048	0.049	0.041	0.021	0.06	0.041	0.049
				0.01	0.067	0.046	0.045	0.038	0.022	0.053	0.04	0.026
			0.05	0.005	0.066	0.044	0.046	0.046	0.008	0.06	0.04	0.05
				0.01	0.098	0.078	0.084	0.044	0.008	0.068	0.038	0.044
20		5×	0.01	0.005	0.058	0.053	0.052	0.048	0.037	0.055	0.05	0.039
				0.01	0.052	0.048	0.05	0.049	0.028	0.044	0.037	0.041
			0.05	0.005	0.057	0.047	0.048	0.061	0.027	0.058	0.046	0.053
				0.01	0.058	0.051	0.047	0.044	0.026	0.055	0.044	0.047
		10×	0.01	0.005	0.052	0.043	0.045	0.031	0.039	0.06	0.052	0.058
	5			0.01	0.05	0.041	0.041	0.054	0.029	0.046	0.043	0.037
			0.05	0.005	0.048	0.038	0.04	0.044	0.025	0.055	0.045	0.054
				0.01	0.051	0.042	0.043	0.044	0.025	0.063	0.042	0.051
		20×	0.01	0.005	0.058	0.051	0.05	0.035	0.034	0.053	0.046	0.042
				0.01	0.051	0.04	0.038	0.035	0.026	0.043	0.041	0.041
			0.05	0.005	0.051	0.049	0.05	0.042	0.022	0.056	0.037	0.047
				0.01	0.054	0.045	0.041	0.042	0.02	0.055	0.034	0.044
		5×	0.01	0.005	0.068	0.06	0.058	0.024	0.03	0.058	0.046	0.03
				0.01	0.07	0.046	0.048	0.044	0.024	0.048	0.044	0.034
			0.05	0.005	0.08	0.06	0.65	0.052	0.012	0.062	0.04	0.038
				0.01	0.054	0.048	0.046	0.036	0.025	0.066	0.046	0.038
		10×	0.01	0.005	0.064	0.048	0.05	0.038	0.02	0.046	0.032	0.036
	10			0.01	0.076	0.05	0.054	0.048	0.02	0.068	0.054	0.034
			0.05	0.005	0.068	0.052	0.05	0.044	0.008	0.072	0.038	0.032
				0.01	0.08	0.048	0.052	0.05	0.01	0.07	0.038	0.05
		20×	0.01	0.005	0.056	0.054	0.052	0.042	0.022	0.04	0.034	0.036
				0.01	0.072	0.06	0.06	0.04	0.028	0.064	0.052	0.028
			0.05	0.005	0.074	0.054	0.06	0.038	0.026	0.09	0.054	0.038
				0.01	0.044	0.038	0.038	0.046	0.014	0.074	0.034	0.034