Design and Statistical Analysis of Pooled Next Generation Sequencing for Rare Variants

Table 2

Type I error rates at a level of 5% for the PB test and Fisher’s exact tests under various depths of coverage, numbers of pools, allele frequencies, and the error rates for testing association. Sample size was set at 500 cases and 500 controls.

Depth of; coverage	Pool number	θ	e	Unbalanced design				Balanced design
					PB	FT	FN	FE	PB	FT	FN
5×		0.01	0.005	0.046	0.033	0.041	0.096	0.041	0.036	0.027	0.017
	2		0.01	0.044	0.041	0.024	0.16	0.013	0.028	0.008	0.004
		0.05	0.005	0.053	0.041	0.072	0.086	0.059	0.037	0.049	0.113
			0.01	0.047	0.044	0.062	0.091	0.059	0.042	0.052	0.092
		0.01	0.005	0.048	0.026	0.04	0.111	0.056	0.039	0.025	0.065
	10		0.01	0.057	0.039	0.028	0.152	0.02	0.026	0.012	0.033
		0.05	0.005	0.051	0.037	0.066	0.083	0.09	0.035	0.052	0.302
			0.01	0.046	0.033	0.06	0.093	0.076	0.05	0.048	0.317
		0.01	0.005	0.05	0.029	0.032	0.082	0.049	0.028	0.019	0.044
	40		0.01	0.049	0.03	0.02	0.122	0.072	0.05	0.017	0.133
		0.05	0.005	0.054	0.032	0.065	0.073	0.07	0.044	0.047	0.043
			0.01	0.055	0.032	0.065	0.098	0.083	0.033	0.05	0.088
10×		0.01	0.005	0.045	0.033	0.02	0.066	0.051	0.034	0.01	0.018
	2		0.01	0.04	0.037	0.012	0.107	0.032	0.037	0.011	0.013
		0.05	0.005	0.055	0.042	0.056	0.063	0.057	0.053	0.03	0.055
			0.01	0.039	0.042	0.034	0.056	0.04	0.045	0.033	0.051
		0.01	0.005	0.05	0.032	0.016	0.072	0.061	0.045	0.021	0.062
	10		0.01	0.045	0.037	0.016	0.098	0.012	0.031	0.006	0.032
		0.05	0.005	0.051	0.046	0.052	0.067	0.066	0.042	0.044	0.168
			0.01	0.048	0.039	0.04	0.071	0.059	0.042	0.03	0.181
		0.01	0.005	0.043	0.036	0.023	0.051	0.048	0.026	0.012	0.034
	40		0.01	0.05	0.032	0.01	0.079	0.053	0.026	0.003	0.035
		0.05	0.005	0.041	0.042	0.04	0.049	0.06	0.049	0.039	0.045
			0.01	0.051	0.047	0.041	0.065	0.053	0.033	0.031	0.046
20×		0.01	0.005	0.06	0.024	0.018	0.054	0.058	0.033	0.015	0.037
	2		0.01	0.036	0.034	0.008	0.049	0.014	0.031	0.003	0.006
		0.05	0.005	0.043	0.036	0.039	0.043	0.045	0.035	0.032	0.036
			0.01	0.054	0.039	0.043	0.054	0.037	0.04	0.026	0.035
		0.01	0.005	0.045	0.025	0.014	0.047	0.061	0.03	0.015	0.051
	10		0.01	0.05	0.04	0.004	0.058	0.011	0.026	0.004	0.034
		0.05	0.005	0.043	0.035	0.034	0.041	0.055	0.038	0.036	0.05
			0.01	0.06	0.041	0.036	0.064	0.048	0.038	0.029	0.051
		0.01	0.005	0.051	0.023	0.012	0.035	0.042	0.036	0.013	0.034
	40		0.01	0.054	0.033	0.002	0.052	0.039	0.022	0.002	0.023
		0.05	0.005	0.052	0.033	0.045	0.049	0.061	0.046	0.038	0.036
			0.01	0.052	0.04	0.034	0.056	0.052	0.048	0.039	0.043