Evaluation of Allele Frequency Estimation Using Pooled Sequencing Data Simulation

Table 2

Statistics for doing 10,000 simulations at different MAFs.

MAF	Min.	1st Qu.	Median	Mean	3rd Qu.	Max.	Var.	Relative RMSE
0.5	0.0000	0.0036	0.0049	0.0050	0.0064	0.0162	0.0000	0.5037
1	0.0000	0.0075	0.0098	0.0100	0.0124	0.0264	0.0000	0.3552
5	0.0256	0.0448	0.0500	0.0500	0.0551	0.0795	0.0001	0.1540
10	0.0615	0.0928	0.0999	0.1000	0.1071	0.1401	0.0001	0.1070
20	0.1444	0.1904	0.2000	0.2001	0.2098	0.2558	0.0002	0.0716
30	0.2449	0.2889	0.2997	0.2998	0.3106	0.3619	0.0003	0.0537
40	0.3397	0.3879	0.3998	0.4000	0.4118	0.4707	0.0003	0.0442
50	0.4348	0.4877	0.5000	0.4998	0.5116	0.5675	0.0003	0.0359