Review on Methods to Fix Number of Hidden Neurons in Neural Networks

Table 4

Statistical analysis of various criteria for fixing number of hidden neurons in Elman network.

Considered criteria for fixing number of hidden neurons	no. of hidden neurons	MSE	MRE	MAE
4𝑛/(𝑛−1)	6	0.1329	0.0158	0.1279
5𝑛^2+1/𝑛^2−8	46	0.0473	0.0106	0.0858
4𝑛/𝑛−2	12	0.0783	0.0122	0.099
8𝑛+7/𝑛−2	31	0.0399	0.0117	0.0944
5(𝑛^2+1)+2/𝑛^2−8	52	0.0661	0.0106	0.0862
4𝑛^2+7/𝑛^2−8	43	0.0526	0.0113	0.0917
7𝑛^2+13/𝑛^2−8	76	0.0093	0.0084	0.0684
8𝑛+2/𝑛−2	26	0.083	0.0135	0.1097
7(𝑛^2+2)/𝑛^2−8	77	0.0351	0.008	0.065
3𝑛+5/𝑛−2	14	0.0361	0.0116	0.094
9𝑛/(𝑛−2)	27	0.0388	0.086	0.0701
5(𝑛^2+3)+2/𝑛^2−8	62	0.0282	0.0055	0.0444
9𝑛+6/𝑛−2	33	0.0446	0.0096	0.0778
5(𝑛^2+1)+3/𝑛^2−8	53	0.0447	0.0097	0.0782
𝑛/(𝑛+1)	1	0.1812	0.0239	0.1937
5(𝑛^2+6)/𝑛^2−8	75	0.017	0.0057	0.0462
8𝑛+1/𝑛−2	25	0.0299	0.0105	0.0853
(10𝑛+1)/𝑛	10	0.1549	0.0153	0.1238
3𝑛^2+7/𝑛^2−8	34	0.0414	0.0105	0.0854
6(𝑛^2+4)+3/𝑛^2−8	81	0.0285	0.0065	0.0526
7(𝑛^2+5)+3/𝑛^2−8	101	0.0697	0.0069	0.0561
5𝑛^2/𝑛^2−8	45	0.0541	0.01	0.0813
9𝑛+1/𝑛−2	28	0.038	0.0112	0.0904
8𝑛+8/𝑛−2	32	0.028	0.0105	0.0848
8𝑛/(𝑛−2)	24	0.0268	0.009	0.0727
5(𝑛^2+1)+4/𝑛^2−8	54	0.0155	0.0086	0.0695
4𝑛^2+8/𝑛^2−8	44	0.0599	0.0112	0.0907
5(𝑛^2+3)+3/𝑛^2−8	63	0.0324	0.0094	0.0758
5(𝑛^2+6)−1/𝑛^2−8	74	0.0208	0.0109	0.0881
4𝑛+1/𝑛−2	13	0.1688	0.0167	0.1349
5(𝑛^2+4)−1/𝑛^2−8	64	0.0359	0.0133	0.1079
7(𝑛^2+5)+2/𝑛^2−8	100	0.0194	0.0058	0.0472
5(𝑛^2+2)/𝑛^2−8	55	0.0618	0.0166	0.1342
2𝑛/(𝑛+1)	2	0.217	0.028	0.2272
8𝑛+5/𝑛−2	29	0.0457	0.008	0.0651
(11𝑛+1)/𝑛	11	0.0547	0.0118	0.0959
5(𝑛^2+4)/𝑛^2−8	65	0.0232	0.0098	0.0798
5(𝑛^2+4)+1/𝑛^2−8	66	0.0155	0.006	0.0487
6(𝑛^2+4)/𝑛^2−8	78	0.0171	0.0086	0.0697
3𝑛^2+8/𝑛^2−8	35	0.1005	0.0138	0.116
5𝑛/(𝑛−2)	15	0.0838	0.0109	0.088
5(𝑛^2+4)+1/𝑛^2−8	82	0.0293	0.0061	0.0497
7(𝑛^2+5)−2/𝑛^2−8	96	0.0295	0.0106	0.0859
6(𝑛^2+4)+2/𝑛^2−8	79	0.072	0.009	0.0731
3𝑛+7/𝑛−2	16	0.0588	0.0115	0.0934
8𝑛+6/𝑛−2	30	0.0831	0.0115	0.0935
5(𝑛^2+4)+2/𝑛^2−8	67	0.037	0.0079	0.0636
5𝑛^2+2/𝑛^2−8	47	0.0527	0.0097	0.0784
5(𝑛^2+2)+1/𝑛^2−8	56	0.0157	0.0093	0.0755
8𝑛^2/𝑛^2−7	36	0.0188	0.0117	0.0948
5(𝑛^2+8)+1/𝑛^2−8	86	0.0236	0.0132	0.1066
2𝑛/(𝑛−1)	3	0.1426	0.0218	0.1763
5(𝑛^2+4)−3/𝑛^2−8	87	0.0118	0.0064	0.0519
7(𝑛^2+5)−1/𝑛^2−8	97	0.0319	0.01	0.0813
3𝑛/(𝑛−1)	5	0.1339	0.0208	0.1685
5(𝑛^2+2)+2/𝑛^2−8	57	0.021	0.0078	0.0629
5(𝑛^2+4)+3/𝑛^2−8	68	0.0249	0.0081	0.0654
3𝑛+8/𝑛−2	17	0.039	0.0114	0.0925
5(𝑛^2+7)/𝑛^2−8	80	0.0558	0.0098	0.0797
5(𝑛^2+2)+3/𝑛^2−8	58	0.0283	0.0079	0.064
5(𝑛^2+5)−1/𝑛^2−8	69	0.1152	0.0127	0.1028
6𝑛/(𝑛−2)	18	0.0437	0.0094	0.0759
6(𝑛^2+7)+2/𝑛^2−8	98	0.0283	0.0079	0.064
4𝑛^2+6/𝑛^2−8	42	0.0136	0.0099	0.0806
5(𝑛^2+3)+2/𝑛^2−8	61	0.0249	0.0101	0.082
5(𝑛^2+5)+1/𝑛^2−8	71	0.0162	0.0077	0.0623
7𝑛+2/(𝑛−2)	23	0.1142	0.0156	0.1264
5𝑛/(𝑛−1)	8	0.0894	0.0142	0.1149
5(𝑛^2+9)−1/𝑛^2−8	89	0.0202	0.01	0.0808
4𝑛^2+4/𝑛^2−8	40	0.0163	0.0102	0.083
5(𝑛^2+1)/𝑛^2−8	50	0.0184	0.0092	0.0744
5(𝑛^2+9)/𝑛^2−8	90	0.0188	0.0049	0.0395
4𝑛^2+5/𝑛^2−8	41	0.0329	0.0118	0.0957
7(𝑛^2+4)/𝑛^2−8	91	0.0405	0.0071	0.0573
7(𝑛^2+4)+3/𝑛^2−8	94	0.0258	0.0127	0.1028
5𝑛+7/𝑛−2	22	0.049	0.0088	0.0713
3(𝑛+1)/𝑛	4	0.0723	0.0118	0.0954
5(𝑛^2+1)+1/𝑛^2−8	51	0.0278	0.009	0.0728
5(𝑛^2+3)/𝑛^2−8	60	0.035	0.0106	0.0861
4𝑛^2+1/𝑛^2−8	37	0.0198	0.0078	0.0633
5(𝑛^2+9)−2/𝑛^2−8	88	0.0336	0.008	0.0648
5𝑛+6/𝑛−2	21	0.1008	0.0134	0.1089
𝟒𝐧^𝟐  + 3/ 𝐧^𝟐  − 8	39	0.018	0.0049	0.04
5𝑛^2+4/𝑛^2−8	49	0.0636	0.0095	0.077
7(𝑛^2+4)+1/𝑛^2−8	92	0.0332	0.011	0.089
(9𝑛+1)/𝑛	9	0.1091	0.0123	0.1
6(𝑛^2+5)/𝑛^2−8	84	0.0169	0.009	0.0727
7(𝑛^2+5)−3/𝑛^2−8	95	0.0103	0.0064	0.0517
5(𝑛^2+8)/𝑛^2−8	85	0.0293	0.0104	0.0842
5(𝑛^2+5)+2/𝑛^2−8	72	0.0209	0.0091	0.0739
4𝑛^2+2/𝑛^2−8	38	0.0735	0.0101	0.0815
5𝑛+4/𝑛−2	19	0.0771	0.0125	0.101
5(𝑛^2+2)+4/𝑛^2−8	59	0.0422	0.0101	0.0815
5(𝑛^2+5)/𝑛^2−8	70	0.0366	0.0083	0.067
4.5𝑛/(𝑛−1)	7	0.0727	0.0161	0.1301
5𝑛^2+3/𝑛^2−8	48	0.0183	0.0118	0.0958
6(𝑛^2+5)−1/𝑛^2−8	83	0.0407	0.0092	0.0747
5(𝑛^2+6)−2/𝑛^2−8	73	0.0493	0.0089	0.0721
5𝑛+5/𝑛−2	20	0.142	0.0157	0.1271
7(𝑛^2+4)+2/𝑛^2−8	93	0.0133	0.0093	0.0753
7(𝑛^2+5)+1/𝑛^2−8	99	0.0377	0.012	0.0971