การเปรียบเทียบวิธีคัดเลือกตัวแปรอิสระในตัวแบบการถดถอยเชิงเส้นพหุโดยใช้ขั้นตอนวิธีเชิงพันธุกรรมและการจำลองการอบเหนียว
Article Sidebar
Main Article Content
Abstract
The objective of this research is to study the subset selection in multiple linear regression model by using Genetic Algorithm (GA) and Simulated Annealing (SA) and compare the efficiency and rate of convergence of GA and SA in the case of with and without multicollinearity problem between input variables. The data used in this study were simulated under various situations. The numbers of input variables are 5 10 and 20 respectively, for each input variable, the sample sizes are 50 100 200 and 500 respectively. The efficiency is compared by using correct specification percentage of subset selection while rate of convergence is validated through number of loops spent for each case. The results show that GA and SA perform similarly in the case of with and without multicollinearity problem. Further, GA provide higher percentage of correct specification than SA for small number of input variable while both methods provide 100% of correct specification when the numbers of input variables are increased. In addition, the results reveal that both GA and SA have similar rate of convergence when the number of input variables is small while SA can work much faster than GA when the number of input variables or the dimension of the problem becomes larger.
Article Details
References
ศิรินทิพย์ หมื่นจันทร์. (2557). การคัดเลือกตัวแบบในการถดถอยเชิงเส้นพหุคูณโดยใช้วิธีดับเบิลเจเนติก อัลกอริทึม. วิทยานิพนธ์ปริญญาวิทยาศาสตรมหาบัณฑิต, มหาวิทยาลัยเชียงใหม่, เชียงใหม่.
พิศลย์ มีแก้ว. (2546). การเปรียบเทียบวิธีการหาคำตอบที่ดีที่สุดด้วยวิธีทางฮิวริสติค. วิทยานิพนธ์ วิศวกรรมศาสตรมหาบัณฑิต, มหาวิทยาลัยธรรมศาสตร์.
Kapetanious, G. (2007). Variable Selection in Regression Models Using Nonstandard Optimization of Information Criteria. Computational Statistics & Data Analysis. 52 (1), 4-15.
Hoerl, Arthur E. and Kennard, Robert W. (1970). Ridge Regression: Biased Estimation to Nonorthogonal Problem. Technometrics. 12 (1), 55-67.
Hoerl, Arthur E. and Kennard, Robert W. (1970). Ridge Regression: Applications to Nonorthogonal Problem. Technometrics. 12 (1), 69-82.
Hoerl, Arthur E.; Kennard, Robert W. and Baldwin, Kent F. (1975). Ridge Regression: Some Simulations. Communications in Statistics. 4 (2), 105-123.
Douglas C. Montgomery, Elizabeth A. Peck, and G.Geoffrey Vining. (2006). Introduction to Linear Regression Analysis (4th ed.). New York: Wiley-Interscience.