��1�� ���� 1.1 ���~�ݻ� 1.2 �������� 1.3 �����ǻ� ��2�� ���Իؚw�c��� 2.1 Lasso�ؚw 2.1.1 ��Ԫ���Իؚwģ�� 2.1.2 �X�ؚw 2.1.3 Lasso�ؚw 2.1.4 һ���D�����X�ؚw��Lasso�ؚw 2.1.5 ��ؐ�~˹�Ƕ��ٿ��X�ؚw��Lasso�ؚw 2.2 Lassoģ�͵���� 2.2.1 �����½��� 2.2.2 С�ǻؚw 2.2.3 ADMM�㷨 2.2.4 ��� 2.3 �pʧ�������P�Ľ�ģ��� 2.3.1 �pʧ�����ĸ��� 2.3.2 Сһ�˻ؚw�c��λ�ؚw 2.3.3 �����P���� 2.4 ����}�C���c�u�r�ʄt 2.4.1 ����} 2.4.2 ����}�u�r�ʄt 2.5 Logistic�ؚw 2.5.1 ����ģ�� 2.5.2 ������Ӌ 2.5.3 ���t����Logistic�ؚw ��3�� ģ���u�r�c�x�� 3.1 �������� 3.1.1 ���N�`��Ķ��x 3.1.2 ƫ��-����ֽ� 3.2 ��Փ���� 3.2.1 Cp�yӋ�� 3.2.2 AIC�ʄt 3.2.3 BIC�ʄt 3.3 ������C�� ��4�� �Q�ߘ��c�M�Ϸ��� 4.1 �Q�ߘ� 4.1.1 �Q�ߘ�Ļ���֪�R 4.1.2 �Q�ߘ�Ľ�ģ�^�� 4.1.3 ��Ҫ�f����һЩ���} 4.2 Bagging���S�Cɭ�� 4.2.1 Bagging�㷨 4.2.2 �S�Cɭ�� 4.3 Boosting 4.3.1 AdaBoost�㷨 4.3.2 ����}�IJ�ͬ�pʧ���� 4.3.3 �ݶ��½�Boosting�㷨 4.3.4 XGBoost 4.3.5 ӑՓ