��1�¾wՓ�cPyTorch���A/1
1.1�˹������c�񽛾W�j1
1.2��ȌW��2
1.2.1ʲô����ȌW��2
1.2.2��ȌW���İlչ�^��3
1.2.3��ȌW���Ļ��A�W�j4
1.3����PyTorch���_�l�h��4
1.3.1Anaconda�cPython���b4
1.3.2PyCharm��PyTorch���b5
1.3.3PyTorch��Hello World����6
1.4�������A7
1.4.1�����Ķ��x�����������x7
1.4.2��������Ƭ����10
1.4.3�������Ĕ��W����13
1.4.4������׃��16
1.4.5�����ij����\��17
1.4.6�����ďV���C��21
1.4.7�ݶȵ��Ԅ�Ӌ��22
1.4.8�����c����������໥�D�Q23
1.4.9������ƴ��24
1.5���RPyTorch���25
1.5.1һ�����εľW�jģ��25
1.5.2�L���W�jģ�͵ĸ����W�j��27
1.5.3�L��ģ�ͅ�����ģ�ͱ���ͼ��d����29
1.6�����Y30
1.7���}31
��2�¸�֪��——��Ԫ/32
2.1��֪���Ķ��x32
2.2�����33��ȌW����Փ�c����Ŀ�2.3��֪����Ӗ��34
2.3.1�O���W���͟o�O���W��34
2.3.2����ؚw���}��Ӗ������35
2.3.3�������}��Ӗ������43
2.4ʹ��PyTorch���46
2.4.1PyTorch��ܵ�����47
2.4.2ʹ��PyTorch��܌��F��֪��47
2.5�����Y52
2.6���}53
��3��ȫ�B���񽛾W�j/54
3.1����һ�����ε�ȫ�B���񽛾W�j——��Q������}54
3.1.1һ������ȫ�B���񽛾W�j�Ę�����Ӗ��54
3.1.2������a��ጼ��W�j�ӵĘ�������56
3.2ȫ�B���񽛾W�j�Ę��췽��59
3.2.1�W�j�ӵĶ��x59
3.2.2�W�j�Y�����F60
3.2.3�ľW�j�Y���Д�W�j�Ĺ���62
3.3�׷N�����ēpʧ����62
3.3.1nn.CrossEntropyLoss()��nn.NLLLoss()����63
3.3.2nn.MSELoss()����66
3.3.3nn.BCELoss()��nn.BCEWithLogitsLoss()����66
3.3.4nn.L1Loss()����67
3.4�W�jģ�͵�Ӗ���c�yԇ68
3.4.1�������ָ�68
3.4.2�������69
3.4.3�W�jģ�͵�Ӗ������70
3.4.4�ݶ��ۼӵ�Ӗ������71
3.4.5�W����˥�p��Ӗ���еđ���72
3.4.6�W�jģ�͵Ĝyԇ74
3.4.7���ð���——��ʿ�D���r�A�y76
3.5����Ӌ��ͷ����ݶȂ�������Փ����81
3.5.1����Ӌ��81
3.5.2�ݶȷ�������c��������85
3.6�����Y89
3.7���}90
��4�¾��e�񽛾W�j/91
4.1һ�����εľ��e�񽛾W�j——�֌������R�e91
4.1.1������a91
4.1.2���a���94
4.2���e�񽛾W�j����Ҫ����96
4.2.1��ͨ�����e96
4.2.2��ͨ�����e100
4.2.3���e������PyTorch���a���F103
4.2.4�ػ���������PyTorch���a���F105
4.2.5relu()��������䑪��107
4.2.6����Ұ109
4.3���e�񽛾W�j���OӋ����109
4.3.1�����OӋԭ�t109
4.3.2�W�j�Y���鿴�ͅ�����Ӌ��110
4.3.3һ��؈���D����ʾ��111
4.4�^�M�ϼ����Q����116
4.5�����Y117
4.6���}117
��5�����ɽ���CNN�AӖ��ģ�ͼ����w�Ʒ���/119
5.1һ��ʹ��VGG16�ĈD���R�e����119
5.1.1������a119
5.1.2���a���122
5.2������e�񽛾W�j�ĽY��124
5.2.1���e�񽛾W�j�İlչ�^��124
5.2.2AlexNet�W�j125
5.2.3VGGNet�W�j126
5.2.4GoogLeNet�W�j�c1×1���e��128
5.2.5ResNet�W�j130
5.2.6EfficientNet�W�j131
5.3�AӖ��ģ�͵��w�Ʒ���132
5.3.1�AӖ���W�j�w�ƵĻ���ԭ��132
5.3.2VGG16���w�ư���133
5.3.3GoogLeNet���w�ư���136
5.3.4ResNet���w�ư���140
5.3.5EfficientNet���w�ư���142
5.4�����Y145
5.5���}145
��6����Ⱦ��e�񽛾W�j�đ��ð���/146
6.1���R�e146
6.1.1��Ę�R�e���OӋ˼·146
6.1.2���R�e����147
6.2�Z�x�ָ�152
6.2.1�����_ʼ�����Z�x�ָ�W�j152
6.2.2ʹ���AӖ��ģ�͘����Z�x�ָ�W�j160
6.3Ŀ�˙z�y161
6.3.1�����_ʼ����Ŀ�˙z�y�W�j161
6.3.2ʹ��Faster��rcnn����Ŀ�˙z�y�W�j165
6.4���Ɍ����W�j172
6.4.1�����֌����ֈDƬ173
6.4.2���ɻ��܈DƬ176
6.4.3�l�������Ɍ����W�j179
6.5�����Y182
6.6���}182
��7��ѭ�h�񽛾W�j/183
7.1һ�����ε�ѭ�h�񽛾W�j——�����ÿͳ����˔��A�y183
7.1.1������a183
7.1.2���a���187
7.2ѭ�h�񽛾W�j����188
7.2.1ѭ�h�񽛾W�j�Ļ����Y��188
7.2.2��“��”�_ʼ����һ��ѭ�h�񽛾W�j190
7.3�L�̕rӛ���W�j��LSTM��192
7.3.1LSTM�ĽY�������c192
7.3.2LSTM��ʹ�÷���195
7.3.3���ѭ�h�񽛾W�j199
7.3.4�p��ѭ�h�񽛾W�j199
7.3.5LSTM��׃�w——GRU200
7.4�ı��ı�ʾ201
7.4.1�~�Ī����ʾ201
7.4.2Word2Vec�~����202
7.4.3�~Ƕ���ʾ202
7.5����LSTM���ı����206
7.6����LSTM���ı�����210
7.6.1�Z��ģ���c�ı�����210
7.6.2�ƽ�↖�}211
7.6.3�ı����ɰ���212
7.7�����Y216
7.8���}216
��8�»����AӖ��ģ�͵���Ȼ�Z��̎��/217
8.1Seq2Seq�Y���cע�����C��217
8.1.1Seq2Seq�Y��217
8.1.2ע�����C��221
8.2Transformer������NLP�еđ���225
8.2.1Transformer�е�ע�����C��225
8.2.2Transformer�ĽY��226
8.2.3Transformer��λ�þ��a�cǶ��226
8.2.4Transformer��ʹ�÷���229
8.2.5Transformer����232
8.3BERT������NLP�еđ���238
8.3.1�P��BERT238
8.3.2BERT��ʹ�÷���240
8.3.3����BERT���ı����243
8.3.4����BERT����x����247
8.4����GPT���ı�����254
8.4.1�P��GPT254
8.4.2ʹ��GPT2����Ӣ���ı�——ֱ��ʹ��255
8.4.3ʹ��GPT2���������ı�——΢�{����256
8.5ҕ�XTransformer��ViT��260
8.5.1�P��ViT260
8.5.2ViT�AӖ��ģ�͵�ʹ�÷���260
8.5.3����ViT�ĈD����262
8.6ChatGPT����ʹ�÷���264
8.6.1�P��ChatGPT264
8.6.2ChatGPT��ʹ�÷���266
8.7�����Y269
8.8���}269
��9�������ጵ�����񽛾W�j��ҕ������/270
9.1CNN���W�j��ݔ���Ŀ�ҕ��270
9.2CNNģ�͛Q��ԭ��Ŀ�ҕ������274
9.2.1����e���ص����D��CAM��274
9.2.2�����ݶȵ����D��CAM��277
9.3����NLP�΄յĿ�ҕ������281
9.3.1NLP�΄���ע�����C�ƿ�ҕ����һ�㷽��281
9.3.2��ע�����C�ƵĿ�ҕ��282
9.4�����Y284
9.5���}285
��10�¶�ģ�B�W���c��ģ�B�������/286
10.1��ģ�B�W��286
10.1.1��ģ�B�W���İlչ�^��286
10.1.2��ģ�B�W������Ҫ�΄�287
10.2��ģ�B�������288
10.2.1�ı�������ȡ����289
10.2.2�D��������ȡ����289
10.2.3��ģ�B�����ںϷ���289
10.3��ģ�B���������291
10.4�����Y296
10.5���}297
�����īI/298