![深度学习之模型优化:核心算法与案例实践](https://wfqqreader-1252317822.image.myqcloud.com/cover/833/51089833/b_51089833.jpg)
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人
2.1.2 参数量
参数量,泛指模型中可以训练与不能训练的所有参数的数量。例如,AlexNet模型包含了约60MB参数,如果使用32bit浮点数进行存储,则实际占用的存储空间为240MB。
对于一个正常的卷积层,假如输入特征图大小为Hin×Win,通道数为Cin,输出特征图大小为Hout×Wout,通道数为Cout,卷积核大小为K×K,则参数量为Cout×Cin×K×K。
参数量小,则占用内存小,移动端使用的模型对参数量大小比较敏感。可以使用一些工具来统计模型的参数量,这里以PyTorch summary工具为例。它不仅可以统计模型的参数量,还可以统计输入数据及模型在前向运行过程中需要的参数量,使用方法如下。
![](https://epubservercos.yuewen.com/327D6F/30121700503368506/epubprivate/OEBPS/Images/48152_36_1.jpg?sign=1739252285-1wXdFu0C6D1LNqNILxYiQZn4w3ivW0jf-0-b08a0bd7beeb43b05fec2b71a7c77b1b)
表2.1是simpleconv3模型参数量统计结果。
表2.1 simpleconv3模型参数量统计结果
![](https://epubservercos.yuewen.com/327D6F/30121700503368506/epubprivate/OEBPS/Images/48152_36_2.jpg?sign=1739252285-UHmLFwDfFJt0spKJtOt7yoERer0nvngY-0-02440e9cda4f517d0f27fc10b5750bfc)