我們知道，dropout一般都在訓練的時候使用，那么測試的時候如何也開啟dropout呢？
在pytorch中，網絡有train和eval兩種模式，在train模式下，dropout和batch normalization會生效，而val模式下，dropout不生效，bn固定參數。
想要在測試的時候使用dropout，可以把dropout單獨設為train模式，這里可以使用apply函數：
def apply_dropout(m):
if type(m) == nn.Dropout:
m.train()
下面是完整demo代碼：
# coding: utf-8
import torch
import torch.nn as nn
import numpy as np
class SimpleNet(nn.Module):
def __init__(self):
super(SimpleNet, self).__init__()
self.fc = nn.Linear(8, 8)
self.dropout = nn.Dropout(0.5)
def forward(self, x):
x = self.fc(x)
x = self.dropout(x)
return x
net = SimpleNet()
x = torch.FloatTensor([1]*8)
net.train()
y = net(x)
print('train mode result: ', y)
net.eval()
y = net(x)
print('eval mode result: ', y)
net.eval()
y = net(x)
print('eval2 mode result: ', y)
def apply_dropout(m):
if type(m) == nn.Dropout:
m.train()
net.eval()
net.apply(apply_dropout)
y = net(x)
print('apply eval result:', y)
運行結果：
可以看到，在eval模式下，由于dropout未生效，每次跑的結果不同，利用apply函數，將Dropout單獨設為train模式，dropout就生效了。
補充：Pytorch之dropout避免過擬合測試
一.做數據
二.搭建神經網絡
三.訓練
四.對比測試結果
注意：測試過程中，一定要注意模式切換
以上為個人經驗，希望能給大家一個參考，也希望大家多多支持腳本之家。
您可能感興趣的文章:- 淺談pytorch中的dropout的概率p
- PyTorch 實現L2正則化以及Dropout的操作
- Python深度學習pytorch神經網絡Dropout應用詳解解
