目录
  • 导读
  • 常见错误 #1 你没有首先尝试过拟合单个batch
  • 常见错误 #2: 忘记为网络设置 train/eval 模式
  • 常用的错误 #3: 忘记在.backward()之前进行.zero_grad()
  • 常见错误 #4: 你把做完softmax的结果送到了需要原始logits的损失函数中

导读

这4个错误，我敢说大部分人都犯过，希望能给大家一点提醒。

使用PyTorch常见4个错误解决示例详解

最常见的神经网络错误：

1)你没有首先尝试过拟合单个batch。

2)你忘了为网络设置train/eval模式。

3)在.backward()之前忘记了.zero_grad()(在pytorch中)。

4)将softmaxed输出传递给了期望原始logits的损失，还有其他吗？

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。