我知道您可以使用调度程序在 pytorch 中动态更改学习率。如何利用动量做同样的事情?
最佳答案
来自documentation用于 PyTorch 中的乘法 LR。基本上,您将调度程序围绕优化器进行包装,就像将优化器围绕模型参数进行包装一样。
lmbda = lambda epoch: 0.95
scheduler = MultiplicativeLR(optimizer, lr_lambda=lmbda)
for epoch in range(100):
train(...)
validate(...)
scheduler.step()
https://stackoverflow.com/questions/63668481/
相关文章:
reactjs - 如何阻止 useEffect 每次都重新加载我的页面?
firebase - 在哪里可以找到 Firebase 部署错误日志?
react-native - 如何在没有 Firebase 的情况下为 React Native A
python - 为什么在 Python 3.x 中的循环中使用 list() 会返回内存错误?
java - CMAKE-COMPILE 在 hadoop-hdfs-native 客户端中失败
react-native - 在 React Native 中访问 DOM 元素
azure-functions - Azure 函数的 ILogger
mysql - 如何使用 SQLAlchemy 为 RDS 代理设置 TLS