keras调参技巧
发表时间:2024-07-30 07:45:27
来源:网友投稿
keras调参经验
1,观察loss胜于观察准确率,loss设计要比较合理,对比训练集和验证集的loss
2,relu可以很好的防止梯度弥散的问题,当然最后一层激活函数尽量别用relu,如果分类则用softmax
3,BatchNorm 可以大大加快训练速度和模型的性能
4,Dropout防止过拟合,可以直接设置为0.5,一半一半,测试的时候把Dropout关掉
5,Loss选择,一般来说分类就是softmax,回归就是L2的loss,但是loss的错误范围(主要是回归)预测一个10000的值,模型输出为0
6,准确率是一个评测指标,但是训练过程中loss你会发现有些情况,准确率是突变的,原来一直是0,可能保持上千迭代,然后变1。而loss不会有那么诡异的发生,毕竟优化目标为loss
7,学习率设置得合理,太大loss爆炸,太小则没有反应
8,对不训练集和验证集的loss,判断过拟合,训练是否足够,是否需要Early Stop
免责声明:本站发布的教育资讯(图片、视频和文字)以本站原创、转载和分享为主,文章观点不代表本网站立场。
如果本文侵犯了您的权益,请联系底部站长邮箱进行举报反馈,一经查实,我们将在第一时间处理,感谢您对本站的关注!
相关资讯
2025年会计行业十大趋势:技术变革与职业转型
2025-07-03
汽修专业新疆怎么找工作
2025-04-06
机械专业专长怎么写简历
2025-04-06
专科怎么报审计专业的
2025-04-06
专业学科导师类别怎么填
2025-04-06
查报考专业网站怎么查
2025-04-06
水电专业规划怎么写简历
2025-04-06
表演专业怎么留学的好呢
2025-04-06
专业防雷检测怎么收费的
2025-04-06
怎么查询同等学力专业
2025-04-06
高考技能专业怎么选择的
2025-04-06
钢筋套筒专业名称怎么写
2025-04-06
中专怎么填高考志愿专业
2025-04-06
中专统招怎么报志愿专业
2025-04-06
师范专业自我评价怎么写
2025-04-06
景观建筑换专业怎么换好
2025-04-06
推荐资讯
成人自考考几门课程呢
2024-07-09 00:52:56
陈芊芊是什么电视剧
2024-07-13 15:35:45
郑州黄河护理职业学院2021年招生章程
2024-07-24 11:12:28
什么充电宝最好用而且电量大
2024-07-28 21:20:10
产品上的r和tm是什么意思
2024-07-30 17:03:09
艾绒褥子能铺多少年
2024-07-31 17:29:51
怎么咨询学校有没有学位
2024-07-31 22:14:35
博士后不出站能提取档案吗
2024-08-01 00:58:50
荣耀8现在还值得购买吗
2024-10-09 07:58:26
达字开头的祝福语
2024-12-07 10:43:47
新励学网教育平台
海量全面 · 详细解读 · 快捷可靠
累积科普文章数:18,862,126篇
热门关注