【一分钟知识分享】什么是超参？

173****7719

超参（hyperparameters）指的是模型训练前需要预先设置的参数，通常指的是除了模型本身需要学习的参数外的所有参数。

常见的超参有learning rate，batch size，dropout rate等。

当然有些超参还涉及到了模型设计，比如CNN每一层的kernel size, 通道数量，激活函数，层数等，甚至包括不同的优化策略本身也可以作为一种超参，以及其本身涉及到的各种参数，比如ADAM里面的betas。

不同的超参对模型的影响不同，而想要找到某一组超参使得最终训练出来的模型获得我们期待的表现，就是所谓的炼丹。

Alice_恒源云

阿洲每期的【一分钟知识分享】，对知识点的表达，既精准又有趣，特别适合炼丹小白一起温习～

为了方便大家往期回顾，Alice特别整理了一下，地址贴在下面：

【一分钟知识分享】

除此之外，阿洲还有多个炼丹心得系列，供大家借鉴参考～

【炼丹必备】

【炼丹保姆】

【实用代码分享】

更多技术文章，可进入阿洲的个人主页围观哦，也可关注私聊，线上交流经验心得～