归一化又叫标准化,正规化,规范化等等等等,翻译很多,不过英语都是叫normalization.它的意思是将特征数据处理成一组无量纲的,值域在固定的较小空间中的过程.
在统计学中,归一化的具体作用是归纳统一样本的统计分布性.归一化在[0,1]之间是统计的概率分布,归一化在[-1,+1]之间是统计的坐标分布.
针对梯度下降法作为优化算法的情形,归一化可以让优化过程中梯度的变化边平缓.从而加速收敛,更加有利于快速的找到最优解
这边总结了几个常见的标准化方法
在已知特征最大最小值的情况下通过线性的缩放操作除去量纲并缩放到[0,1]区间.
$$ x^{new} = \frac {x-MinValue} {MaxValue-MinValue} $$
In [ ]: