炼数成金 门户 商业智能 机器学习 查看内容

从信息瓶颈理论一瞥机器学习的“大一统理论”

2019-1-11 10:22| 发布者: 炼数成金_小数| 查看: 34066| 评论: 0|原作者: 哈啾路亚|来自: PaperWeekly

摘要: 所有机器学习的原理,本质上都是对同一段信息在不同空间内的转换、过滤、重新表征,最终解码出一段可读信息。为了让最终信息可读,我们需要给最终输出的每一个 bit 赋予意义。如果是监督学习,则需要定义一个度量来 ...

网络 工具 模型 机器学习 内核

序言
所有机器学习的原理,本质上都是对同一段信息在不同空间内的转换、过滤、重新表征,最终解码出一段可读信息。为了让最终信息可读,我们需要给最终输出的每一个 bit 赋予意义。如果是监督学习,则需要定义一个度量来描述输出信息与真实信息的距离。 

列举常见的传统机器学习,我们可以发现大多数监督学习都遵循着这一机制。 

SVM 使用内核机制重新定义了两个向量的内积,经过 centering 这样一个定义原点的操作之后,可以很快看出内核机制实际上重新定义了两个样本间的欧式距离。

而任意两点间的欧式距离被改变,则意味着坐标系的转换,并且转换过后的新坐标系基本上不再是直角坐标系了,很可能是一个更高或是更低维度流型上的曲线坐标系。这时优化度量 margin loss 再在新坐标系上尝试分割出正负样本的 support vector 的较大间隔,找到线性超平面即可。 

所有回归,包括线性回归、回归树,以及各种 boosting tree,其坐标转换部分也非常明显,从 N 维输入到 1 维输出的转换(不管线性还是非线性),之后接一个优化度量(KL 距离既交叉熵、最小二乘、triplet loss,etc.)。 

贝叶斯流派的最终优化目标:logP(x),其本质还是减少,即增加预测分布与目标分布的互信息。其特征空间的转换的方法,就比较五花八门了,这里不细分析。 

那么,除了输入与输出的表征方法,以及优化度量的选择之外,是否在各种机器学习包括深度学习方法内,通用的一些规则呢?就如同牛顿三大定律一样,足以解释所有经典力学的公式。 

从信息瓶颈方法出发,接下来会尝试解释一系列深度学习中出现的知识,并稍作延伸与传统学习的知识点进行类比,去探索机器学习的最核心思路。

何为信息 
以一个二值编码的 10 维向量为例,其排列组合个数 2^10=1024,根据香农熵的定义,一个 10 维 binary 向量的较大可承载信息量是 log(1024) = 10 。

同样是 10 维,假如不是 binary,而是任意连续变量,那么有两种方法可以用来估算连续变量的熵:分箱法以及基于 knn 的估算,后者本质上是一种不均匀的分箱法,所以就拿分箱法举例,假如同样是 0-1 区间被分成 20 个区间,那么该 10 维向量的较大可承载信息量就是

一个分布 X,如果满足 10 维随机均匀分布,那么其混乱度较大,能够达到较大可承载信息。实际上无论是任何分布,只要出现更粗粒度的离散化操作,其熵 H(X) 必然会不可逆地减少,出现信息损失。 

我们通常定义下的熵是微分熵,与香农熵的关系仅相差了一项与分箱间隔 δx 相关的一项。这项可以被当作常量,比如 float 数据类型的 epsilon error,所以后面的熵统一以 H 代替,不指明是香农还是微分熵了。

训练的最终目标是我们的内包含的信息,从最初随机权重得到的绿色区域信息,逐渐遗忘掉 X 里与 Y 不相关的信息,同时尽量捕捉到 X 里与 Y 相关的信息。


这里泛化误差上界 generalization error bound 的推导,需要从霍夫丁不等式开始,具体细节就不展开了,感兴趣的可以网上搜推导过程。


举个例子,当我需要判定一辆车是否能在机动车道行驶,我只需要知道车有 4 个轮子还是 2 个轮子就够了,不需要特征告诉我“有一辆蓝色 4 个轮子的车能够上机动车道”、“有一辆黑色 4 个轮子的车能够上机动车道”、“有一辆白色 2 个轮子的车不能上机动车道”……我不需要颜色这种不相关的信息,所以让特征层在进行特征变换时尽早遗忘掉颜色吧,这样还能节省一些训练需要的样本数。

信息瓶颈的实现方法

考虑上面 KL 距离的预期值:


使用带入,得到:


X 和 Y 的互信息取决于样本集,是个常量,所以训练过程中,逐渐减少:


就可以增加 I(T, Y)。

再次忽略常量 -H(Y|X),可以看到减少交叉熵,就是增加互信息 I(T, Y)。

学习的目标是由优化度量直接决定的,最小二乘的极小值也是类似的情况。

要压缩 H(T) ,可动用的手段就非常多了。一种方法是对信息的载体——向量,在其上面动手脚。 

drop out按一定比例直接砍;
max pooling可以砍大约一半的 H(T);
离散化大杀器,直接砍 H(T) 上限到一个指定数值,一般用在模型最后 argmax 操作上。 

L2 正则以及 batch normalization 都间接或直接地限制了 t 值的取值范围,使相同分箱间隔下, |H| 被指数级减少。 

还有一种隐藏比较深但是更加常见的压缩方法,就是在梯度上增加噪音。梯度上的噪音会通过牛顿下降直接传到权重更新 Δw 上。 

明明目标是要去除 H(T) 里的无用信息,为何要在权重更新 Δw 上添加噪音呢?这里就需要一些推理思考了。

信噪比:科学训练的关键
首先我们需要定义信号与噪音。

等高线描述了Loss(W, x)在x等于真实分布X时的预期值=const,写作L(W)=const

梯度下降时,完全无噪音的下降路径,应该在下降路径中时刻保持与真实分布X构成的等高线垂直,即上图中的红色路径。蓝色是红线在某一点的切线,也就是梯度下降无噪音信号。蓝线的方向是

假如我们在蓝线的基础上加入垂直于 g0 的随机噪音,得到的有噪音梯度就可以看作是在一个圆锥的立体角范围内随机采样一个新的梯度 g 。上图中绿色圆锥比橙色拥有更大噪音,橙色采样梯度则比绿色采样梯度拥有更大的信号噪音比。 

理论上只要保证足够大的训练集,使 BGD 计算出的梯度无限接近真实分布的梯度,并且让学习速率趋近于 0,就能保证下降路径基本上与红线重叠,收敛到最优解。然而真这样做的话,训练所需的时间怕是要等到天荒地老了,这时候我们可以妥协一部分信噪比,以换取每轮更快的计算速度,依靠更多轮迭代缩短训练所需的总时间。 

然而,大多数人没意识到的是:添加的噪音,其作用不只是加快训练,更重要的是它也在帮助压缩向量 t 的信息 H(T),可以减小范化误差。 

为了简化说明问题,这里暂时把 w 和 x 都看作 1 维,高维情况的原理是一样的。 t=wx ,也暂时省去非线性部分 relu,激活函数的确可以压缩 H(T),但机制与离散化并没有本质差别,与梯度噪音是不同的。

假设我们已有一个训练到一半的神经网络,下一次更新权重w时我们完全抛弃梯度信号,改用随机噪音 ζ 代替更新,来分析一下条件熵 H(X|T) 会怎样改变。以上标 ' 表示下一轮迭代时的值,不带上标的表示当前值。

噪音更新后目标层的 feature 值 t'=(w+ζ)x=t +ζx。

噪音与信号不相关,所以概率满足 p(x, t') = p(x, t)q(ζ)。 

p 是数据的概率密度分布,q 是噪音的概率密度分布。同时概率密度 p 和 q 的积分都是 1。

(x, t) 与 ζ 相互独立,所以第一项很容易简化得到 H(X, T) + H(ζ)。

使用 Jensen 不等式改写第二项上的针对 ζ 的积分:


假设噪音的均值为 0,且正负分布对称(例如高斯噪音或白噪音),正负噪音对 t 的修正预期=0,那么迭代前后的 log(p(t)) 预期值应该是一样的。


因为概率密度不为负数,所以第二项存在下限:


所以:


我们看到使用噪音更新权重会导致 H(X|T) 增加,因为 H(X) 固定,所以 I(X, T)=H(X) - H(X|T) 必然减少。每一轮更新都参杂一些噪音进去,就能让 I(X, T) 缩小,同时信号使 I(Y, T) 扩大,但 I(Y, T) 的上限毕竟很低,所以 H(T) 在训练收敛阶段的变化,主要由 I(X, T) 决定,从而导致范化误差被不断降低。

上面的推导适用于 t'= t + f(ζ, ▽wL) 迭代更新的模型,相同输入 x 的情况下特征值 t(x) 的下一轮更新后的值,由噪音以及信号决定其更新量。所以理论上不只是神经网络,xgboost 这类的传统算法的迭代收敛过程也是相同的原理。

噪音的添加方法可谓是五花八门,下面随便列几条: 
SGD的随机梯度,信噪比随着 batch size 的增加而增加;
drop out 的随机遮盖也对 t 值添加了噪音;
各种 tree 衍生的算法里的 column drop out 也是同样道理;
GAN 生成器的白噪音自带 I(T, X) 初始值基本为 0 的属性,所以不太担心范化误差的问题,只需要提升 I(T, Y) 即可;
VAE 的噪音则是源自于 normal distribution 中的采样。

总结
信息瓶颈理论的作者 Naftali Tishby 说过“学习的重要一步就是遗忘,对细节的遗忘使得系统能够形成通用的概念”。这句话非常准确地概括了目前大部分模型在迭代(学习)时正在进行的事情。仔细想想,人脑又何尝不是这样的呢? 

所有监督学习,都绕不开三件事: 坐标转换,增加I(T, Y),以及减少I(T, X)。

每件事都要在训练过程的某一阶段被执行,才能保证利用有限的数据集学习到足够通用的结果。坐标转换确保可解释性,后面两件事负责平衡欠拟合和过拟合。

最后开个脑洞:人脑对于少样本训练的范化误差是远比机器学习模型的效果要好的,那么对于任何一个新概念 Y,其在各层抽象级的表述分别为,人脑必然有非常高效的计算机制,对于所有之前已经学习到的概念,较大程度利用已有的知识。同时对于同一抽象级的不同概念,尽量让它们描述不同的信息,即减小,很可能频繁用到离散化的技巧来实现互信息压缩。 

程序里评估互信息是一件非常麻烦的事情,所以目前机器学习的 loss 仍是基于 MC 采样估算 KL 距离和最小二乘的方法,如果能搞清楚人脑评估互信息的方式,或许人工智能的 loss 定制的问题就能很好得到解决,而这样的 loss 或许才是更贴近“知识”的本质的。

声明:文章收集于网络,如有侵权,请联系小编及时处理,谢谢!

欢迎加入本站公开兴趣群
商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法,实际应用案例分享与讨论,分析工具,ETL工具,数据仓库,数据挖掘工具,报表系统等全方位知识
QQ群:81035754

鲜花

握手

雷人

路过

鸡蛋

最新评论

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

 

GMT+8, 2019-7-21 00:55 , Processed in 0.192764 second(s), 23 queries .