DIM中的一些知识点(慢更)

Posted 2023-03-31 zzz2077

最大深度互信息模型(DIM)执行图片搜索器

1. MINE方法:
   之前看下面这句话的时候总是云里雾里,好好推了下公式终于明白啦。
   利用神经网络计算互信息可以转换为计算两个数据集合的联合分布和边缘分布之间的散度

   具体推导过程:
   

   如图,首先，我们有：

         I(X;Y) = H(X) - H(X|Y)
   

   其中，H(X|Y) 表示给定随机变量 Y 的条件下，随机变量 X 的条件熵。根据条件熵的定义，我们有：

       H(X|Y) = - sum_x sum_y P(x,y) log(P(x|y))
   

   将这个公式代入上面的公式中，我们得到：

     I(X;Y) = H(X) + sum_x sum_y P(x,y) log(P(x|y))
   

   根据概率论中的乘法规则，我们有 P(x,y) = P(x|y)P(y)，因此上面的公式可以写成：

     I(X;Y) = H(X) + sum_x sum_y P(x,y) log(P(x,y)/P(y))
   

   由于 H(X) = - sum_x P(x) log(P(x))，因此上面的公式可以写成：

   I(X;Y) = - sum_x P(x) log(P(x)) + sum_x sum_y P(x,y) log(P(x,y)/P(y))
   

   将上面的公式中的求和号用全概率公式 P(x)=sum_y P(x,y)拆开，我们得到：

   I(X;Y) = - sum_x sum_y P(x,y) log(P(x)) + sum_x sum_y P(x,y) log(P(x,y)/P(y))
   

   接下来，我们将上面的公式中的两个求和号合并成一个求和号，得到：

   I(X;Y)=sum_x sum_y P(x,y)(log(P(x,y))-log(P(x))-log(P(y)))
   

   根据对数函数的性质，我们有 log(a/b)=log(a)-log(b)，因此上面的公式可以写成：

   I(X;Y)=sum_x sum_y P(x,y)(log(P(x,y)/(P(x)*P(y))))
   

   根据 KL 散度的定义，我们有 D_KL(P||Q)=sum_x P(x)(log(P(x)/Q(x)))，因此上面的公式可以写成：

    I(X;Y)=D_KL(P(X,Y)||P(X)*P(Y))
   

   这就是互信息和 KL 散度之间的关系。

九成宫醴泉铭-欧阳询(慢更)

九

1. 撇 重头撇 下笔横切，顿笔转到合适角度，向下行笔(此处注意向右给出一点弧度，使与后面的弯钩中的竖间距不大，中宫收紧)，再向下笔画变细，向左撇出
2. 横 右尖横，横宜短不宜长
3. 折即竖 注意向内稍收但不能收多， 也可竖直而下。
4. 弯即下部的横，弯折90度，笔画保持偏细，然后横时细逐渐转粗
5. 钩 内圆外圆，外圆90度形状

注意：

  1撇在米字格左边中间起笔，横折靠近竖中线偏右，弯钩为主笔，必须有足够的空间。	
  2横与4弯处的横，尽量平行并保持向右上斜度。
  1撇起笔处注意向内收一些，然后逐渐撇出，不要与右边主题部分间距太大

成

1撇 此撇头部稍重，尾部出一点勾， 整体走向为竖直向下，在尾部才左撇出一些。如果直接写斜撇，字容易松散，例如图二的成
2横 横有两点：1)行笔向右上斜出，角度要大。 2) 左尖横，左边起笔，稍过竖中线收笔，切忌横穿过竖中线过长。
3横折勾 这个笔画没什么难度，注意笔画粗细变化和横不要过长即可，并且竖向长度需要超过1撇，我图上写的两个字都有问题，字虽然重心结构尚稳但气势不足
4弯勾 横略下切笔，笔画由重转轻再转重，弯勾与横折勾靠近，也可虚接。
5撇 随意写，别离主体太远
6点 撇点，随意写

注意：

	1，2笔画都是靠左，主笔弯勾略大，要留够空间
	1横折勾 笔画要比1撇更低，图中写的两个成中 1撇偏长，3横折勾不够
	 竖弯钩可以更弯一些，即弯再“倒”一些，可能会更好看。注意笔画粗细变化，不然会很丑

泉

上白下水
白：
1 撇 撇笔画不宜太斜，尽量使笔画边缘圆滑，不要有切笔的痕迹(今天手感不好，一直写不圆)
2 竖 超出撇尖起笔，行笔同时大角度内收，过撇尖后略收即可，注意不要写成竖直，字会变得很笨
3 横折 左尖横，折时向内收向下行笔，内收角度尽量和左竖一致
4 横 这个里面的横，欧阳询写得很细，上半部由粗笔画圈住小细横，稳重不失灵动，我中间笔画宽度和外部相似，显得中规中矩不够灵活
5 横 粗横

水
1 竖勾 粗细粗行笔，然后出勾，保持笔画流畅同时粗细变化大一些应该会更好看
2 横撇 横向上斜，可以稍写长斜。撇由粗到细，比1竖勾略高一点收笔，不宜太高
3 撇捺 撇在上白的4横水平线上起笔，笔画偏细偏短 捺接竖勾或穿过竖勾，在横撇交折处起笔，角度不宜过大，比1竖撇略高收笔

注意：

上下结构，上部分与下部分等高。
上部分注意到内收，并且属于竖比横略长那种，注意笔画粗细。
下部分注意竖勾要笔直有力，我临摹的下部分有点撑不起上白，水字由左到由整体上斜，最后捺写厚重将重心压回来。

(断更好久，要求降低点。 坚持更图片和一两句重点就好)

铭

右边的 “夕” 总写不好，先这样吧…

注意点

左边金字注意横要短，要倾斜，不然左边显得肥，喧宾夺主并且看着不精致
右边的上半部比较难写。横撇的交折处一直学不来，等以后找老师请教吧~  。然后撇 和 横撇的撇角度是不一样的，横撇的撇要向下走，才能把右部分拉长些

监

注意点：
明显第二个临摹的更像一些。这里注意 因为上半部分横笔画较多，所以监字容易写宽写笨，写时注意右上方撇横，和两横，要短，要向上斜。 然后下部分皿的竖长一些，把整个字写长点

捡

这个注意提手旁的两横的右边 不要越过竖太多，右边问题不大。 注意四点中，左右两点歪斜大些，中间两点偏竖直些~

挍(古同校)

提手旁同捡的注意点，右边点和横不要靠太近，点靠上些。

锯

这个字一直写的别扭，先放这里，后面写好了再更。原碑贴左金毁了，大概看着撇捺大，下部分很瘦，大概写一下。。 右边注意四个横逐渐变长，注意不要写成等长不然这个字很笨，再就是第一横提高点，不要四横写下来比中间的竖还要低。

鹿

郡