谨慎对待人工智能

Posted 2020-10-12 窗户

　　版权申明：本文为博主窗户(Colin Cai)原创，欢迎转帖。如要转贴，必须注明原文网址

　　http://www.cnblogs.com/Colin-Cai/p/7749031.html 

　　作者：窗户

　　QQ：6679072

　　E-mail：[e-mail]

　　这几天，沙特阿拉伯接纳了一个新公民——人工智能机器人索菲娅，挺轰动的一个新闻，有史以来人类第一次认同人工智能为公民，而且关键，这不是一次作秀。

　　OMG，我真不知道人类到底在干什么，到底想干什么。我一向觉得，人类研究人工智能可以，但一定一定要把人工智能装进笼子，否则这或许是有史以来人类干的最危险的事情，霍金的担忧可能真不是杞人忧天。出于各种需求，甚至包括军事，人类在一步一步的逼近底线。

　　上个世纪末前，深蓝第一次向全世界人类展示了机器的强悍，深蓝以2胜1负3平的成绩打败了国际象棋世界冠军卡斯帕罗夫。深蓝最基本框架只是基于价值函数做启发式搜索，比起现在的人工智能模型简直弱爆了。那个时候，很多人认为，虽然国际象棋已经战胜人类，但围棋永远搞不定，因为围棋有太多“虚”的东西，量化起来过于困难，从而强智能才有可能在围棋上打败人。而那个年代下，强智能完全是科幻小说里的玩意，而甚至对于人工智能研究者他们本人，都觉得这简直是天方夜谭。

　　然而，我们看到了，Alphago出现了，它把我们的世界冠军完虐了。围棋第一人柯洁不服，说Alphago下不过他。JOKE!不知天高地厚啊，Alphago Master教会他重新看待人工智能。 人们惊呼，人工智能好厉害，深度学习居然如此厉害，把人类智力上最后一点荣耀给抹掉了。甚至于，Google的一篇《Mastering the game of Go with deep neural networks and tree search》论文发出，使得模仿者也可以把智能围棋训练到一定高度。甚至有段时间哥也蠢蠢欲动，想照着论文里的手段，自己也考虑搞个东西玩玩。不过，好在Alphago的训练中还有人类下的棋谱，给人类保留了一点尊严。我们可以阿Q式的YY，要不是祖宗们下了几千年围棋，研究了这么多的理论，哪有Alphago的现在。

　　可是，Alphago zero的出现，分分钟叫人重新做人啊。这是一个从出身开始，就只懂围棋规则，从未学习过任何人类的围棋研究，仅靠自己和自己对弈来提升围棋水平。完全自我学习的结果，令之前称霸围棋界的Alphago Master早已不是其对手。Alphago zero完全靠左右互搏就在短短几个月超越人类几千年的积累。太恐怖了！

　　我从小就相信机械唯物者的认为，生命只是机器的一种形式，而意识这个东西本身没有任何玄妙的地方，一个人此时此刻也完全无法自己真正决定抬左手还是抬右手，眨眼睛还是摇脖子，我今天写这篇文章，你今天看这篇文章也不过都是机器运作的结果，而意识不过就如同我们程序的中间数据一样罢了。否则，如果你真的想从人的角度去解释意识，并认为自己可以真正决定点什么，那么你就开始陷入了一种超自然的怪圈中。

　　然而新的问题产生了，一堆杂质的布朗运动，局部永远都会那么混乱。然后生命的繁殖，却使得局部的负熵变为了常态，这曾经让我一度觉得不可思议。可是当冬天到来，黄河的水也会结冰，非生物界也已昂存在无生命的局部负熵，自然界并不处处都只是布朗运动。而我们使用遗传算法（Genetic Algorithm），都可以让一堆初始的时候杂乱无章的数据在不断进化中越来越优秀，而过程却一直是在程序之中，生命机器的进化也一样遵循，可以不断筛选出优秀的生命。我们可以用bagging、boosting的手段来组合各个分类器，其手段和自然界的筛选本质上来看都是过程。

　　如同生物学界曾经争论过病毒是否属于生命，最终的结果是认同了生命和非生命其实也没有严格界限。一样的道理，智能和非智能真的有严格界限吗？人和狗，狗和蚂蚱之间的智能真的有本质区别吗？ 我倾向于人类可能只不过是大愚若智。人工智能和其他程序就如同病毒和生物之间一样，其实没有明显清晰的界限。

　　目前人工智能解决封闭性问题越来越厉害，深度学习(Deep Learning)已经成为AI界的标配，不搞n个隐藏层搞DL，就跟不上时代。封闭性的问题永远只在某一个规则限定好的领域里，比如医学上通过图像分析某种疾病，再比如Alphago等。可还有一类是开放性问题，这是未来AI研究的关键性方向，这类问题目的不明确，或者在变动，或者根本谈不上一个绝对的目的。开放性问题的研究是通往强智能的必经之路。潘多拉的盒子也会在途中打开。

　　既然自然界塑造了人这样一个接近完美的机器，那么人工智能也应该能塑造另外一个人造机器，殊途同归，只要不断去研究人工智能，相信一切只不是时间问题。

　　《三体》这部小说，我认为有很多值得我们深思的地方：
　　1.如果外星人侵略过来，人类和蚂蚁没有合作的必要。强人工智能诞生之后，人类在强人工智能眼里就是蝼蚁，即便强敌侵入，也不可能有合作的必要，只能算是拖后腿的。

　　2.不同的智能物种之间没有信任，对方的存在就是对自己的威胁。强人工智能诞生之后，人类肯定意识到强人工智能的可怕，而强人工智能自然知道人类的担忧，从而最终矛盾不可调和。

　　于是，昨天，我和一朋友争论，我说，一群蠢家伙(人类)想造一些比自己聪明一万倍的东西，却还想控制它们，这简直是天方夜谭。

　　从而，我觉得，人类要控制好人工智能这个东西，否则演化为史上最大危机真未必是拍电影。只是，但愿这一切从来不会发生，我也不过是在杞人忧天，痴人说梦。