为什么霍金说要对人工智能保持警惕？
Posted 中国企业家俱乐部
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了为什么霍金说要对人工智能保持警惕？相关的知识，希望对你有一定的参考价值。
除了警惕人工智能，我们还总结了他的一些金句，缅怀这位科学家。
霍金近几年对人工智能十分关注，多次发表对人工智能发展的看法。他认为，人类需警惕人工智能的发展威胁，因为人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类将无法与之竞争，从而被取代。
霍金多次敬告世人，关注人工智能的深远影响：“强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。对于好坏我们仍无法确定，现在人类只能竭尽所能，确保其未来发展对人类和环境有利，人类别无选择。”
2017年1月初，在名为Benificial AI 2017的会议上，近2000名产学研领袖和中坚力量共同联名发布“AI 23 条原则”，从研究问题、伦理价值观和长期问题三个角度宏观地为AI发展提出规定。联名者包括：Demis Hassabis，Ilya Sutskeve，Yann LeCun， Yoshua Bengio 以及马斯克等等。霍金也在其中。面对AI 可能会被误用和威胁人类的担忧，这 23 条原则被期待能确保AI走在“正轨”，以获得更加健康的发展。
霍金在2017年初签署的这23条原则，分为研究问题、伦理价值观和长期问题三个部分，以确保人人都能从人工智能中受益，同时保证AI研究和发展的正确方向。
人工智能已经为世界各地人的日常生活提供了有益的工具。人工智能技术应该在以下原则的指导下继续发展，将为未来几十年到几个世纪的人给予巨大的帮助和力量。
研究问题
1）研究目标：人工智能研究的目标应该是创造有益的智能，而不是让它像经历生物演化一样没有确定的发展方向。
2）研究资金：投资人工智能应该附带确保该研究是用于发展有益的人工智能，包括计算机科学、经济学、法律、伦理和社会研究中的棘手问题，例如：
我们如何使未来的AI系统具有高度鲁棒性，这样才能够让它们在没有故障或被黑客入侵的情况下做我们想要它们做的事情？
我们如何通过自动化实现繁荣，同时不打破资源和目的的平衡？
我们如何更新法律制度实现更大的公平和更高的效率，跟上AI的发展步伐，管控与AI相关的风险？
AI应该具有怎样的价值观，应该具有何等法律和伦理地位？
3）科学政策互联：AI研究人员和政策制定者之间应该进行有建设意义、健康的交流。
4）研究文化：应该在AI研究者和开发者中培养合作、信任和透明的文化。
5）避免竞赛（Race Avoidance）：开发AI系统的团队应积极合作，避免在安全标准方面进行削减。
伦理和价值观
6）安全：AI系统应该在整个使用周期内安全可靠，并在可行性和可用性方面有可验证的衡量标准。
7）故障透明度（Failure Transparency）：如果AI系统造成伤害，应该可以确定原因。
8）司法透明度：任何涉及司法决策的自主系统都应对其判断提供合理的解释，并由主管人权机构审核。
9）责任：先进人工智能系统的设计师和建设者是使用、滥用这些系统以及这些系统行动造成的道德影响的利益相关者，他们有责任和机会塑造这些影响。
10）价值观一致性：在设计高度自治的人工智能系统时，应该确保它们的目标和行为在整个操作过程中与人类的价值观相一致。
11）人类价值观：人工智能系统的设计和运行应与人类尊严、权利、自由和文化多样性的理念相一致。
12）个人隐私：由于AI系统能够分析和利用人类产生的数据，人类也应该有权获取、管理和控制自身产生的数据。
13）自由和隐私：AI 应用个人数据，其结果不能不合理地限制人类真实或感知到的自由。
14）共享利益：人工智能技术应当惠及和增强尽可能多的人。
15）共享繁荣：人工智能创造的经济繁荣应该广泛共享，为全人类造福。
16）人类控制：应该由人类选择如何以及是否委托人工智能系统去完成人类选择的目标。
17）非颠覆（Non-subversion）：要控制先进的人工智能系统所带来的力量，应当尊重和改善社会健康发展所需的社会和公民进程，而不是颠覆这种进程。
18）AI 军备竞赛：应该避免在致命的自动武器开发方面形成军备竞赛。
长期问题
19）能力注意（Capability Caution）：在没有共识的情况下，应该避免对未来AI能力上限做出较为肯定的假设。
20）重要性：先进AI可能代表了地球上生命发展历史的一大深刻变化，应该通过相应的关怀和资源对其进行规划和管理。
21）风险：人工智能系统带来的风险，特别是灾难性或有关人类存亡的风险，必须遵守与其预期影响相称的规划和缓解措施。
22）不断自我完善（Recursive Self-Improvement）：对于那些不断自我完善或通过自我复制以能够快速提高质量或数量的AI系统，必须采取严格的安全和控制措施。
23）共同利益：超级智慧只应该为广泛共享的伦理理想服务，为了全人类而不是一个国家或组织的利益而发展。
来绿公司年会讨论人工智能
2018年4月22日-24日，2018中国绿公司年会将在天津与公众见面，今年的主题为“智能商业时代——高质量发展与价值创造”。
人工智能的时代已经到来，从如何利用AI到怎样与AI共处，这是人类在近期面临的一个重大问题，这届绿公司年会也开辟了人工智能板块，领域内知名学者将和企业家一起探讨AI与人类的现在和未来。点击下方注册按钮或阅读原文，注册报名吧。
霍金这位剑桥理论宇宙学中心的研究主任、《时间简史》作者曾有过这样11个观点，涵盖人生和世界的方方面面。大多数人可能还是看不懂霍金的理论研究，但下面这11句话，也蕴含着这位人类历史上最重要的科学之一的思考方式：
1.关于学校学习：曾是差生，但没有什么是不可能的
“在学校里，我成绩一直是中下游，班上的同学都非常聪明，我的作业不整洁，我的笔迹让老师绝望，但我的同学给了我爱因斯坦的绰号，所以可能他们真的有先见之明。我十二岁的时候，我的一个朋友向另一个朋友打赌一袋糖果，说我永远不会有什么成就，我不知道他们是否履行了这个赌约，如果已经尘埃落定，结果使用哪一种方式判定的。”
- 来自2010年的“我的简史”讲座
2.关于外星生命：遇见他们一定不是好事
“如果外星人来到我们这里，一定就像哥伦布在美国登陆时一样，这对美国土著人来说并不好。我们只需要看看自己，看看我们自己的智能会不会发展成为我们无法控制的场面。”
- 2010年与斯蒂芬霍金一起进入宇宙
3.做出科学发现时的高潮“eureka” （阿基米德著名的“我找到了！”之意）：学术对个人生理和心理的另类价值，单身科研狗们别再抱怨单身了，你的追求不止于此
“我不会将它与性相比，但它持续的时间更长。”
- 2011年4月在亚利桑那州立大学的演讲
4.关于残疾：总有一个领域不会让残疾成为障碍
“如果你是残疾人，要知道这可能并不是你的错，但怪罪世界或渴望它对你施舍怜悯也不好。一个人必须有积极的生活态度，必须充分利用自己的处境；如果身体残疾，就不要再有心理残疾。我认为应该多关注那些身体残疾不会造成严重障碍的活动。残奥会我恐怕不太感兴趣，但我很清楚自己向来不喜欢田径运动。科学对于残疾人来说是一个很好的发展道路，因为它的活动主要是头脑。当然，大多数的实验工作可能也会把大多数的残疾人排除在外，但理论工作基本上很合适。我的残疾并没有成为我理论物理领域的障碍，事实上，残疾还让我免除了我本应参加的授课和行政工作。然而，由于我从妻、孩子、同事和学生那里得到了大量的帮助，我成功了。我发现人们一般都会乐意帮助你，但是你应该尽可能地鼓励他们，让他们觉得他们的努力是值得的。”
- 来自“残疾人与科学”，“科学文摘92，第9号，1984年9月”
5.时间旅行：当然为了家庭
“我想回到1967年，我第一个孩子罗伯特出生的时候，我的三个孩子给我带来了极大的喜悦。”
- 去纽约时报，2011年5月
6.关于命运与自由意志
“我注意到即使是声称一切都是决定好的，无法改变的人，在过马路前也会看看两边。”
- 从黑洞与婴儿宇宙及其他散文
7.科学与宗教：肯定相信科学
“基于权威的宗教与基于观察与理性的科学之间存在着根本的区别，科学会赢，因为它有用。”
- 致Diane Sawyer / ABC新闻，2010年6月
8.关于缺陷：为缺陷而生，追求完美终会矫枉过正
“下次有人说你犯了一个错误，告诉他这可能是件好事，因为如果没有缺陷，你和我都不会存在。”
- 与斯蒂芬霍金，2010年进入宇宙
9.关于智商：秀智商的都是屌丝
“我不知道。夸耀自己智商的人都是屌丝。”
- 纽约时报，2004年12月
10.关于女性
“她们是一个十分神秘的群体。”
- 致新科学家，2012年1月
11.关于给自己孩子的建议：理想、坚持与爱
“一、记住仰望星星，不要光看脚下；二，永不放弃工作，工作赋予你人生意义和目的，没有它，生活就是空虚；三，如果你有幸找到爱，记住它的存在，不要舍弃它。”
- 致Diane Sawyer / ABC新闻，2010年6月
以上是关于为什么霍金说要对人工智能保持警惕？的主要内容，如果未能解决你的问题，请参考以下文章