ChatGPT多国“围堵”,万人抵制,AI发展的红线到底在哪?
Posted 许思王
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了ChatGPT多国“围堵”,万人抵制,AI发展的红线到底在哪?相关的知识,希望对你有一定的参考价值。
个人主页:【😊个人主页】
文章目录
前言
在之前的某一周我谈论过对中国版”ChatGPT“文心一言我的看法,最近由马斯克、图灵奖得主Bengio等千人联名的“暂停高级AI研发”的公开信的出现,又让这个注定成为热点的话题重新出现在了我的视野。
Chatgpt💻💻💻
ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型。
ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。
多国拟发ChatGPT禁令🈲🈲🈲
开端
最先做出行动的国家是意大利,在全国上下封禁了ChatGPT,只给OpenAI 20天的调整适应期,若拿不出合格的方案就得交最高2000万欧元的罚款。
当地时间3月31日,意大利个人数据保护局宣布,从即日起禁止使用ChatGPT,限制ChatGPT的开发公司OpenAI处理意大利用户信息,并开始立案调查。
意大利个人数据保护局认为,3月20日,ChatGPT平台出现了用户对话数据和付款服务支付信息丢失的情况。该平台没有就收集处理用户信息进行告知,缺乏大量收集和存储个人信息的法律依据。
该机构还表示,尽管OpenAI的条款声称ChatGPT服务面向13岁以上的用户,但平台缺乏能够验证用户年龄的机制。
发展
随后,加拿大隐私专员办公室(OPC)宣布开始调查ChatGPT背后的公司OpenAI;德国联邦数据保护专员发言人称禁止ChatGPT的使用是可能的;法国、爱尔兰、西班牙和瑞典等国家也开始考虑对人工智能(AI)采取更严格的监管。
据加拿大隐私专员办公室(Office of the Privacy Commissioner,OPC)官网4日消息,OPC宣布将对ChatGPT背后的公司OpenAI展开调查,涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。
此外,法国和爱尔兰的隐私监管机构已联系意大利监管机构,以了解更多有关禁令的依据。爱尔兰数据保护机构(DPC)的一位发言人称:“我们正与意大利监管机构跟进情况,将与欧盟数据保护机构共同协调此事。”
高潮
3月末,韩国三星半导体部门发生了3起因员工在ChatGPT上输入设备信息及重要会议摘要,导致公司机密外泄风险陡增的事件,事件发生后,无疑是将ChatGPT推向了争论的顶端。
出于对信息泄露的担忧,包括软银、日立、富士通、三菱日联银行和三井住友银行在内的日本公司已开始限制在业务运营中使用ChatGPT等交互式人工智能服务。
联名抵制
生命未来研究所发布了一封题为《暂停巨型人工智能实验》的公开信,详细阐述了具有与人类竞争性的人工智能系统会给社会和文明造成的潜在风险,呼吁所有人应该立即停止训练比 GPT-4 更强大的 AI 系统,暂停期至少6个月该篇文章得到伊隆·马斯克、“人工智能教父”的杰弗里·辛顿和AI领域专家盖瑞·马库斯之外,图灵奖得主约书亚·本希奥(Yoshua Bengio)、《人工智能:现代方法》作者斯图尔特·罗素(Stuart Russell)、 苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Stability AI首席执行官埃马德·莫斯塔克(Emad Mostaque)等科技界领袖人物一致认同,在该领域引发了一场现象级的讨论。
自我辩解🎛️🎛️🎛️
当被人询问起次的禁用风波后,ChatGPT给出了自己的观点:德国、意大利等国家考虑禁用ChatGPT等AI技术,反映了这些国家的担忧和关注,但禁用ChatGPT等AI技术不一定是最优解。
面对之后发展的询问时,ChatGPT的答案显示,将认真对待,并与相关部门和利益相关者积极沟通,全力配合各方开展相关的调查和处理,同时努力提高技术的安全性和合规性,保护用户隐私和数据安全。
名家争言
比尔盖茨:暂停AI研发无法解决问题🧑💼🧑💼🧑💼
作为坚定的人工智能拥护者,比尔盖茨在本周接受英国媒体专访时指出,暂停AI研发无法解决问题,应当把注意力放在如何最好地利用人工智能的发展上。
“我不认为命令一个特定的群体暂停(发展)能够解决所有的问题,很显然(AI)进步有着巨大的益处,我们需要做的是找出那些棘手的领域。”他表示。
在3月底,比尔盖茨在自己的博客GatesNote发表《人工智能的时代已经开启》一文,他认为AI革命的重要程度不亚于手机和互联网的诞生。
马斯克🧑💼🧑💼🧑💼
与比尔盖茨相反的是。早在2月,马斯克就强调,人工智能是未来人类文明最大的风险之一,其威胁程度超过核技术,需要加强安全监管。“它有积极的一面,也有消极的一面,有巨大的前景也有巨大的能力,但随之而来的危险也是巨大的。”
总结
2023年2月,媒体报道,欧盟负责内部市场的委员蒂埃里·布雷东日前就“聊天生成预训练转换器”发表评论说,这类人工智能技术可能为商业和民生带来巨大的机遇,但同时也伴随着风险,因此欧盟正在考虑设立规章制度,以规范其使用,确保向用户提供高质量、有价值的信息和数据。
谷歌 3100 名员工上书 CEO 皮查伊:抵制发展战争技术抵制与五角大楼合作 AI 项目 Project Maven
机器之心整理
机器之心编辑部
作为拥有先进技术的科技巨头,谷歌这样的公司不免会与军事计划产生联系。在有侵犯隐私、违背伦理的风险下,是否应该接下巨额合同?最近,听闻公司正在参与美国国防部「Project Maven」AI 军事计划,很多谷歌员工发起了抵制,他们上书 CEO Sundar Pichai 的公开信现在已经获得了数千人的联名签署。
五角大楼项目「Project Maven」主要应用深度学习计算机视觉技术,旨在帮助国防部门从图像和视频中提取值得注意的对象。该项目是在 2017 年 4 月由时任副国防部长 Bob Work 在一份备忘录中首次披露的。目前,美国已经成立了一个算法战争混合任务团队(Algorithmic Warfare Cross-Functional Team),由国防情报局副部长监督。
数千名谷歌员工签署了一封致 CEO Sundar Pichai 的信函,抗议谷歌参与一个旨在提高无人机打击能力的项目。(图源:Michael Short/Bloomberg)
近日,数千名谷歌员工(包括数十名高级工程师)签署了一份联名信函,抗议该公司参与五角大楼的一个项目,该项目利用人工智能解读视频图像,旨在提高无人机打击的精准度。
该信函在谷歌内部迅速流传开来,已有超过 3100 人签名,反映了硅谷与联邦政府之间的文化冲突。随着人工智能前沿技术越来越多地用于军事领域,这种冲突可能会愈演愈烈。
信是写给谷歌 CEO Sundar Pichai 的。信中写道:「我们认为谷歌不应卷入战争。」信中要求谷歌撤出五角大楼的试点项目 Project Maven,并宣布永远不会「发展战争技术」。
当然,这种理想主义的想法并不是所有谷歌员工都认同的,但对于一家以「不作恶」(信中也有引用)为座右铭的公司来说,提出这种想法是很正常的。但这显然与华盛顿庞大的国防工业不同,当然也与五角大楼不同。现任美国国防部长 Jim Mattis 经常说,五角大楼的中心目标是提高美国军队的「杀伤力」。
从早期开始,谷歌就鼓励员工就涉及公司的问题发表意见。该公司提供了内部留言板和社交网络,员工可以在这些平台上就公司的产品和政策向管理层或同事提出意见。最近,围绕谷歌努力打造一支更加多元化的员工队伍的激烈辩论日益公开化。
谷歌员工已就一系列问题发出了抗议请愿书,包括该公司落后于 Facebook 的社交网站 Google Plus 以及谷歌对保守政治行动会议(CPAC)的赞助。
在最近的一次公司会议上,员工就谷歌参与 Project Maven 提出质疑。当时,谷歌云基础设施业务主管 Diane Greene 为这一项目辩护,并试图安抚相关员工。公司发言人表示,抗议信上的大多数签名是在公司对此情况进行解释之前收集的。
该公司随后将 Project Maven 的工作描述为「非攻击性的」,尽管五角大楼的视频分析通常用于反暴动和反恐行动,国防部也曾发文表示该项目用于支持这些行动。谷歌和五角大楼都表示,谷歌的产品不会创造出无需人类操作者就能开火的自主武器系统,自主武器系统在人工智能应用中也有很大争议。
对无人机视频做进一步分析,可以挑选出人类目标并实施袭击,换个角度来说,这也有助于更好地分辨出平民,以减少无辜者被意外杀害的风险。
谷歌周二发布的一项声明并未直接提及这份致 CEO Sundar Pichai 的信函,声明中提到:「任何机器学习的军事化应用都会导致人们的合理担忧,这是自然的。我们正在公司内部积极鼓励对该重要议题进行充分讨论。」谷歌称这种交流「非常重要,也非常有益」,而熟知信件内容的多名谷歌员工仅在匿名条件下发声,并表示这是因为担心被报复。
该声明称谷歌在 Project Maven 中所参与的部分「仅限于非攻击性的目的」,虽然官方拒绝提供相关的合同内容。美国国防部称由于谷歌是主承包商 ECS Federal 在 Project Maven 的分包商,它不能提供谷歌合同或合同内容。ECS Federal 尚未回应该询问。
谷歌称五角大楼在使用基于未分类数据且「对任何谷歌云客户开放的开源目标识别软件」。谷歌表示,「这项技术用于标记图像,以帮助人工审查,其目的是把人们从高度单调的工作中解放出来。」
谷歌部分高管和五角大楼有密切联系。该公司前执行董事长 Eric Schmidt(目前仍是谷歌母公司 Alphabet 的执行董事会成员)为五角大楼顾问团 Defence Innovation Board 的成员,该顾问团还包括谷歌副总裁 Milo Medin。
在 11 月份的一个采访中,Mr. Schmidt 承认「技术社区普遍担心军工行业会使用他们的成果去错误地伤害人类」。他说他将在董事会中「至少起到交流作用」,并且建议军方「使用这些技术来帮助保护国家安全」。
谷歌这一小部分对军事合同感到不安的员工(超过 70000 名)也许并不能对公司的发展造成大的阻碍。但在人工智能研究领域中,谷歌正忙于和其它技术公司激烈「抢人」,因此如果某些候选者被谷歌的辩解所推迟,这将会造成人事聘用上的麻烦。
谷歌在内部异议中为国防合同辩护,但与此同时它的竞争对手并不羞于宣传自己的国防项目。亚马逊向国防部大力宣传其图像识别研究成果,而微软则表示他们的云技术已经与美国政府签订合同,为军事和国防机构处理机密信息。
当前的争论由 Gizmodo 首次报道,主要集中在 Project Maven。该试点项目于去年开始,旨在找到加速军方应用最新 AI 技术的方式。五角大楼发言人表示,预计该项目第一年花费不到 7000 万美元。但谷歌公开信的签名者明确希望阻止谷歌参与更大规模的五角大楼合同(人工智能国防应用不断发展)。
外界普遍认为,目前谷歌正与其他科技巨头(如亚马逊和微软)竞争一份为期多年、价值数十亿美元的国防部云服务合同。国防部首席管理官 John Gibson 在三月份的一次讲话中提到:「联合企业国防基础设施云(Joint Enterprise Defense Infrastructure Cloud)」采购计划的部分目的是「提升杀伤力和做好准备」,这凸显了将软件、云服务等相关服务与实际商业战争之间分开的难度。
谷歌员工写给 Pichai 的公开信已经在谷歌内部通信系统中传播了数周,信中认为,参与军事项目可能会疏远用户,甚至影响未来的人才引进。
「这一计划将不可挽回地损害谷歌的品牌和人才吸引力,」信中提到,「由于人们越来越担心人工智能的偏见与武器化,谷歌争取用户信任的道路已经越来越难走了。」在未来,谷歌或许会被视为加入雷神、通用动力以及 Palantir 这样的国防承包商行列。
「其他大型科技公司如微软和亚马逊也参与了这一项目,但这并不会让谷歌承担的风险变小。」信中说,「谷歌拥有独特的历史,它的座右铭是『不作恶』(Don't Be Evil),谷歌直接触及数十亿用户的生活,这让它与众不同。」
和其它新贵最终成为了强大的硅谷巨人一样,谷歌也正被迫面对早年引导公司的理念。Facebook 开始时的使命是连接世界上所有的人,但是最近因为虚假消息渠道和被俄罗斯用来影响 2016 年的选举而受到抨击,此外,它同样还被指控在美国选民中传播异议。
考虑到谷歌的历史和五角大楼目前在军事方面对 AI 的强烈需求,前五角大楼的官员和「Army of None」的作者 Paul Scharre 表示,这在谷歌内部是不可避免的。
华盛顿新国家安全中心的高级成员 Scharre 说:「技术开发者之间存在着强烈的自由主义精神,并且对政府使用技术会感到担忧。目前,人工智能突然且快速地从实验室走出来,迈进了现实生活,这尤其加剧他们的担忧。」
公开信原文:
亲爱的 Sundar:
我们认为谷歌不应卷入战争。因此,我们请求公司撤销 Project Maven,同时起草、公布并执行一项明确的决策:谷歌及其合约商永不发展战争科技。
谷歌目前正在实施 Project Maven,这是一个定制的 AI 监控引擎,它使用美国政府获取的「广域运动图像(Wide Area Motion Imagery)」来检测汽车和其他物体并追踪其运动,检测和追踪结果提交给国防部。
最近,谷歌员工在公司内部表示了对 Maven 的担忧。Diane Greene 在回应中保证该技术不会「在无人机上运行」,也「不会被用于武器开发」。虽然这排除了极小部分的直接应用,但该技术是为军事用途而开发,一旦交付,就会轻易被用于这些任务的辅助工作。
这一计划将对谷歌的品牌及人才吸引力造成不可挽回的伤害。随着对 AI 偏见化和武器化的恐惧日益加剧,谷歌谷歌争取用户信任的道路已经越来越难走了。而签署这份协议,谷歌将加入 Palantir、雷神、通用动力等公司的行列。其他大型科技公司如微软和亚马逊也参与了这一项目,但这并不会让谷歌承担的风险变小。谷歌拥有独特的历史,它的座右铭是『不作恶』,谷歌直接触及数十亿用户的生活,这让它与众不同。
我们不能把技术的道德责任外包给第三方。谷歌宣扬的价值观清晰地表明:每一个用户都在给予我们信任,永远不要辜负这一点。这个合同使谷歌的名誉受到威胁,而且与我们的核心价值观相悖。发展一项技术协助美国政府进行军事监控,而且该技术可能造成致命结果,这是不可接受的。
考虑到谷歌的道德伦理责任,以及这对谷歌名誉的潜在危害,我们请求你:
1. 立即取消这一项目。
2. 起草、公布并执行一项明确的策略,声明谷歌及其合约商永远不会染指军事技术。
参考原文:https://www.nytimes.com/2018/04/04/technology/google-letter-ceo-pentagon-project.html
感兴趣的读者可以查看hacker news上对此事的热烈讨论:https://news.ycombinator.com/item?id=16755530
✄------------------------------------------------
以上是关于ChatGPT多国“围堵”,万人抵制,AI发展的红线到底在哪?的主要内容,如果未能解决你的问题,请参考以下文章
谷歌 3100 名员工上书 CEO 皮查伊:抵制发展战争技术抵制与五角大楼合作 AI 项目 Project Maven
操作ChatGPT竟写出毁灭人类计划书!“AI正在指数级发展”