抗议有效！谷歌宣布与美军方AI项目到期不续约|逆天资讯 - 逆天PCB论坛

离线shuszhao

三级逆天

性别:: 帅哥

发帖: 18016

金币: 36418

提示：会员销售的附件,下载积分 = 版块积分 + 销售积分只看楼主倒序阅读使用道具 0楼发表于: 2018-06-04

谷歌多年来一直参与美国国防部的无人机人工智能项目，但是许多谷歌员工始终在抗议，他们不愿意成为杀人机器的研发者。现在，谷歌公司将放弃与五角大楼的这一合作项目。
面对员工的强烈反对和外部持续的舆论压力，最终，谷歌妥协了。
当地时间6月1日，据《纽约时报》报道，谷歌称将不会与美国国防部合作的Maven项目续约。谷歌云CEO黛安·格林（Diane Greene）在谷歌云每周五的例会上向员工公布了上述消息。她表示，目前谷歌与美国军方签订的Maven合同只价值900万美元，将在2019年到期，届时谷歌将不会再寻求续约的机会。

想想她这么说感觉有点儿欺负谷歌员工的智商。据Gizmodo获得的内部电子邮件显示，最初的合同价值至少1500万美元，预计该项目的预算将增长到高达2.5亿美元。这个内部邮件透露的内容才是谷歌云高层真正的胃口。
此外，格林还在会上称，谷歌不会再推进Maven项目，因为外界对这一项目的反馈给公司造成了糟糕的影响。她还补充说公司计划在下周推出关于使用人工智能（AI）的新到的原则。
谷歌应当"与战争生意保持距离"
Maven项目是美国军方去年4月份提出来的，目标是“加快国防部整合大数据和机器学习”，也被美国国防部称为算法战争跨功能团队（AWCFT：Algorithmic Warfare Cross-Functional Team）。Maven项目的首要任务是帮助美国国防部有效地处理来自全球各地的海量的视频资料，从而能够从无人机拍摄的视频中自动识别出人形。
美国国防部每天收集到数量庞大的无人机飞行画面，但人类图像分析师远远跟不上视频数量的增长。因此，国防部希望能利用机器学习来识别无人机镜头中的车辆和其他物体，从而减轻分析人员的负担。在自身资源不足的情况下，国防部转向了学界与业界的人工智能专家合作。
在该项目中，谷歌向美国国防部提供用于机器学习应用的TensorFlow API接口，以帮助军事分析人员检测图像中的物体。但合作到哪种程度，双方都未对外界透露。
谷歌与美国军方的合作一开始在公司内部就引起了不满，谷歌内部的员工认为这种合作影响了声誉和公司文化，也关乎机器学习发展和使用的道德问题，呼吁公司"与战争生意保持距离"。
舆论几乎一边倒，也有人为谷歌站台
今年4月份，谷歌内部有3000多名员工写了公开信给谷歌高层，要求停止与美国军方合作。他们认为，谷歌必须明确宣布，谷歌及其子公司"决不生产用于战争的科技产品"。到了5月份，谷歌请愿签名的员工人数达到4000名，有十几名员工正式因为这一项目向谷歌请辞。（相关阅读：谷歌十余名工程师辞职，抗议公司为美军开发AI技术）
另一方面，外部也给予了谷歌巨大的舆论压力，人权组织"电子前沿基金会"(EFF)以及"机器人武器控制国际委员会"(ICRAC)都对谷歌员工的请愿表示支持，学术界有364名人工智能专业人士也联名上书，反对谷歌。
舆论虽然是一边倒的情形，但是还是有位为谷歌站台的人出现。华盛顿大学教授、《终极算法》作者Pedro Domingos就此公开提出了质疑。

他在Twitter上对Google员工说道：“如果前几代技术人员都像你们这样，拒绝国防相关的工作，我们现在就不会有互联网，也不会有Google。”
有人附议说：其他国家正在高科技领域全速前进，而且没有道德约束。
李飞飞：任何将人工智能武器化的项目研究，都将违背她的原则
对于内部遭遇的辞职潮和外部舆论压力，谷歌一度曾选择“冷处理”。去年9月份，谷歌内部在讨论如何向公众解释这个事情时，谷歌云首席科学家、副总裁李飞飞曾在邮件中强烈建议双方在合同中回避“AI”（人工智能）这个字眼。
“无论付出什么代价，都必须要避免提及或者使用到AI这两个字。武器化人工智能可能是AI领域里最敏感的话题，没有之一。对于媒体而言这简直就是红肉（red meat），他们会找到一切方式毁掉谷歌。”这位来自斯坦福大学人工智能实验室的学者在邮件中说。
“我不知道如果媒体开始讨论谷歌正在秘密建造AI武器或AI技术，并为国防工业服务会发生什么。”李飞飞说，因此她希望在对外公布合同时，能将项目描绘为是谷歌云平台的重大胜利。李飞飞一直坚持相信的是以人为中心的人工智能，可以用积极和慈善的方式让人类受益。她还表示，任何将人工智能武器化的项目研究，都将违背她的原则。
不过，最终谷歌选择不将Maven项目公之于众。只有反对的员工通过谷歌内部沟通平台开始抗议时，谷歌作为Maven项目分包商的事才引起了公众的关注。
挺不住了，谷歌选择“不作恶”
到了今年4月份，反对声音愈演愈烈。谷歌才在内部召开了一次大会，向员工介绍了谷歌在做的事情。谷歌现任CEO桑达尔·皮查伊（Sundar Pichai）也在这次的会议上表示，谷歌将制定一套原则，来指导其人工智能业务在防务和情报合同中，如何越过道德雷区。谷歌也向外界表示，新的原则将会避免让人工智能朝武器化发展。
在更早一次谷歌每周的全公司TGIF（Thanks God， it‘s Friday）会议上，格林也在极力打消员工的疑虑。她在这次会上称，Maven项目不是为了攻击目的，双方的合同价值相当小，仅900万美元。并且，谷歌高层认为，这一项目有利于拓展谷歌云和政府、军方的合作。
但据《连线》5月29日报道，Maven项目到2018年，将开始扩展到新领域，包括利用开发工具以更高效地驱动硬盘。另外，今年Maven项目获得的资金也有望扩大到1.31亿美元。美国五角大楼还计划与硅谷建立联合人工智能中心，可能会效仿Maven项目，以支持美国军方，并为情报机构提供服务。这让Maven项目引发的争议可能在未来几个月还会加剧。
这样的情况，也让谷歌做出了妥协，尽管不想失去军方的合同，但在舆论压力下，谷歌选择了“不作恶”。