AI和ML

Google宣示不发展战争AI

字号+ 作者:那福忠 来源:brain 2018-06-13 08:38

约两个月前,3,000名Google员工联名写信,抗议公司高层用机器学习软件协助国防部发展AI,此“参战”在内部一直没有平息,而Google终于在日前宣布退出“战区”


图片来源于:
brain.com.tw
 
约两个月前,3,000名Google员工联名写信,抗议公司高层用机器学习软件协助国防部发展AI,此“参战”在内部一直没有平息,而Google终于在日前宣布退出“战区”。
 
本专栏四月份曾谈到“AI能不能军用?”,当时全球几十名AI学者联名呼吁AI不可以用在战争,然后又有三千名Google员工联名写信,抗议公司高层用机器学习软件TensorFlow,协助国防部发展AI。
 
Google参与的国防计划叫Maven,目的在发展“计算机视觉”(Computer Vision),来精密解读无人机追踪目标拍摄的影像。 Google的“参战”在内部一直没有平息,在更多员工抗议、及部分员工愤而辞职之后,终于日前宣布退出“战区”,以后不再用AI发展用在武器或伤害性的技术,至于已进行的Maven计划,则于明年合约到期后退出,不再续约。
 
Google执行官Sundar Pichai为此宣布了七项发展AI的”伦理”,禁止发展自动化武器,但对非战争性的国防用途,仍保留弹性。下面就是这七项伦理规范:
 
1、公益:
AI 广为运用在保健、安全、能源、交通、制造、娱乐各个领域,提供高质量的精准信息,尊重使用所在地的文化、社会、法律的规范。
 
2、避免偏颇:
强调对影响到人的敏感特性,包括种族、性别、国籍、收入、性倾向、能力、政治与宗教信仰等,尽求公允。
 
3、安全:
加强安全考虑,避免意外产生的危险与伤害,特定的AI技术会在封闭的环境测试,严密监视 。
 
4、对人负责:
AI系统会给人反馈、解释、申诉的机会,AI技术也会由人来主导、控制。
 
5、隐私:
AI技术的发展与使用会遵照隐私原则,提供数据的透明与管制。
 
6、高标准:
技术创新源于科学方法,AI工具有潜力解开新的科学知识,会以高水平的卓越科学,来发展AI技术。
 
7、使用:
技术有多种功用,但会限制有潜在伤害或滥用的领域。 
 
除了上面的规范,Google又提出负面不会发展的技术:
 
1、可能导致伤害整体的技术。

2、目的在伤人的武器或技术。

3、违反国际规范收集监视情报的技术。

4、违反一般国际法与人权的技术。

5、再一次表明不会发展用在武器上的AI,但会与政府及军方在其他的领域合作,包括网络安全、训练、军事人力聘雇、军人保健、搜寻与营救。
 
Google又提出长远的AI目标,说要对股东负责,来提升领导力,并用严格的科学与多学科的方式,继续分享所学到AI的技术。用这一原则发展未来的AI,与2004年公司创办的价值一致,当初说过的价值,现在更相信是正确的方向。
 
现在的AI已转向云端,完整的神经网络架构,开放给人使用,用自己的数据训练,发展自己的AI,变得越来越容易。Google、亚马逊、微软,是目前主要的AI云端供应者,仍有苹果等追赶在后,争食这一庞大市场。
 
上世纪90年代关连式数据库出现,大家都知道好用,但懂得运用的人却很少。AI现在正面临同一情况,大家都知道好处很多,但了解技术的人却少,有人说全球有上千万家企业或机构可以受益于AI,所以AI云端的使用会越来越大众化,得益于AI会越来越容易。
 
AI的军用,可能让大家立刻想到好莱坞电影《终结者》(Terminator),完全自主的武装机器人任意肆虐,传说有这方面的研究,但距成熟还远。其实除了用在战场,AI的军事用途还很多,专家说主要可用在三个领域。
 
一是数据处理,如同一般的公司机构,有庞大的数据需用AI处理。二是加速,战争的速度越来越快,每一件事都要加快,AI会让每一件事变快。三是协调,复杂的战争已无法单用人力协调,必须借助AI。
 
但AI用在军事总教人不太舒服,甚至恐惧,AI的技术公司遵守“伦理”规范,不去发展用在战场上的AI,是不是就解除这一迷失,恐怕还没那么简单。
 
AI的云端提供了机器学习架构,使用的人可用来发展自己的AI,发展的结果是否仍能遵守规范,也许就难以约束了。AI不是武器,仅是能源,有了能源可以做的事就很多了。
 
军用AI的需求庞大,除了军方自行开发,借用民间技术在所难免。据报导,亚马逊与微软,正以亿计的云端计算标案,对像是五角大厦。










相关文章
  • 韩国AI人工智能发展趋势

    韩国AI人工智能发展趋势

    2018-06-11 09:29

  • 手机、AI、物联网大整合 三者齐聚打造未来生活

    手机、AI、物联网大整合 三者齐聚打造未来生活

    2018-06-06 10:51

  • 当物联网遇上AI

    当物联网遇上AI

    2018-06-04 15:20

  • 从深度学习到深度造假

    从深度学习到深度造假

    2018-06-04 12:43

网友点评