人工智能

自动驾驶车祸责任如何判定?Google成立新部门研究AI带来的社会伦理问题

字号+ 作者:蓝立晴 来源:cnews 2017-10-10 10:40

Google旗下的人工智能部门DeepMind本3日宣布成立新部门,主要研究AI所带来的社会伦理问题,在预测AI对社会带来的影响的同时,也致力于确保未来任何的AI系统都必须符合人类的伦理道德价值观

 


 
Google旗下的人工智能部门DeepMind本(10)月3日宣布成立新部门,主要研究AI所带来的社会伦理问题,在预测AI对社会带来的影响的同时,也致力于确保未来任何的AI系统都必须符合人类的伦理道德价值观。
 
AI是否对人类构成威胁?是否造潮大量失业潮?甚至造成第三次大战、威胁人类文明?这些问题,Facebook的CEO祖克柏(Mark Zuckerberg)以及特斯拉(Tesla)CEO马斯克(Elon Musk)已经彼此争论了一段时日;而大部分人所担心的“在工作上遭到AI取代”,Google的AI研究专家Peter Norvig则形容,机器学习、人工智能就像是当时引擎的出现使得马车消失了一样,将同时创造数百万个全新的工作,IBM CEO罗梅蒂(Ginni Rometty)则抱持与他类似的观点,这也是硅谷最普遍的观点,而人工智能对社会带来的影响绝不仅如此。
 
Google的DeepMind部门由于在围棋领域上屡次打败人类棋手的AlphaGO而声名大噪,此次,DeepMind除了持续在各个领域打败人类之外还要为伦理问题多做些贡献。新部门DMES(DeepMind Ethics & Society:伦理和社会)将于明年开始针对上述人工智能可能造成的社会伦理问题、对现实世界可能造成的种种影响进行研究,旗下员工预计将在一年内达到25名,目前已有8名全职员工。
 
DMES当然也会与研究目标相同或类似的学术团队合作,例如纽约大学的Now Institute、剑桥大学的Leverhulme Centre for the Future of Intelligence等,并自其他学术单位、相关机构招来了无酬的外部顾问,包括牛津大学的瑞典哲学家Nick Bostrom等,他因2014年出版的著作《Superintelligence: Paths, Dangers, Strategies》而闻名,其对人工智能的观点与马斯克、比尔•盖茨等人类似。
 
该团队在Blog文章中写道,DMES将帮助DeepMind探索AI对现实世界可能产生的影响,例如在一场刑事案件的调查当中,AI的算法是否涉及种族歧视、自动驾驶车辆所造成的车祸责任该归咎于何者、人脸辨识系统引发的隐私问题等。
 
去(2016)年9月,Facebook、Google子公司DeepMind、Amazon、微软以及IBM等5大科技公司携手合作,与其他AI研究团队与学者共同组成一个新的非营利组织:the Partnership on AI,为的就是确保已经成为人们茶余饭后、甚至电视上名嘴都能讲的人工智能议题更被大众所理解,不致对其产生不必要的恐慌,并维持AI研究的透明度。
 
今年7月,当DeepMind试图大举进军医疗领域,却在英国碰壁。DeepMind与英国国家医疗服务体系NHS旗下基金会Royal Free London之间的协议,遭英国信息委员会(ICO)判定未遵守数据保护法。Royal Free准许DeepMind处理其160万名患者的医疗纪录,包括是否滥用药物、堕胎、HIV阳性等,却从未经病患知情与同意,这样的做法引起舆论挞伐,当时DeepMind表示,未来将透过独立伦理审查员来监督类似的交易。
 
现在,或许随着DeepMind成立新部门,我们可以稍微期待其在尖端技术上的研究透明度上能有所提升。










相关文章
  • 未来人工智能(AI)发展八大新趋势

    未来人工智能(AI)发展八大新趋势

    2017-10-07 10:00

  • 研究:人工智能有多聪明?6岁小孩都比它聪明

    研究:人工智能有多聪明?6岁小孩都比它聪明

    2017-10-05 10:39

  • 2017 年人工智能的前五大新创公司

    2017 年人工智能的前五大新创公司

    2017-10-04 10:14

  • 人工智能漫谈

    人工智能漫谈

    2017-09-30 09:36

网友点评