专访谷歌AI主管:我反对谷歌涉足自动化武器研发

来源: 腾讯科技2018-05-10 13:58:04
  大约一个月前,有报道称苹果公司挖走了谷歌人工智能(AI)主管约翰·吉安德拉(JohnGiannandrea),但他很快被GoogleBrain研究部门负责人杰夫·迪恩(JeffDean)取代。

  在AI继续被集成到谷歌所有产品和服务的过程中,这位资深谷歌人接任了AI主管职位,而且AI已经在谷歌形成独立部门。GoogleResearc最近甚至更名为GoogleAI。

  在最近举行的开发者大会上,谷歌推出了很多新的功能和更新,包括为移动应用程序开发人员推出的MLKit,计划发布第三代张量处理单元(TPU)芯片,GoogleAssistant中的AI甚至可以代表你打电话。迪恩日前接受采访,分享了他的未来远景。

  在不久的将来,迪恩看到AI创造新产品的机会,并可找到人类从未考虑过的问题的解决方案。他还看到来自AutoML的挑战,这个AI模型可以构建其他AI模型,同时他认为谷歌不应该加入自动化武器研发行列。

  通用智能AI崛起

  在当今世界上,大部分AI只能被用于单一的、狭窄的用例中,就像将一个句子从一种语言翻译为另一种语言,但是迪恩希望谷歌创造更多的AI模型,它们可以执行多个任务,实现一种“对世界的常识推理。”

  迪恩表示:“我认为将来你会看到能做很多事情的AI模型,并在此基础上积累起更多经验。这样,当我们想要训练AI模型来做其他事情时,它就可以在已有技能和专业知识基础上进行设置。”

  举例来说,如果一个机器人(300024,股吧)被要求捡起什么东西,它需要首先理解一些东西,比如手是如何工作的,重力原理,以及其它对这个世界的理解。迪恩称:“我认为这将是未来几年你会看到的一个重要趋势。”

  AutoML偏见和不透明挑战

  询问不同的人,谷歌AutoML要么令人兴奋,要么令人感到恐惧。机器训练机器肯定会吓到AI的反对者。但GoogleCloud首席科学家李飞飞(Fei-FeiLi)表示,AutoML降低了为所有人开发定制AI模型的门槛,无论对于高端开发人员还是东京的拉面店老板,都是如此。

  迪恩认为,这令人非常兴奋,因为它可帮助谷歌“自动解决问题”,但是AutoML的使用也带来了一些独特的问题。

  他说:“与传统的手工编码软件相比,我们使用的学习系统更多,所以我认为这给我们带来了很多挑战。其中之一是,如果你从数据中学习,而数据中已经存在有偏见的决定,那么机器学习模型就会使这些偏见延续下去。有鉴于此,我们与机器学习社区正在做很多工作,以便弄清楚我们怎样才能训练出没有偏见的机器学习模型。”

  另一个挑战是:如何利用AutoML设计出更注重安全的系统,为医疗等行业开发专用AI。几十年计算机科学的最佳实践已经为手工编码建立了这样的系统,现在也需要为制造机器的机器建立同样安全的系统。

  迪恩指出:“我认为这是一个非常有趣和重要的应用方向,特别是当我们开始在更注重安全的系统中使用机器学习的时候,比如那些正在决定你的医疗保健或自动驾驶汽车的东西。”

  注重安全AI需要更透明

  伴随着GoogleAssistant将很快可代表你接打电话,以及AndroidP测试版的发布,谷歌首席执行官桑德尔·皮查伊(SundarPichai)谈到谷歌如何将AI应用到医疗保健领域,以根据电子健康记录信息来预测患者是否需要重新入院。

  谷歌研究人员在《数字医学的本质》(NatureofDigitalMedicine)上发表了一篇文章,解释了其AI为何会对病人做出某些决定,以便医生能在医疗记录中看到其推荐治疗方案的理由。

  将来,迪恩希望,那些想知道AI为何做出某个具体决定的开发人员或医生,能够通过简单地询问AI模型就能得到响应。他说,如今谷歌产品中部署的AI经历了内部审查过程。谷歌目前正在制定一套指导方针,以评估AI模型是否存在偏见。

  迪恩称:“在本质上,就像对产品的新特性进行安全审查或隐私审查一样,你想要的是对机器学习进行公平审查,这是将机器学习融入我们产品的一部分。”

  迪恩表示,当涉及到由开发人员通过诸如MLKit或TensorFlow(已被下载超过1300万次)等工具部署AI时,人类也应该成为决策过程的一部分。

  不该涉足AI武器化

  迪恩说,他认为谷歌不应该涉足自动化武器研发领域。今年3月份,有报道称谷歌正在与美国国防部合作,帮助改进无人机收集的视频的分析能力。

  迪恩解释称:“我认为,随着社会开始发展更强大的技术,机器学习和AI会出现许多有趣的伦理问题。大约在6个月或9个月前,我个人已经签署了一封公开信,承诺反对机器学习用于自动化武器。我认为很明显,大多数人都对使用自主武器系统感到不安。”

  《纽约时报》曾报道称,数千名谷歌员工曾签署公开信,敦促谷歌远离“战争技术”,这可能会对谷歌品牌造成不可弥补的损害,并对公司和公众之间的信任关系产生影响。迪恩没有说明他是否签署了《纽约时报》报道中的那封信。

  AI驱动新项目和产品

  皮查伊还强调了先前发布的一项关于AI的研究,在研究中,AI就像训练有素的眼科医生那样,准确地发现了糖尿病视网膜病变。这种智力水平的AI模型不再局限于模拟人类活动,它们正在帮助谷歌发现新的产品和服务。

  迪恩说:“通过使用大量数据对这些模型进行训练,我们实际上可以让系统做些我们不知道自己是否能做到的事情,这是个根本性进步。我们目前正在研发AI能够验证的全新测试和产品,而不是用AI来做我们想要它们去做的事情。”
责任编辑: 张 冉 IU107
  • 拿起手机 扫一扫

    关注财界网官方微博

  • 扫描左侧二维码

    关注财界网官方微信

    获得更多深度财经资讯

我要评论查看所有评论
昵称:

 遵守中华人民共和国有关法律、法规,遵守《互联网新闻信息服务管理规定》。

 尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。

 您在财界网发表的言论,我们有权在网站内转载或引用。

版权与免责声明:

1 本网注明“来源:×××”(非财界网)的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,本网不承担此类稿件侵权行为的连带责任。

2 在本网的新闻页面或BBS上进行跟帖或发表言论者,文责自负。

3 相关信息并未经过本网站证实,不对您构成任何投资建议,据此操作,风险自担。

4 如涉及作品内容、版权等其它问题,请在30日内同本网联系。

热文排行
  • 财经
  • 股票
  • 理财
  • 综合

千股吧热贴
  • 热门主题
  • 热门回复

基金岛热贴
  • 热门主题
  • 热门回复

社区热贴
  • 热门主题
  • 热门回复

财界网广告服务中心

广告热线:400-898-3001