深度 | 奥巴马谈人工智能:社会契约与经济模式要与科技与时俱进 | 雷锋网

来源:雷锋网 2016-10-14 08:46:00

编者按:在未来50年里,除了人工智能,我们很难想象身边还会出现另一种技术,能如此深远地影响我们的生活。

随着机器学习让计算机无师自通,从医学诊断到自动驾驶汽车,技术领域的突破如雨后春笋。不过,是谁在把控着人工智能?它会取代我们的工作吗?机器人威胁论又是否会成为现实?

作为美国总统,奥巴马同样也对这些问题充满关注。日前,MIT媒体实验室总监JoiIto及《连线》记者ScottDadich一同来到白宫,和总统一起坐下来聊了聊人工智能的未来、可能有的炒作,还有伴随的隐忧。本文源自Wired,作者ScottDadich,奕欣、老吕IO及熊蒙联合编译,雷锋网(搜索“雷锋网”公众号关注)根据访谈内容做了不改动原意的处理,未经许可不得转载。

今年8月24日,JoiIto,ScottDadich,

还有美国总统奥巴马在白宫的罗斯福会议室里会面

人工智能如何给我们带来社会化价值?

ScottDadich:首先感谢你们二位邀请我到白宫来。总统先生,我想问您最近一段时间过得如何?

奥巴马:忙碌,但我做了很多事情。想必你也了解到,目前国际上有不少政治问题需要解决。

ScottDadich:接下来,我们谈论的重点主要集中在人工智能,这个领域已经从科幻小说里跳脱出来,成为现实,并对我们的生活产生深远影响。我想请问总统先生,您是什么时候开始意识到AI时代的来临?

奥巴马:我对人工智能的了解,是因为它开始以各种形式渗透到我们的生活中来,而我们却还浑然不知。另外一部分原因是,我们对人工智能的认识主要是源于流行文化。而实际上,广义和专业的AI存在区别,而这可能和很多读者所了解的有所不同。在科幻小说中,我们所知道都是广义AI,不是吗?电脑开始变得比我们还聪明,意识到人类不总是那么有用,甚至把人类囚禁在温室里,不然就是打造一个matrix般的虚拟世界。

在和一些科学家探讨的过程中,我了解到这样的场景着实离我们还有很远距离。不过,这些设想能够放飞我们的思想,并让我们意识到自己还有足够的自由度,将专业的人工智能应用于各种重要的领域,也就是通过算法和计算机的处理,以解决日益增加的复杂问题。从医学到交通领域,甚至到电力的分配,我们已经见证了“术业有专攻”的人工智能在日常生活中起着怎样的作用,并且无疑在经济层面上也能提升生产力和效率。如果利用得当,它当然能让社会繁荣昌盛,带来无数机会。但它伴随而来的问题就是工作岗位的减少,或许会加剧不平等,工资水平也会削减。

JoiIto:这个问题同样困扰着我MIT实验室里的学生们,但我关心的一点在于,能接触这些AI核心计算机技术的人大多是男孩子,尤其是白人,而他们在谈论电脑问题的时候显然要比谈论人种问题要轻松得多。他们中的不少人觉得,如果他们可以用人工智能创造出像科幻小说里一样的场景,我们也不必担忧如此多的政治及社会问题了。学生们会觉得,创造这样的机器,也是一种让人类摆脱这些问题的方式。

奥巴马:是的没错。

JoiIto:但他们同时也预见到了可能带来的困难,我觉得我们已经来到了一个人工智能议题超越电脑问题的时代。很重要的一点是,每个人都需要理解AI如何运作。在媒体实验室里,我们使用了名为“延展智能”这样的术语。因为我们所面临的问题是,我们如何在AI之上建立社会化的价值?

奥巴马:Joi在午餐时间以自动驾驶为例。自动驾驶技术正如开挂般发展,这些搭载着自动驾驶技术的机器不仅能够代替人类快速作出决定、减少交通事故的发生、大大提高交通效率,还能帮助人类解决碳排放问题,缓解全球变暖现象。但是Joi提到至关重要的一点:我们在汽车上搭载这些技术的意义何在?在自动驾驶的道路上,我们还面临着一系列抉择:车在自动行驶时,如若发生意外,你可以保证不撞到行人,但你也许会撞到墙,或者让自己处于危险的境地。如果遇到这种两难境地,又该怎么办呢?这就变成了一个道德伦理问题,我们需要一些规则来解决这些问题。但是又该谁来制定这些规则呢?

JoiIto:我们曾做过“cartrolleyproblem”项目(该项目为MIT实验室的一个研究,研究主题为自动驾驶汽车在面临困境时的解决方法。比如:遇到两难情况时,是该牺牲5名乘客还是牺牲5名行人?),在研究中,我们发现大部分调查者同意应该牺牲乘客来拯救其他人的性命。还有一些调查者被问及此问题后,表示他们永远不会买自动驾驶汽车了。(笑)

政府在科技进步中应该扮演怎样的角色?

ScottDadich:在解决这些道德伦理问题时,政府应该扮演何种角色呢?

奥巴马:从AI技术出现开始,我就在思考这个问题。我认为,在科技发展之初,正是“百花齐放、百家争鸣”的时候,这时政府应该充分鼓励支持技术的发展,加大对调查研究的投资,确保基础研究和应用研究之间有着良好的交流。随着技术的进步和成熟,我们就应该思考技术和现有的监管制度的关系了。要让这种关系良性发展,其实并非易事,因此我们就面临着更加艰难的挑战。这时,政府应该加强与科技领域的联系。我们应该首先保证政府的监管制度具有价值,能够促进技术的发展,而不是强迫新的科技快速与政府挂钩。如果不这样做,政府将会成为科技进步的阻碍,这对一部分人和团队非常不利。

JoiIto:这种困境让我想起来了自闭症,电影《自闭历程》(TempleGrandin)里提到了这个。女主角说,莫扎特、爱因斯坦和特斯拉如果身在今天的时代,人们会觉得他们有自闭倾向。

奥巴马:他们的确是在自闭环境中成长。

JoiIto:是的,没错。如果我们拥有治愈自闭症的能力,让每个人都“正常”,我认为不少MIT的孩子都会有所不同。无论我们是在讨论自闭还是多样性,这些选择只有当我们能实现之时才会出现。即使如此,我们也并不想要一个像爱因斯坦一样的小孩,因为虽然他聪明无比,但显得太过特立独行。但是如果没有爱因斯坦,我们的社会和科学将不会进步得如此之快。

奥巴马:这就牵涉到了一个更加宏大的问题,这个问题自AI发展之初就一直困扰着我们。我们的人生之所以有意义,很大一部分是因为人生的不完美。往往创造艺术或有所发明创造的人都是怪才,他们鹤立鸡群,与世相悖。但正是这些异于常人的品质让他们才华横溢,推动社会进步。如果一个系统是完美的,那么它一定是静态的。我们之所以会变成如今的样子,之所以会如此生机勃勃,正是因为我们是动态的、是发展的、是独特的,而且会因新的事物诞生而感到惊讶不已。但从长远来看,我们总要适应这个世界。现在的问题就是,什么时候、什么地点、什么场景下,我们才能让自己以平和的心态接受这样的变化?

ScottDadich:当AI与政府、民企和学术界相适应时,AI必定发展到了一个较高的程度,那么这时,世界范围内的AI研究中心是哪个呢?或者说,有没有这样的一个角色存在?

JoiIto:我觉得MIT当然会说研究中心就在我们这(笑)。从历史上看,研究中心也许是一支得到政府支持的学术团队。但就现在来看,大部分得到数十亿美元支持的实验室都已经商业化了。

奥巴马:我对支持这些机构的人有所了解,如果你问拉里·佩奇或者相关人士,不难想象他们都会异口同声地表示,自己最不想看到的是官僚式的冗余拖沓限制科技的发展。

现在所面临的部分问题是,为社会服务的基础研究没能很好地贯彻下去,而意识形态的阻碍让部分科技人士对于政府的支持丧失信心。

每当我们说到一个巨大的科技成就,我们都会将之与人类首次登月做类比,我想在50年后也会这样。有人曾告诉我,当时的登月计划仅花费整个GDP的0.5%,听起来并不多。但换算到今天,这个数字就是800亿美元。如果说现今AI的发展可以和曾经的登月相提并论,那么现今我们应该每年在AI上投资800亿美元,但实际情况是,每年的投资额不到10亿。毫无疑问,这个数字将会增长。那么,政府应该加强支持。如果政府不支持,那么我们后面所讨论的一切都无从谈起。

ScottDadich:您的想法让Joi曾提过的问题变得更加严峻了:人人享有的科技和国家享有的科技(如登月)是不同的。那么,我们怎样才能实现这两种科技的转换,让科技造福所有人呢?

奥巴马:我想强调一下,政府在支持科技的发展,并不意味着政府将独占这种科技,或者说这种科技只能在军事领域使用。举个例子:政府支持医学的发展,拨款建立美国人基因数据库,但每个美国公民都能使用它。因此,政府支持的科技将会分享给所有人,造福所有人。

ScottDadich:但是我们将面临一些风险。马斯克和NickBostrom也曾担忧过AI的潜力将会超越人类,给人类带来威胁。当我们前进时,我们不仅要保护自己,还要保护所有人。怎样才能做到呢?

奥巴马:我先来说说更让我担忧的事情吧。如果你拥有一台会下围棋的计算机,它拥有强大的算法能力,能够帮你最大程度地在纽约证券交易所盈利。如果有人或者机构能够先人一步得到此技术,那么他将快速让股票市场降温。

那么这时,如果算法被不法分子窃取,它也许会渗透到核程序中,学会如何发射核武器。如果此算法能够自学且非常有效,那么我们将会面临危险。我认为,国家安全局不应该去担心那些将会取代世界的机器,而应该去担心这些有可能会渗透进国家机制、威胁人类安全的技术。也就是说,我们目前迫切地需要做得更好,因为对国家造成破坏的团队很有可能会走在我们前面。

JoiIto:我基本同意。有些人认为10年之后,通用AI将会出现。但是深入研究发现,如果要出现这种AI,我们必须在这10年中让AI技术拥有几个重大的突破。因此如果突破出现时,你可以监管。

奥巴马:所以你需要做的是在关键处安插人手(笑)。当你预见到这种事情快要发生的时候,及时阻止就是了。

JoiIto:重要的是挑选出出那些想要运用AI造福人类的个人和团队,并且身体力行地予以支援。

奥巴马:当我们之前提到安全和保护时,我们总会想到军队镇压或者搭建高墙。慢慢地,我们对于这两个词的理解开始发生变化。之所以网络安全问题变得如此艰巨,部分原因在于这个威胁是无形的,并不是像坦克那样有形的。现在,我们要转变关于安全的概念,调整我们的投资政策,为每个人的安全保驾护航。

网络袭击和流行病传染类似,这是我时常担忧的地方。要阻止病毒进入我们的体内,再高的墙也是无济于事的。我们需要建立完善的公共卫生系统、创造健康保障机制、开发更加有效的疫苗。因此,当我们面对AI威胁时,我们应该采取相应的行动。

JoiIto:还有一件事我觉得有点意思,我在观察微生物时,发现可以引进好细菌来对抗坏细菌。

奥巴马:我完全同意。不过我还是不会让Sunny和Bo舔我,因为每次遛狗时,看到它们咬或是咀嚼什么时,我还是会不舒服。(笑)

JoiIto:所以,我们也得重新思考,什么才是干净的。不管是网络安全,还是国家安全,我们都应该重新思考应对措施。制定出有效的应对措施是非常困难的。

ScottDadich:在网络安全方面,会不会出现新一轮的军备竞赛呢?

奥巴马:毫无疑问,当今关于网络安全和AI的国际准则、协议和验证机制还处于初级阶段。现在,人们对于政府仍然存在着不信任,这将会成为网络安全措施的阻碍。如果说世界上有些国家将美国视为一支超群的网络力量,我们会说:如果你愿意约束自己,我们也愿意。现在的挑战便是一些成熟国家(如俄罗斯、中国和伊朗)所持的价值观和准则和我们不一样。我们会把它看成一个国际议题,这样才能更好地处理这些问题。

社会契约和经济模式都要与科技相适应

JoiIto:我们正身处一个黄金时代,大家都非常乐于交流。如果我们能确保将资金和精力用来支持开放和分享,那么大家都能保持积极的态度。世界是一个大家庭,自己单干恐怕无法取得最好的效果。

奥巴马:Ito说的很对,这也是我们每天一轮一轮开会,忙着拉有兴趣的人“入伙”的原因。另外我想说一点,虽然每次说到这个话题大家都会定很高的基调,但事实上我们必须考虑它对于经济的影响。毕竟在大多数人眼中,不会在意奇点是否会来临,他们更担心机器是否会抢了他们的饭碗。

对此问题,我倾向于持积极态度,因为从历史角度来看,人类曾无数次地对技术进行更新换代,但最终结果显示,我们没有被饿死,新技术反而创造了更多的就业岗位,我们的生活质量也得到了提高。当然,有些人的担心也不是无缘无故的,毕竟当AI大潮袭来,真正能快速从中获益的还是那些高技能人才,他们可以利用自己的才干,借助机器延伸自身的市场、销售、产品和服务。

那些低薪水低技能的人可能会显得越来越多余,他们的饭碗可能会保住,但薪水恐怕会有所降低。如果我们想要完成平稳的过渡,那么全社会应该广泛对话,讨论到底如何处理这一过渡期的尖锐矛盾,如何通过培训来保证经济持续包容性增长。我们的生产效率是越来越高了,但如果任其自流,那么大部分产品还是会流到上层一小部分的群体口袋中。因此,我们要如何解决这一问题,并保证每个人都能拿到一份有尊严的收入呢?另外,AI“统治”一切后,人类的艺术和文化该如何保留?那些为国奉献的退伍军人谁来管呢?我们引以为豪的社会契约需要与时俱进来包容这些新技术,而我们的经济模式也要随之发生相应转变。

JoiIto:现在凭空去讨论AI会代替哪些职业,实际上有些不直观。举例来说,如果电脑先进到能理解整个医疗体系,那么诊断疾病对它来说恐怕是小菜一碟,因此医院里被替代的反而可能是经验丰富的医生们,而不是护士和药剂师,因为前者太贵了。同时,我们熟悉的一些高级职位如律师和审计员,可能也会因为AI的崛起而消失。相反,许多电脑力不从心的行业,如服务业,人类反而会继续发光发热。我不知道总统对社会基本收入这个概念怎么看,但我觉得社会可以给那些被机器替代的人找个新活干,就像搞学术和搞艺术的人那样,他们的工作不再直接与金钱挂钩。不过,想转变到这一模式必须要改变我们固有的社会认知,那就是没钱的人都是笨蛋。但事实是,在学术界有许多聪明透顶的人并不是什么大富豪。

奥巴马:Ito还真是够犀利,这就是我前面说到要重新设计社会契约的原因。社会基本收入这一政策是否还能适应社会的发展,可能要留待未来10-20年内大家的讨论了。Ito对AI所替代工作的趋势分析也很有道理,高级工作确实可能会被电脑替代,但这些工作都有一个特点,那就是高度的可重复性。此外,一个无从争辩的事实是:随着AI技术的进一步整合,我们的社会会越来越健康。生产与分销、工作与收入等的联系会越来越微弱,因为电脑搞定了大量的工作。面对这样的情况,我们不得不做出困难的决定:老师的工作对电脑来说很难完成,但我们却不得不给他们降薪。因此,教会人们给自己的工作估值,重新审视自己的收入水平,恐怕是当下函待讨论的重要问题。

我们要做的工作多着呢,政府正在逐步亲民化,未来报税的流程就跟订披萨或者买机票一样简洁。但现实是,想要让联邦政府、州政府和地方政府同时迈入21世纪都不是那么容易。虽然政府的精英在能力上已经与私企的不相上下,但在整体的技术装备水平上,却有无法跨越的鸿沟。就拿我自己来说,第一次进白宫的战情室时,还以为能用上《碟中谍》里的先进装备呢,但现实却让我大跌眼镜。就连我们追踪恐怖分子时传来的实时录像都那么不清晰,白宫的科技装备实在是该大换血了。

至于更宏大的问题,我坚信只要人类能解决气候变化问题,让海平面不再上升,那么其他一切都不是问题。对于这一问题,我非常乐观,虽然我们还有很长的路要走。

此外,安全透明的管理互联网也是当务之急,只有这样政府才能在不越权的情况下及时抓住坏人,否则互联网就成了政府压迫大众的工具。不过,从技术方面来看,这样的目标就不好解决。就拿加密来说,从曾不止一次的与技术人员和民众教堂,但没人能给出一个符合各方利益的答案。

既然这是个高端访问,我想再补充一点。作为一个痴迷宇宙的总统,我认为如何尽快让我们的下一代享受星际旅行也是个重要的议题。在这方面,我们的私营企业走在了前面,它们无需政府资助,只靠自己疯狂的点子就做出了我们不敢想的。政府的思路已经落后了,每次提到太空飞行,我们的路子还是停留在阿波罗登月时代,确实是该找找新的突破了。

关于《星际迷航》的探讨

ScottDadich:总统先生,我知道您是个《星际迷航》的铁杆粉。不过说实话那个剧集只是包装了科技的外衣,其内核还是乌托邦式的思想。它是怎样塑造你对未来的愿景的呢?

奥巴马:我小时候就是《星际迷航》的脑残粉了,这剧集看起来太过瘾了。其实能让《星际迷航》保持经久不衰的并不是其中的科技元素,真正吸引人的是价值观和友情。所以即使过去这剧集用着五毛钱特效,我们也看的很开心。它教育了我们什么是人性,同时给了我们解决问题的信心。

在我看来,《黑客帝国》得了《星际迷航》的真传,倒不是说这电影宏大复杂的设定感动了我,相反,它向我们展示了许多人认真做工作应有的态度,而秉承这种态度,就会一往无前,而这也是我一直强调的美国梦的精神内核。无论能不能一次成功,我们都会大胆进行尝试,踩着自己失败的经验到达顶峰。如果我们丢掉了这一精神内核,那么我们所倚仗的一切都会瞬间坍塌。

JoiIto:总统先生说的真棒,我也喜欢《星际迷航》传达的乐观主义精神。不过,我依然崇尚百花齐放,我认为电影中的坏人还是有些脸谱化,他们可能并不坏,有些人只是被误导了。

奥巴马:《星际迷航》与其他好故事一样,都帮助我们认识到了自己是个复杂的动物,我们的性格中也都有光明和阴暗面。我前面提到的大胆去做正应了这个主题,没有这一精神,我们肯定不能消除障碍和分歧。理性和人性之间必然会产生冲突,在AI的问题上亦是如此。我们虽然高谈阔论AI的未来,但其实对于这一技术,人类只是刚刚知道点皮毛而已。所以,我们必须保持一颗敬畏之心,放手大胆去尝试。

点击查看原文

相关链接