终极CGFinal · 打造精彩的设计网站
当前位置: 主页 > CG业界 > 《连线》专访奥巴马:神经网络、自动驾驶和世界的未来成千盈百(2)

《连线》专访奥巴马:神经网络、自动驾驶和世界的未来成千盈百(2)

发布时间:2016-10-14 12:05内容来源:终极CGFinal 点击:

关于伟大的技术突破,我们仍在使用的类比是登月,即使登月已经过去了50年。有人提醒我,登月项目的耗资达到了GDP的0.5%。这听来不算什么,但按今天的情况来看相当于每年花800亿美元。实际上,我们目前每年对人工智能的投入只有不到10亿美元。这一数字毫无疑问将上升,但我们需要理解的一点是,如果希望这些突破性技术去代表多元化群体的价值,那么政府投资必须成为其中的一部分。如果政府不参与投资,那么伊藤穰一提出的关于技术价值的问题将不会得到解答,甚至不会被讨论。

《连线》:你提到了一种有趣的紧张关系,而伊藤穰一曾经也写过:边缘创新与发生在诸如太空项目中创新的差异。我们如何确保所有这些思想得到传播?

奥巴马:我想要强调的是,政府提供资金并收集数据并不意味着我们会隐瞒,或是军方需要这些。可以举个具体例子:在精确医疗的项目中,所做工作的一部分是通过足够多的美国人收集关于人类基因足够大的数据集。我们的做法不是向斯坦福大学或哈佛大学提供资金,让他们独享这些样本数据,而是提供了一个所有人都可以访问的基因数据库。我们提供了公共的数据值、公共的架构,确保研究可以被分享,而不是只被某个集团用于谋利。

《连线》:然而毫无疑问会存在一些风险。我们听到伊隆·马斯克(Elon Musk)和尼克·博斯特罗姆(Nick Bostrom)等人说,人工智能的发展有可能超过我们的理解能力。随着我们的进步,我们要如何看待他们的言论?我们不仅试图保护自己,还试图保护整个人类。

奥巴马:我们首先来谈谈最迫切的担心。在专用人工智能的领域,这是个可以解决的问题。我们需要警惕。如果你的计算机可以下围棋,一种有着许多变化的复杂棋类游戏,那么开发一种算法,让你在纽约股票交易所的利润最大化也并非遥不可及。如果有人或组织首先做到了这点,那么他们就可以迅速摧垮股市,或是导致我们对金融市场的完备性产生怀疑。

随后,可能会有一种算法说:“去渗透核武器密码,研究如何发射导弹。”如果这就是软件的全部工作,如果软件能自我学习,同时又是个非常有效的算法,那么你就会遇到麻烦。我对国家安全团队的指令是,目前还不用太担心机器会掌管世界。如果你担心的是非政府组织,或是怀有敌意的活动者去渗透这些系统,那么从理论上来说,这与我们目前所做的信息安全工作没有太大区别。这只是意味着,我们需要做得更好,因为可能部署这些系统的人也在变得更厉害。

伊藤穰一:总体上同意这一说法。唯一的警告是,有些人认为,有很高的概率通用人工智能会在未来10年中诞生。然而在我看来,如果希望开发出通用人工智能,那么我们需要十余项甚至二十余项突破。你可以看看,这些突破会发生在什么时间。

奥巴马:你可以让人坐在电源旁。(笑)如果你发现通用人工智能诞生,那么可以让他立即把电源拔了。

伊藤穰一:重要的是找到愿意将人工智能用于善意用途的人群,包括社区和领导者,随后研究如何给予他们帮助。

奥巴马:传统上,当我们思考安全问题,以及如何保护自己时,我们会想到盔甲和墙壁。然而目前我会越来越多地想到药品、病毒和抗体。信息安全问题依然很困难,部分原因在于,威胁并不像是一队坦克朝你冲来,而是整个系统很容易被蠕虫入侵。这意味着,对于安全问题我们需要有不同的思考,进行不同的投资。这样的投资可能并不性感,但却与其他东西一样重要。

很多时候我会担心诸如传染病的问题。你不可能建设一堵墙,将通过空气传播的致命流感阻挡在我们的土地外。我们需要具备的能力是建设体系,在全世界各个地方发展公共健康系统,在发现有异常时启动开关通知我们,确保我们有迅速执行的协议和系统,让疫苗更智能。因此,通过公共健康的模式,你就可以想象我们如何处理信息安全问题,以及如何以建设性的方式去思考人工智能威胁。

伊藤穰一:有趣的一方面在于我们如何看待微生物。有多方面证据显示,利用好细菌去攻击坏细菌,而非全面杀菌,是一种策略。

奥巴马:是这样。我不会允许宠物犬Sunny和Bo5去舔我,因为当我在路边草坪遛狗时,我发现他们会捡地上的东西咬。我可不想要这些。(笑)

伊藤穰一:我们需要思考,干净的定义是什么。信息安全和国家安全的情况也类似。我认为,如果你的思路是制定严格命令,或是清除一切可能的病原体,那么将非常困难。

《连线》:这是否可能带来新军备竞赛的风险?

奥巴马:毫无疑问,围绕信息安全和人工智能制定国际准则、协议和认证机制还处于起步阶段。这一问题之所以有趣,部分是因为攻击和防御之间的界线正在模糊。而在人们失去对政府信任的情况下,这尤为困难。全球许多国家都认为美国是信息霸主,因此是时候我们去说,“我们愿意自我限制,只要你们也愿意自我限制”。挑战在于最复杂的政府参与者,例如俄罗斯和伊朗,他们通常和我们有着不同的价值观和准则。然而,我们需要把这些定位成国际问题,从而有效地处理。

伊藤穰一:我认为,我们正处于人们愿意相互沟通的黄金时代。如果我们有能力保证,资金和能源可以带来公开的分享,那么将有很多好处。你无法凭空做得很好,目前仍是国际社会的问题。

奥巴马:我认为伊藤穰一的说法完全正确。我们与对此感兴趣的所有人举办了一系列会议。我们说得不多,而我想回头去看的一方面是,我们需要思考经济方面的意义。大部分人没有花很多时间去担心“奇点”,而是担心“我的工作是否会被机器取代”。

我倾向于持乐观态度。以往我们也曾接受过新技术,人们会看到新工作岗位被创造出来,而他们将会随之迁移,我们的生活标准将普遍上升。我认为,由于人工智能和其他技术的普遍适用性,目前我们处于一个略微不同的时期。在这样的体系下,高技能人才做得很好。他们可以利用自己的才能,可以通过机器界面去扩大覆盖,增加销售,拓展产品和服务。

低薪酬、弱技能的人群将越来越显得多余,他们的工作岗位可能不会被替代,但工资将持续受到压力。如果我们希望成功管理这样的过渡,那么关于如何进行管理,我们需要展开全社会的对话。如果我们完成更多的生产,但其中越来越多的部分只被少数人获取,那么我们如何确保经济具有包容性?我们如何确保,人们拥有维持生活的收入?从支持艺术和文化发展,或是确保老兵得到合适照顾的角度来看,这又意味着什么?社会契约需要容纳这些新技术,我们的经济模式也需要容纳这些技术。

顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------