人工智能正在从我们与自然的接触中学习——但这带来了问题

A visitor photographs autumn colours and foliage at Westonbirt Arboretum near Tetbury in southwest England, Britain, October 12, 2015. Planted in the heyday of Victorian plant hunting in the mid-nineteenth century, today Westonbirt Arboretum makes claim to have one of the finest tree collections in the world. REUTERS/Toby Melville
Apps that use AI to identify animals and plants are causing us to question how we share information.Image: REUTERS/Toby Melville
本内容由人工智能自动翻译。

这个想法似乎很棒:一款手机应用,只需拍下植物或动物的照片,就能立即识别物种并提供相关信息。一个“Shazam式的自然识别工具”,可以这么说。

我们正在建立庞大的自然环境相关数据集,让这个想法成为现实。

但有些伦理问题亟待解决:数据如何收集和共享、谁有权共享数据,以及我们如何将公共数据用于机器学习。

还有一个更大的问题——这类应用是否会改变人之所以为人的意义。

与蒲公英的相遇

杰出的神经科医生兼作家奥利弗·萨克斯曾安排带一群患者外出游览纽约植物园。他的一位患者是一名名叫史蒂夫的年轻男子,患有严重自闭症,多年来从未走出过疗养机构。他从不说话;事实上,医生认为他没有语言能力。

然而,在萨克斯陪同下置身花园时,精神振奋的史蒂夫摘下一朵花,让所有人惊讶的是,他说出了“蒲公英”这个词。

过去十年里,许多人对自然怀有的亲近之情——著名生物学家爱德华·威尔逊称之为“亲生命性”——催生了大数据的爆发式增长。在全球生物多样性信息机构(GBIF——一个由哥本哈根运营的在线数据库)中,有682,447条人类与蒲公英相遇的记录。该数据库总计收录了超过8.5亿条观察记录,涉及100多万个不同的动植物物种。

这是一项令人瞩目的成就,一个正在逐渐成形的全球生命名录。它让我们得以用新的方式看待世界。例如,仅今年一年,借助超过5,000名参与者通过WhaleShark.org记录的逾42,000次目击,我们便以前所未有的方式深入了解了世界上体型最大的鱼类的行为。再看更大范围,通过名为eBird的应用生成的数百万条鸟类观察记录,让我们能够直观呈现100多种鸟类的精确迁徙路线。

与此同时,早期数据收集者大多未曾预料到,信息工程师正利用这些数据训练人工智能(AI),尤其是计算机视觉应用,以帮助我们解读周围所见的动植物。这些工具引发了一些耐人寻味、有时甚至令人不安的问题。

口袋里的约瑟夫·班克斯

当然,从某种意义上说,这类工具堪称神奇。《星际迷航》中虚构的三录仪是一种非凡设备,能扫描外星生命,让它们变得熟悉。如果地球上也有这样的设备,它就相当于一位袖珍版约瑟夫·班克斯——一位可靠的探索伙伴,让我们充满信心与掌控感。

在中国,最新版百度浏览器(一个所谓的中国版谷歌)内置了植物识别功能。把镜头对准蒲公英,你就会看到它的中文名称——蒲公英。这类应用正在中国普通民众中掀起新一波植物学热潮。

但人们也担心,这些人工智能工具会干扰我们将独特的自然知识轻松传授给他人,或向他人学习这类知识的能力——这或许是人类的一种需要。投入人工智能开发的资源,是否与我们用于提升人们头脑中数十亿台超级计算机的生态素养的投入相匹配?

数据偏见也是一个问题。数据收集者中有相当多的人——他们常被称为“公民科学家”——是发达国家的业余爱好者、观鸟者和摄影发烧友。因此,这些数据通常来自社会中多样性不足的群体。

所有权、数据挪用和人类自主权同样令人忧虑。谁会拥有并控制人工智能?那些以自身专长训练人工智能的人,能否得到公平的认可、尊重和回报?

还是说,正如美国经济学家菲利普·米罗夫斯基最近所说,所有这些数据不过是“把无偿劳动捐给私有实体”——这些实体消化信息,再把它吐出来,变成又一种我们离不开的在线产品?如果你查阅热门公民科学应用的条款,很可能找不到任何关于你的数据可能被用于训练人工智能系统的说明。

帝国扩张

这让人似曾相识。卡尔·林奈和约瑟夫·班克斯等杰出科学家开展的植物分类——他们的著作《自然系统在当时可谓某种GBIF——常与帝国扩张中的大数据活动联系在一起。随笔作家安妮·法迪曼在《采集自然》中解释说,植物学家会远赴世界偏远地区,找到一种已被当地人以本地名称称呼数百年的物种:

“[…] 给它重新取一个拉丁双名,转眼间!它就成了大英帝国的一块小小殖民地。”

与此同时,后世几代人将在这样的世界中长大:只有符合帝国认可的分类真理体系的描述才算对自然有意义,而这些体系存在于博物馆、图书馆和大学生物实验室中。

“人工智能真正的危险在于,”哲学家丹尼尔·C·丹尼特写道,“我们会高估最新思维工具的理解能力,过早地把远超其胜任范围的权威交给它们。”

或许我们会主动交出控制权;或许控制权会被夺走。对自然识别应用的开发者来说,有什么动机要打破我们对《星际迷航》三录仪的幻想?

例如,总部位于科罗拉多州的PlantSnap声称正以“每月新增50,000个物种”的数据训练其人工智能,并“将在2017年底前覆盖地球上的所有物种”。你可以说这不仅具有误导性,而且根本不可能实现。仍有相当一部分植物尚未被发现,更有许多植物还未曾在野外被拍摄下来。

什么是人类感知?

据开发Merlin BirdID应用的一位开发者称,这款计算机视觉工具以eBird收集的7,000多万张鸟类照片为训练数据,

计算机视觉领域的前沿水平正迅速接近人类的感知能力。

但什么是人类感知?我们很容易忘记,所有这些训练数据中的每条记录,都代表着一种特别的观察行为——就像萨克斯在纽约遇到的那位自闭症患者一样。它是好奇心突然闪现的瞬间,是只属于个人的独特观看时刻。

有一点可以肯定:在人工智能开发领域,我们迫切需要更多思考、更审慎的考量,以及更多元的观点。开发人工智能工具时,我们能否让它们珍视人类感知的创造性行为——真实、自发、不可预测的那一面?

或者,正如纽约大学的科技未来学家艾米·韦布最近提出的那样,我们应该建立数据保护区。在那里,我们的数据可以像自然保护区中的生物一样自由自在,不受人工智能、政府和企业利益的触碰。或许我们需要类似的空间,或在数据输入与回应之间留出一段时间,以保护我们与自然世界之间独特的关系。

在莎士比亚的《第十二夜》中,失恋的单身汉奥西诺对紫罗兰作了一番耐人寻味的观察。他说,紫罗兰的香气就像浪漫爱情:它

让你渴望拥有一切,可一分钟后,无论那些东西多么美好,你又会对它们感到厌倦。

这是一个惊人的洞见。四个世纪后,这一洞见得到了科学证实:研究人员发现,紫罗兰中的β-紫罗兰酮会使人类嗅觉系统产生嗅觉暂失效应,让你在某一刻闻到香气,下一刻它却消失不见(就像浪漫爱情一样)。

探索自然世界——观察、比较、嬉戏、发现、热爱——是深植于人性的一种冲动。我认为,我们应当谨慎守护它,不要让它消失。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。