科技真的能做到中立吗?

A visitor carrying her baby looks at the "San John the Baptist" (L) and the "Madonna with Child", paintings by artist Marco D'Oggiono, and "Leda and the Swan" (R), a painting by artist Leonardo Da Vinci, during the "Masters of the Renaissance, Masterpieces from Italy" exhibition at the Bank of Brazil Cultural Centre in Sao Paulo July 13, 2013. The exhibition will run from July 13 to September 23. REUTERS/Nacho Doce (BRAZIL - Tags: SOCIETY) - GM1E97E0IME01
How much responsibility do we have for the products and platforms we create?Image: REUTERS/Nacho Doce
本内容由人工智能自动翻译。

科技复兴的时刻到了。我们应当把道德、美德和人性重新融入产品构建之中,提升人类体验。

以下是 Cloudflare 联合创始人兼首席执行官马修·普林斯对互联网公司如何应对其网络上的冒犯性内容的看法。

“我和杰夫[贝索斯]、拉里[佩奇]、萨提亚[纳德拉]以及马克[扎克伯格]的个人意愿,不应决定什么内容可以出现在网上。我认为,运营《每日风暴》的人令人憎恶。但我仍然不认为,我的政治决定应该决定谁能或不能使用互联网。”

为什么不呢?

为什么不让你的政治和道德观念影响你选择为哪些客户提供服务?

最近的夏洛茨维尔事件打开了潘多拉魔盒,迫使技术从业者、社会各界和政府就人们如何选择使用科技产品展开艰难对话。Twitter、Google、GoDaddy 最终是 Cloudflare 在社交媒体(讽刺的是,这种压力本身也由科技推动)强烈施压后关闭了新纳粹网站,这引发了许多问题,而且未必是出于自愿。

“扣动扳机的又不是我”

谁有权决定平台和产品被用于什么用途?道德和价值观在这一切中扮演什么角色?

此外,互联网和社交媒体还助长了自杀率、恐怖主义以及有组织的种族主义,这些现象显著增加。科技真的中立吗?当一个人工智能聊天机器人不到24小时就变成困惑、愤怒的偏执者时,科技还能保持中立吗?

我们是否相信这样的说法:创造者对自己创造的产品不负有道德责任?这有点像“扣动扳机的又不是我”这种说辞。谈到枪支时,我们可以为拥有枪支的必要性辩解,认为个人应有权拥有枪支并自行作出选择。

但枪支的设计用途就是杀人。它不是中立的产品,从来都不是。

那么,谁有权决定枪支该如何使用?我们可以说,政府有义务在宏观层面制定法规。但事实是,枪支公司的领导者——创造者、制造商和设计者——实际上在微观层面作出选择。

他们决定把枪卖给谁、如何推销枪支,以及如何分销。他们依据自己的价值观作出这些选择。如果他们把利润看得高于一切,就会卖给出价最高的人,即便对方是恐怖分子或黑帮成员。

如果他们更看重国家荣誉或年轻人的安全,就可能失去这些客户。他们作出的选择反映了他们真正看重什么。

价值观与意图

一方面,科技创业者常说,他们想要“让世界变得更美好”;另一方面,当人们使用他们的产品受到伤害时,他们却声称科技是中立的。

我们该如何调和意图与由价值观塑造的道德责任?

普林斯决定关闭《每日风暴》。他并非被迫这么做。他这样做是因为他觉得自己的价值观遭到了歪曲。作为首席执行官,他有权决定接受谁作为客户。他作出了选择。

试想,如果我们让这些讨论回归人性,更坦诚、公开地谈论自己创造产品时秉持的价值观和意图,会发生什么?

也许我们会更有意识地思考如何介绍产品,以及希望人们如何使用产品。我们可能会更审慎地选择销售对象,并考虑如何以不同方式向不同人群分销。

我们会主动作出选择,而不是等到被迫行动。

作为 Gnowbe 的创始人,这是一款任何人都能创建内容的移动学习与互动平台,在建设平台的过程中,我发现自己也在思考这些问题。

对于谁来使用我们的平台、平台上应该有哪些内容,以及我们应该如何推广平台,我有什么看法?

文艺复兴很大一部分关乎道德与美德。

科技正以前所未见的速度和规模改变我们的生活,因此其影响远比传统产品更为深远。

科技复兴的时刻到了。我们应当把道德、美德和人性重新融入产品构建之中,提升人类体验。

我们需要更多像 Gbenga Sesan 这样的人,他帮助尼日利亚诈骗者转型为科技创业者,通过开发帮助人们的应用程序来实现这一点。

以价值观为本

这一行动已经开始,Facebook、Microsoft、YouTube 和 Twitter 发起了反恐合作伙伴关系。

但考虑到每秒都有三家新初创企业成立——每小时 11,000 家——科技复兴必须超越巨头企业,扩展到我们这些每天都在作出选择的个人创业者和领导者。

现在是时候明确我们的立场,依据自身价值观决定希望人们如何使用我们的产品。

所有价值观都有代价。这可能意味着你会因此失去一些客户。

科技复兴并非要遵循某一种观点,而是要形成自己独特的观点,并在设计和打造卓越技术时有意识地体现出来。

这并不是要等别人告诉我们什么可以接受、什么不可以。我认为,现在是时候重新思考我们如何打造产品和平台、向谁销售以及如何推广。我们早已在不自觉地这样做,我们的决定也早已体现了自身价值观。

现在是时候让这场讨论进入公众视野。

注:我很期待在即将举行的Meta 对话:科技与人性大会正式发起 #techrenaissance。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。