如今，我们生活在一个算法分类与决策的世界中：社交媒体平台收集我们的数据，并以不同方式在信息流中呈现和遮蔽内容；推荐算法被用于定向广告；搜索算法呈现量身定制的结果；预测算法则可能影响我们获得贷款的机会，或决定我们为健康保险支付多少费用。
这些“黑箱”内部隐藏着什么？如何才能理解、治理并使其承担责任？这些是具有挑战性的社会问题，亟需公开辩论。下文我们提出了算法问责与治理的十二种潜在情景。
前六种情景聚焦于个人对算法和平台的赋权与自主性。它们沿着一个连续谱排列，从终端用户作为消极旁观者，到个人与企业平等协商。从一种情景过渡到另一种情景，算法问责将从不透明走向透明；从不知情走向拥有自主权；从对数据使用毫无控制，走向对数据的完全所有权以及对正外部性收益的分享；从不知情走向就算法应体现的价值观达成全球公共共识。
1. 让无知者不知所措
在这种情景下，公民并不了解其数据的去向，也不清楚自己如何被分类和排序。他们所接触的信息可能以各种方式存在偏见，这一点并不明确。这些信息不对称是通过服务条款协议中复杂的法律术语造成的，这些条款对数据的使用方式语焉不详。所有风险与责任都由个人用户承担，而用户基本上没有自主权。
2. 用户须当心
在这种情景下，服务条款涵盖第三方共享、广告策略以及访问私人数据的相关披露。平台努力解释帖子的覆盖范围：即用户受众中可能看到该帖子的比例，或用户所看到的内容如何基于偏好、位置和活动历史被过滤。尽管其重点在于缩小信息差距，但风险与责任仍由个人承担，而个人并无自主权。
3. 仪表盘界面
在这种情景下，用户能够获取信息并掌控信息，能够自定义与平台的互动方式。他们可以同意为获得某些奖励而与第三方应用共享其信息。这种“选择加入/退出”的体验经过用户友好化设计，使用户能够定制符合其具体个人需求的解决方案。
4. 智能合约
在这种情景下，用户与平台订立一份“智能合约”，共同约定权利与责任。该合约依托区块链运行，能够通过内置于合约中的自动触发机制执行。所有选择加入/退出的决定均已明确规定，并可包括违约情况下的特定条款。在这种情景下，个人用户既拥有自主权，又依赖内置的保护机制。如果保护机制被触发，将生成一份详细记录该公司行为的公开记录。用户将因此类违约行为获得补偿。
5. 共享利润
这一情景设想了一种商业模式，即将用户纳入其数据所产生利润的受益者之列。该情景可与上述其他情景配合使用，但其实质在于采取一种更加公平、以用户为中心且包容的变现方式。企业仍将继续获利，但这些利润将与产生利润的用户共享。
6. 公共价值共识
这一情景确立了一套共同认可的价值观，这些价值观经由公众讨论形成，内容涵盖对平台行为何为可接受的界定，包括数据如何被算法分类并呈现给用户。因此，这种公共价值共识所涵盖的范围，既包括被视为合乎伦理的内容，也包括被视为公平和合法的内容。
接下来的六种情景聚焦于一系列可能的治理与问责安排，其范围从私人治理延伸至多利益相关方的超国家方式。最终占据主导的情景，将对监管体系以及众多数据驱动型行业的未来产生重要影响。
7. 私人治理
企业自主决定，在无需外部强制的情况下，将其战略转向第2至第6种情景。例如，平台认为有必要提供更易于理解的服务条款，或建立一种机制，如允许用户选择加入或退出各个应用访问要求的仪表盘。
8. 对国家政府机构负责
鉴于其可能产生深远的社会影响，例如支撑社交媒体平台的算法，该情景强调这些算法不能继续作为黑箱存在。由一个国家政府机构负责执行治理条件。其权限包括对不合规行为处以罚款、实施制裁，并最终可诉诸武力。国家立法的局限性可能会影响企业规避治理协议的能力。
9. 国际政府机构
鉴于科技企业可能规避国家治理协议，由各国政府代表组成的国际机构被设立，以执行算法治理协议。相关工作旨在汇编并推动影响治理机制的国家立法实现规范化。
10. 超国家多利益相关方机构
若国家和国际政府机构均未做好审计算法的准备，则将设立一个独立的超国家、多利益相关方机构。该机构由个人成员组成，共同承担审计算法的伦理与社会影响的职责。其成员包括多方代表，如媒体、学术界、互联网治理机构以及黑客——后者在获准访问时进行审计，在未获访问权限的情况下则设法对算法进行逆向工程。
11. 算法作为公共事业
当某些平台 事实上 已成为互联网（因为仅通过该平台访问互联网的用户数量极为庞大），平台不能再仅仅服务于股东，也不能以实现利润最大化为核心目标运营。相反，作为公共事业，它们部分由国际征收的税收提供资金，从而减少甚至完全消除了对用户数据变现的需求。
12. 新闻记者作为问责主体
这一最后的情景使调查性新闻记者成为监督算法问责的核心力量。公共信息需求以及在提供相关服务中居于核心地位的服务，将被持续监测并审视其所提供的服务，以及这些服务在不同用户之间可能存在的差异，从而揭示可能存在问题的信息政治。
这些情景并非路线图，而是旨在鼓励长远思考，并引发进一步的公开辩论。最终，我们提出一个问题：为解决这些问题，可以并应当做出哪些努力？
全球议程峰会2015 将于10月25日至27日在阿布扎比举行
作者为Pia Mancini（Net Democracy主任）和Farida Vis（Visual Social Media Lab主任、谢菲尔德大学信息学院教职研究员）。两人均为世界经济论坛 社交媒体全球议程理事会的成员。
图片：2013年11月28日，一名男子在上海市中心一家本地咖啡馆使用笔记本电脑上网时打电话。路透社/Carlos Barria
