我们的生活由数据主导。这不仅是因为数据让企业了解我们想要什么，还因为它帮助我们记住并区分我们想要什么、需要什么以及可以忽略什么。所有这些决定都会形成模式，而这些模式经过汇总后，便能勾勒出我们自身的图景。如今，这样的模式跟随着我们，甚至先于我们被发送出去——例如提前通知餐厅我们是否有过敏史，或告知零售商店我们偏好的服装尺码——这种情景已然如此可行，以至于将其称为科幻，暴露的与其说是缺乏想象力，不如说是缺乏认知。
人工智能的益处在于使我们的许多选择变得更加轻松便捷，同时，这也加剧了客户选择领域的竞争。随着这一演进的推进，问题与其说是人工智能在多大程度上塑造了我们的选择，不如说是它如何塑造这些选择。在这样的世界里，我们需要弄清楚我们的行为何时受到影响，以及受到谁的影响。
显然，我们大多数人都相当乐于生活在一个选择受人工智能影响的世界里。事实上，我们已经生活在这样的世界中：从搜索引擎到顺畅的交通流，我们日常生活中的许多便利都建立在后台所提供的速度之上。在考虑人工智能及其治理时，我们需要问自己的问题是：我们是否乐于生活在一个我们不知道自己是否、以及如何受到影响的世界里。
行为偏见还是行为线索？
人工智能对我们理解行为所能发挥的作用，堪比显微镜之于生物学。
我们已经走到这样一步：软件能够发现我们行为模式中我们自己可能未曾察觉的倾向，识别出连我们的朋友和家人都不了解的特征。关于一位父亲的故事广为流传（但未必属实）：他发现女儿怀孕，是因为塔吉特（Target）在察觉到其消费习惯的变化后，开始向她寄送婴儿用品广告，这个故事为我们提供了一个初步的窥探视角。[i]
我们的生活早已受制于旨在驱动行为的概率假设。现在，我们需要诚实地自问并作答：你愿意让自己有多大比例的生活受到你并不理解的算法所塑造？更重要的是，应由谁来负责监督这些算法，以便在它们做出糟糕或刻意操纵性的决定时予以标记？
随着越来越多的企业使用人工智能，其洞察的复杂性也持续增长，我们将面临一道鸿沟，它超出了知情权或被告知权——我们将面临的是一道关于是否、以及何时确实发生了侵权行为的鸿沟。
随着我们的数字化存在不断扩大，且这一存在一方面受到公共层面对电子政务未来走向的推动，另一方面受到私人层面我们如何参与自身兴趣领域的推动，有意义的治理必须包含一个基本的首要步骤：了解我们的数据如何被使用、由谁持有以及何时被使用的权利。
行为与技术以前所未有的速度相互融合，另一个例子体现在聊天机器人向我们展示的功能上：它们具有建立情感联系的潜力，而这种联系可能被用于操纵目的。[ii] 随着自然语言处理的发展与先进机器人技术相结合，通过触感、温度和舒适感建立这种情感纽带的潜力也随之增长——尤其是在一个孤独感呈现最大规模蔓延的世界里，这也促使英国正式“任命了一位孤独事务大臣”任命了一位孤独事务大臣。
随着机器对机器的数据在物联网中不断增长，拥有优先访问权的企业将越来越深入地洞察我们自身可能都未曾理解的、日益细微的行为模式——而这也赋予了它们强大的助推行为的能力。优质数据不仅关乎数量，更关乎真实性——随着物联网的发展，我们正将企业所需了解我们的一切信息双手奉上。
我们仍可以认为，问题不在于数量，而在于管理这些数据时分析能力的不对称——也就是价值获取上的不对称。进而言之，这意味着一些企业不仅了解你，还能预测你的行为，甚至精准掌握如何最有效地影响某一特定选择。在大数据时代，最好的生意就是洞察的生意。
问责：谁在守护我们？
建立问责机制的首要问题，是如何在人工智能使流程更加自主化的决策环节中保留人类的参与。下一阶段需要在理解权中维护问责——即了解某一算法为何做出此项决定而非彼项决定。
针对这一问题的新提案已经涌现——例如，当特定人工智能项目属于企业竞争力的专有内容时，我们或许可以运用反事实系统，评估人工智能所面临的所有可能选择。[iii] 但是，那些在不打破黑箱的情况下描绘决策过程的系统，将无法提供该算法为何做出此项决定而非彼项决定的依据。
然而，问题依然更为深层。透明度模型的问题在于，它假定我们甚至知道该寻找什么——假定我们知道何时需要作出选择，以拒绝企业对数据的使用。在不久的将来，我们或许将无法凭借自身判断出人工智能何时正在影响我们。
这引出了一个根本性问题：要治理人工智能，我们或许需要借助人工智能。
我们需要人工智能，不仅是为了理解我们何时以明显的方式受到影响，更是为了理解企业可以利用我们行为的微观洞察的新兴方式。现有法律框架、现有政治制度以及现有问责标准，在理解、预测和识别为操纵目的而使用人工智能的行为方面，能力严重不足。
算法共谋已经成为一个问题——价格卡特尔逐渐让位于可以在无需事先达成协议的情况下出现、又随即消失的临时定价问题，从而规避了最初的指控。[iv] 我们可以设想这样一个世界：共谋不再由市场组织，而是通过追踪不同群体个体的行为，来组织微观定价调整。
自然会产生诸多疑问：谁来治理我们用来监督人工智能的人工智能？我们如何得知监督者与被监督者之间没有形成共谋？为使治理性人工智能将对企业人工智能的透明度要求降至最低，我们需要何种透明度体系？
人工智能治理的未来将在边缘地带被决定——我们需要关注的，与其说是共谋与操纵结构的不断变化，不如说是行为本身，以及能干的人工智能找到最少影响点以塑造决策的能力。
我们需要展开一场对话，将我们关于价格操纵、共谋和操纵的假设与信念讲得清清楚楚。在人工智能时代，我们再也承受不起含糊其辞。
