机器学习算法盲目地朝着设计者设定的数学目标运行。至关重要的是，这项任务必须纳入合乎伦理行事的要求。
这类系统正迅速普及。企业利用它们决定你会看到哪些新闻，以及你在网上约会时会遇见谁。各国政府也开始部署机器学习，以帮助提供政府服务并选择接受审计的个人。
然而，驱动这些系统的算法远比你想象的简单：与其说它们像艾萨克·阿西莫夫科幻小说中的机器人，不如说更像袖珍计算器。默认情况下，它们并不理解自己行动所处的语境，也不了解决策带来的伦理后果。
机器学习算法的预测来自对样本数据的泛化，而非专业知识。例如，算法可能会利用你的财务状况来预测你拖欠贷款的可能性。算法会根据历史客户的财务情况进行“训练”，这些客户中既有违约者，也有未违约者。
因此，机器学习系统的伦理要求必须以明确的数学公式表示。这并非易事。
从数据中学习
我所在的 Data61 曾为政府以及本地和国际企业设计并构建机器学习系统。其中包括若干产品行为具有伦理影响的项目。
设想一所大学决定采取面向未来的学生招生方式：它不再依据以往成绩进行选拔，而是招收它预测将会表现出色的学生。
大学可以利用机器学习算法作出这类预测：用以往申请者的历史信息及其后续表现对算法进行训练。
这类训练以一种非常具体的方式进行。算法有许多控制其行为的参数，而训练过程就是优化这些参数，使其达到与数据相关的特定数学目标。
最简单、最常见的目标，是让算法平均而言能够准确预测训练数据。对这所大学来说，这一目标意味着让算法尽可能准确地预测历史申请者的成绩。
伦理目标
但是，诸如“尽可能减少错误”这样的简单预测目标，可能会无意中导致不合乎伦理的决策。
来看看这一常用目标忽略的若干重要问题：
1. 人各不同，错误也不同
由于算法只关注其错误在全部训练数据中的平均大小，它在不同人群中的“准确率”可能大相径庭。
这种情况常常出现在少数群体身上：他们在训练数据中所占比例较低，因此算法对其成绩预测不准也不会受到太大惩罚。例如，对于一门男性占多数的课程，如果大学要预测成绩，算法整体准确率可能达到90%，但对女性的准确率却只有50%。
为了解决这个问题，大学必须修改算法的目标，使其同等重视对男性和女性的预测准确率。
2. 算法也不确定
简单的机器学习算法会给出“最佳猜测”式的预测，而更复杂的算法还能评估自己对预测结果的确信程度。
确保置信度准确，也可以成为算法目标的重要组成部分。例如，对于预测成绩不确定的申请者，大学可能希望采用“疑罪从无”一类的伦理原则，给予其有利推定。
3. 历史偏见
大学的算法完全依据历史数据学习预测。但如果负责给这些数据打分的教授存在偏见（例如歧视某个少数群体），那么新的预测也会带有同样的偏见。
大学必须修改算法目标，以抵消这种偏见，从而在未来招生中消除它。
4. 相互冲突的优先事项
制定恰当数学目标时，最困难的一点在于伦理考量往往相互冲突。对这所大学来说，提高算法对一个少数群体的预测准确率，会降低它对另一个群体的准确率。没有任何预测系统是完美的，其局限总会对某些学生造成比其他学生更大的影响。
在单一数学目标中平衡这些相互竞争的因素，是一个复杂的判断问题，没有唯一答案。
构建合乎伦理的算法
这些只是看似简单的问题所涉及的众多复杂伦理考量中的一小部分。那么，这所大学，或者一家企业或政府，要如何确保其实际机器学习系统的行为合乎伦理？
第一步，他们可以指定一名“伦理工程师”。这项工作的职责是向系统设计者了解伦理要求，将其转化为数学目标，并在算法投入实际应用后，持续监测其实现该目标的能力。
遗憾的是，这一职责如今被归入“数据科学家”的一般工作范畴（如果它确实存在的话），没有得到应有的重视。
创建合乎伦理的机器学习系统绝非易事：这需要平衡相互竞争的优先事项、理解社会期望，并考虑不同类型的不利处境。但只有这样，政府和企业才能确保自身遵守社会所期待的伦理标准。
