短片《杀手机器人》（Slaughterbots）描绘了一个不远的未来：成群的微型无人机因政治信仰而暗杀数千人。该片于2017年11月发布，由学者和活动人士制作，旨在警示先进人工智能（AI）的危险。该片迅速走红，截至目前观看量已超过300万次。它引发了一场公众辩论，就自主武器的未来展开讨论，并向在联合国召开会议的外交官施压，《特定常规武器公约》。
但这类思辨性的科幻叙事不仅有助于吸引关注。设计和开发先进技术的人员可以借助故事思考其工作的后果，确保技术被用于造福人类。我们认为，这类“科幻原型设计”或“设计型科幻”有助于防止人类偏见渗入新技术，避免进一步固化社会的成见与不公。
偏见可能导致对某些类别（结果、人员或观点）的任意偏好，而忽视其他类别。例如，有些人可能对聘用女性担任高管存在偏见，无论他们是否意识到这一点或不自知。
基于记录此类偏见的数据构建的技术，可能会复制这一问题。例如，为某一职位筛选最佳简历而设计的招聘软件，可能被编程为寻找反映对男性无意识偏见的特征。在这种情况下，算法最终会偏向男性的简历。而这并非纯属理论——它确实在亚马逊发生过。
在设计算法时若不考虑可能的负面影响，曾被比作医生的行为：“只谈论某种治疗的益处，却完全忽略其副作用，无论副作用多么严重”。
一些科技企业和研究人员正在努力解决这一问题。例如，谷歌制定了一套伦理原则，以指导其人工智能的开发。英国学者还发起了一项名为Not-Equal的倡议，旨在促进技术设计和使用中更大的公平与正义。
问题在于，企业在公开场合往往只宣传近未来技术潜在后果的积极一面。例如，无人驾驶汽车常被描绘为能解决从成本到安全的所有交通问题，却忽视了网络攻击风险的增加网络攻击风险，也忽视了它们可能使人们减少步行或骑行的事实。
人们难以理解数字技术的运作方式，尤其是那些高度依赖晦涩算法的技术，这也使人们更难对相关问题形成全面而复杂的认识。这种情况在令人安心的正面叙事与“我们周围的技术在某种程度上内嵌偏见”的模糊怀疑之间制造了一种张力。我们认为，正是在这里，借助设计型科幻进行叙事可以发挥作用。
故事是思考各种可能性和复杂情境的自然方式，我们一生都在聆听故事。科幻可以帮助我们推测近未来技术对社会的影响，正如《杀手机器人》所做的那样。这甚至可以涵盖社会公正问题，例如难民和移民等某些群体可能被排除在数字创新之外的方式。
揭示（可能的）未来
设计型科幻故事为设计师、工程师和未来学家（以及其他人）提供了一种新颖的方式，使他们能够从人文视角思考技术的影响，并将其与未来可能的需求联系起来。通过逻辑与想象力的结合，设计型科幻可以揭示技术可能被采用和使用的方式，从而引发关于其未来影响的讨论。
例如，短篇小说“犯罪众包”探讨了如果人工智能利用众包信息和犯罪数据库来预测谁可能实施谋杀，将会发生什么。研究人员发现，由于该数据库中充斥着因社会原因而在统计上更可能再次犯罪的少数族裔人群，“犯罪众包”模型更倾向于错误怀疑少数族裔，而非白人。
制作设计型科幻并不需要具备出色的写作才能，也无需拍摄精良的影片。以卡片和分镜脚本为工具的头脑风暴活动已被用于开发设计型科幻并推进叙事过程。若能更广泛地开展使用此类工具的工作坊，将使更多工程师、创业者和政策制定者能够运用这一评估方法。而将成果公开，将有助于在技术影响社会之前揭示其中潜在的偏见。
鼓励设计师以这种方式创作和分享更多故事，将确保支撑新技术的叙事既不只呈现积极的图景，也不只呈现极端消极或反乌托邦的图景。相反，人们将能够认识到身边正在发生的两个方面。
