随着机器学习算法在商业、政治和社会决策中逐渐占据主导地位，人们对个人数据开放的压力将稳步增加，隐私保护也将被削弱。如果我们不掌控这些新技术，它们可能会把我们引向一种我们并未选择的政治制度。
约公元前1200年，中国商朝建立了一套工厂式体系，用于制造数以千计的大型青铜器，供日常生活和礼仪祭祀使用。在这一早期大规模生产的案例中，青铜铸造过程需要精密的规划，以及大量工人的协调配合，每人须按精确的顺序完成各自独立的任务。
与之类似，中国首位皇帝秦始皇一千年后推出的著名兵马俑军阵，其制作同样需要复杂的工艺流程。据亚洲艺术博物馆（位于旧金山）称，这些雕像“是采用一种组装式生产系统制作的，该系统为大规模生产和商业的进步铺平了道路。”
一些学者推测认为，这些早期的规定性工作技术在塑造中国社会方面发挥了重要作用。其中，它们似乎使人们更容易接受官僚结构、强调等级制度的社会哲学，以及认为做事只有唯一正确方式的观念。
19世纪欧洲引入工业工厂时，即便是弗里德里希·恩格斯这样的资本主义坚定批评者也承认，无论经济制度是资本主义还是社会主义，大规模生产都需要集中的权威。20世纪，朗登·温纳等理论家将这一思路延伸到其他技术上。例如，他认为原子弹应被视为一种“内在的政治性人工制品”，因为其“致命特性要求它必须由一个集权、严格等级化的指挥链来控制”。
今天，我们可以把这种思考推得更远。试想一下机器学习算法，它是当今应用中最重要的通用技术。这些算法利用现实世界的案例模拟人类的认知能力，已经在工作场所中无处不在。但是，要充分利用这些技术，组织必须将人类任务重新定义为预测任务，因为这更符合这些算法的优势。
机器学习算法的一个关键特征是，其性能随数据增多而提升。因此，使用这些算法会产生一种技术动力，促使人们将关于个人的信息视为可记录、可获取的数据。与大规模生产体系一样，它们是“具有内在政治性的”，因为其核心功能要求某些社会行为并排斥其他行为。尤其是，机器学习算法与个人对隐私的诉求直接相悖。
基于社区成员个人信息公开可得的体系，可能会受到社群主义者的青睐，例如社会学家阿米泰·埃齐奥尼，在他看来，对隐私的限制是实施社会规范的一种手段。但与社群主义者不同，算法对社会规范漠不关心。它们唯一的关注点是做出更好的预测，为此，它们将人类生活中越来越多的领域转化为可供挖掘的数据集。
此外，技术必然性的力量在使个人主义的西方人不知不觉成为社群主义者的同时，也使他们更加依附于一种基于算法评估的择优文化。无论是在工作中、学校里，甚至在约会应用上，我们早已习惯于由冷冰冰的工具来评估我们的资格，然后将我们分配到某个等级之中。
诚然，算法评估并非新鲜事物。一代人以前，奥斯卡·H·甘迪等学者曾警告说，我们正在变成一个被打分和排名的社会，并要求对技术导致的错误承担更多问责并给予补救。但与现代机器学习算法不同，早期的评估工具是相当易于理解的。它们基于相关的规范性和经验性因素做出决策。例如，积累大量信用卡债务会损害个人信用，这一点并非秘密。
相比之下，新的机器学习技术深入挖掘大型数据集，以发现具有预测性却难以被充分理解的相关关系。在工作场所，算法可以追踪员工的对话内容、午餐地点，以及他们在电脑、电话或会议上花费的时间。借助这些数据，算法构建出复杂的生产力模型，远远超越了我们的常识性直觉。在算法择优的体系中，模型所要求的任何标准都会成为新的卓越标准。
不过，技术并非命中注定。我们在它塑造我们之前先塑造它。商业领袖和政策制定者可以根据其机构需求，开发和部署他们想要的技术。我们有能力在人类生活的敏感领域周围设置隐私之网，保护人们免受数据的有害使用，并要求算法在预测准确性与公平、问责和透明等其他价值之间取得平衡。
但如果我们顺应算法逻辑的自然走向，一种更加择优和社群主义的文化将不可避免。这种持续的转变将对我们的民主制度和政治结构产生深远影响。正如中国问题学者丹尼尔·A·贝尔和张维为所指出的，主要政治替代方案（相对于西方自由民主传统）是社群主义制度，即在中国持续演进的制度。
在中国，集体决策并不以公民的明确同意为合法性基础，人们通常对政府拥有较少的可强制执行的权利，尤其是在监控问题上。普通中国公民在政治生活中的角色主要限于参与地方选举。与此同时，国家领导人通过择优程序选出，并自认为是人民福祉的守护者。
自由民主国家不太可能完全转向这种政治制度。但如果当前商业和消费文化的趋势持续下去，我们可能很快会与中国的择优和社群主义传统有更多共同之处，而非与我们自身的个人主义和自由民主历史相近。如果我们想要改变方向，就必须将我们自身的政治诉求置于技术诉求之前。
