算法和工作的未来
- 发布于 2022-11-19
算法是机器用于执行数学运算的一系列精确的分步指令。使用支持算法的系统和设备将为职业安全和健康带来许多好处，但与许多新技术一样，工人也存在风险。《美国工业医学杂志》的一篇新评论重点关注工人管理系统、先进传感器技术和机器人设备使用中存在的工人风险的新来源。确定算法是否适合工作场所使用，对制造商、程序员、雇主、工人以及职业安全和健康从业者来说正迅速成为一项挑战。为了实现支持算法的系统和设备在未来工作中承诺的好处，我们必须研究如何有效地管理它们的风险。评论中的要点在下面突出显示。文章中提供了深入的讨论。
作者：John Howard，医学博士
机器学习算法正在为多个行业部门的各种职业安全和健康应用提供动力。算法应用存在于制造业、建筑、农业、采掘采矿、零售业、和公共治理中。由支持算法的系统和设备驱动的数据驱动的洞察力可以概念化为职业安全和健康的未来工作工具，有朝一日可能会告诉你发生了什么（描述性系统）和为什么会发生（诊断系统）；预测会发生什么（预测系统）；支持基于当前和未来条件的决策（规范性系统）；并采取物理行动（半自主和自主系统）。
应该通过充分意识到和理解算法的风险状况来缓和将算法集成到工作场所设备、流程、条件和人力管理系统中的预期好处。了解支持算法的工作场所系统的风险和益处应该基于全面的风险评估。支持算法的系统构成的风险通常来自三个领域：
专有算法的日益复杂，特别是可以在运行过程中改变其决策逻辑的自学算法，这使得设计师、制造商和用户难以在操作上了解算法的工作原理。缺乏算法透明度可能是评估和控制新的职业安全和健康风险的主要障碍。14随着各种社会系统、和工人管理系统、先进传感器技术和机器人设备中的算法决策正在增加，注意力集中在如何实现更大的算法透明度上。
密切的身体监督一直是雇主监控工人的传统方式。雇主现在可以通过视频监控来监控工人；通过地理位置算法跟踪工人的身体运动；监控员工使用电子邮件、社交媒体和网页浏览的情况；评估工人的生产力、参与程度、离开组织的倾向以及对工作场所安全行为的遵守情况。这些新的数据驱动的人力资源管理方法被称为“人员分析”，并被吹捧为帮助雇主做出更好的决策。
算法管理技术可以持续收集和存储工人数据，可能没有明确的目的或工人披露。在一些算法管理技术中，工人和决策者的观察者都可以是非人类代理人。当监控没有前瞻性地向工人披露时，支持算法的生产力和绩效系统通常代表一种未经工人同意的管理控制。当算法被赋予工人工作的权力时，当工人对算法收集哪些数据、如何使用数据以及出于什么目的没有信息或了解时，工人会报告无能为力的感觉。这并不奇怪，因为在算法管理下，工人通常与他们的“数字主管”没有有意义的互动。这种算法管理可能与工人自主权的侵蚀、工作强化、心理社会压力和工人福祉的下降有关。
算法管理在零工经济中尤为普遍，但数字监控和管理技术在其他行业部门也可见。轮班分配算法、交付路线算法、仓库工人移动算法、连续性能算法和其他工作生产力算法不仅应用于制造工人，也适用于服务工人、知识工作者、仓库工人，甚至一线主管。
新的算法技术有可能通过影响雇主-员工的关系来显著改变组织控制。算法管理系统的传播将影响工作的未来，但可能会以意想不到的和不良方式这样做。虽然在算法管理下，工人的私密性限制目前不确定，但在支持算法的系统中存在大量关于工人的信息会带来潜在的安全风险。此外，用于自动化组织管理系统的算法可能会产生歧视性结果，从而重现和加强社会的历史年龄、种族和民族以及性别偏见等。
传感器是技术管理工作的核心，因为它们为算法控制提供数据输入。先进的传感器技术正在商业化，并作为新的暴露科学工具进入工作场所。使用小型化算法嵌入式微处理器的先进传感器技术，通过不断感知危险物质的环境工作环境或工人接近已知危害，有可能大大加快职业暴露科学的进步。然而，它们也可能引起工人对侵入性工人监控、算法偏见和侵犯个人隐私的担忧。
算法是所有机器人设备的关键组件。从人工智能架构的角度来看，机器人设备可以是物理上的机器人或数字决策助理。机器人表现出三种主要功能：感知、计划和行动。算法涉及所有这些基本的机器人功能。与算法管理系统一样，当算法控制下的机器人系统导致人类工人的身体或认知能力与工作需求不匹配时，可能会发生工作强化。当机器人系统被设计为最大限度地提高生产力而不充分考虑对人类工人绩效的影响时，它们的风险状况就会增加。虽然将机器人集成到工作流程中承诺带来许多生产力效益，但工人可能会因使用机器人而面临工作密集和工作岗位转移的风险。
引入支持算法的工作场所使用人工智能系统和设备的速度比开发特定于算法的风险评估和风险管理策略的速度更快。当集成到工作场所系统时，算法可以呈现出独特的风险分类，这些风险在组织的传统职业安全和健康风险管理方法中可能无法解决。需要新的方法来检测输入数据中的偏差，在专有算法中找到设计错误，并确保输出决策在逻辑上是输入数据的衍生物。侵入性监控、算法偏见、自主权和隐私丧失、决策产出不准确以及工作强化所产生的风险应添加到现有风险评估和管理方法中。工人还应该有自由度和方法来挑战算法生成的决策。
在未来的工作中，算法将在职业安全和健康方面提供许多有益的应用。虽然支持算法的系统和设备可能会减少人为错误的来源，并增强工人的安全和健康，但算法也可能为工人福祉带来新的风险来源。确定算法在工人管理系统、先进传感器技术、机器人设备和其他工作场所系统、工具和机械中是安全的，将挑战算法设计师和软件程序员、支持算法的设备制造商、雇主、工人以及职业安全和健康从业者的风险评估和管理能力。为了确保支持算法的系统和设备的好处在未来的工作中占据突出地位，现在是时候研究如何有效地管理其风险了。
