Kellogg Insight - 算法如何控制工作者
Skip to content
The Insightful Leader Live: AI Isn’t Magic—It’s Hard Work. Here’s How to Get Started. | Register Now
Organizations 8月 5, 2024

算法如何控制工作者

即使高技能的工作者也会发现,自己比以往任何时候都更容易受到不透明算法的评估和奖惩。一本名为《看不见的笼子》(Inside the Invisible Cage)的新书对此进行了调查。

composite image of employee productivity monitoring

Riley Mann

公司越来越依赖机器监控和评估工作者的表现,这意味着什么?

在其新书《看不见的笼子:算法如何控制工作者》的序言中,凯洛格管理学院的管理与组织助理教授Hatim Rahman描述了如何使用算法来评估工作者的表现。这种评估通常缺乏透明度,使工作者无从得知自己如何被评分。

TalentFinder等平台使用的算法评级系统不够透明,却日益受到招聘员工的公司所依赖,使这些平台将高技能工作者控制在一个“看不见的笼子”里:在这种环境中,组织将工作者的行为规范和指导方针嵌入不透明的算法中,这些算法会发生变化,而不会向工作者提供通知、解释或追索权。这标志着市场和组织试图对人进行分类和最终控制的方式发生了深刻转变。

*

Tyra在TalentFinder上完成她的最新项目后,紧张地刷新她的浏览器,收到经理的如下反馈:“她速度快、准确无误、容易合作。”这是一条简明扼要、积极正面的评论。但是Tyra现在不得不等待。她再次点击“刷新”,等着看TalentFinder的算法会在何时以及如何更新她的评级评分。很多事情都取决于算法的裁决:比如获得更高的工资、得到更有声望客户的注意,并在搜索结果中获得可见度等等。

但问题是Tyra无法知道控制她在TalentFinder上可见度和成功的算法是如何运作的。她无从得知算法的标准、标准如何加权,甚至不知道算法何时会更新她的评分。在第十次刷新页面但是毫无结果后,Tyra关闭了视窗,琢磨这个控制着她命运的不可知算法。沮丧之余,她转而使用她所知道的最佳方式表达自己的困境,她写了一首诗:

算法,
没人能够解释;
尝试破解,
白费力气。

非升即降,
看不到任何理由;
接受与否,
你都不会赢得这场战斗。

所以工作再工作,
别管那些神神秘秘;
琢磨算法,
是一条通往痛苦之路。

Tyra的诗并非夸张。无论是经验丰富或新的工作者、评分高或评分低的工作者,还是位于不同国家的工作者,都报告了TalentFinder算法给他们带来的类似困惑。有时算法会提高他们的评级评分,有时会降低,有时则毫无变化。这些结果对工作者在TalentFinder上找工作的能力产生了重大影响,但是要破解算法如何做出决定,却令人抓狂。正如Tyra所言,这是“一条通往痛苦之路”。

看不见的笼子》一书探讨了组织对于算法的使用如何使我们重新审视Tyra以及数百万名使用在线就业市场平台(如Upwork、TopCoder、Gigster)找工作的其他高技能工作者所受到的控制。在过去二十年来,在线就业市场平台的爆炸式增长改变了工作的性质。2021年,美国有超过4,000万人使用在线就业平台找工作。相比之下,根据最近的估计,美国行业中雇员最多的零售业拥有360万名工作者。事实上,如果把美国五大职业加在一起,人数仍不及使用在线就业平台找工作的人数。

问题不仅在于许多人使用在线就业平台找工作,更在于这些平台改变了组织和工作者相互寻找以及进行合作的方式。这些平台的目标是创建一个就业亚马逊:一个让组织和个人点击按钮,便可即时获取世界各地顶尖人才的平台。例如,组织可利用在线就业平台雇佣世界各地的高技能工作者,如软件工程师、平面设计师、数据科学家、工程师、建筑师,甚至律师和医生,来完成主要是非结构化的知识密集型项目。随着COVID-19疫情导致远程工作急剧增加,在线就业市场平台的吸引力更是水涨船高。

算法推动了在线就业市场平台的发展。数以百万计的参与者在平台上注册,平台不可能将每个工作机会与技能、工资和时间安排适合该职位的工作者进行单独匹配。与之相反,这些平台使用算法将组织和客户与工作者相互匹配,就像YouTube或Netflix使用算法将观众的兴趣与视频内容相匹配一样。但我认为,平台使用这些算法远不只是将工作与工作者进行匹配。

本书认为,算法使平台将高技能工作者控制在一个“看不见的笼子”里:在这种环境中,组织将工作者的行为规范和指导方针嵌入不透明的算法中,这些算法会发生变化,而不会向工作者提供通知、解释或追索权。这个看不见的笼子为平台组织提供可预测性,因为他们能够使用算法更有效地收集数据,并在全球范围内对哪些工作者受到奖惩进行监控、评估和分类。与此同时,看不见的笼子里的不透明的动态算法让工作者的生活变得更难预测,因为他们不知道哪些行为会得到奖励,哪些会受到惩罚。我的研究表明,工作者被困在这个看不见的笼子里,因为平台组织的算法控制着工作者在平台内外获得工作的能力。结果是像Tyra这样的工作者在很大程度上认为努力遵守不透明算法是他们唯一的选择,尽管理论上他们可以随时离开这个平台。因此,看不见的笼子这个概念反映了工作者必须如何应对一套不断变化且不透明的算法,这些算法控制着他们在就业市场内部和就业市场之间的工作机会和成功。

平台利用管理其活动的薄弱的机构监督和法规,通过隐蔽的数据收集、处理和实验来培养和利用权力与信息的不对称,从而维持这个看不见的笼子。这些不对称对平台组织和工作者都具有重大影响。本书的一个主要发现是,算法对工作者寻找和完成工作的方式尤其具有破坏性;对那些拥有大学和高等学位的工作者更是如此,而这些人长期以来一直被认为不会受到技术颠覆的影响。这个论点主要来自于在TalentFinder(化名)上进行了六年的种族学数据收集,TalentFinder是世界上最大的高技能工作在线就业市场平台之一。

更广泛地说,看不见的笼子标志着市场和组织试图对人进行分类和最终对人进行控制的方式发生了深刻的转变。在过去,市场和组织根据诸如教育、性别、地点和年龄等群体特征对人进行分类(例如,居住在芝加哥20多岁拥有工程学位的女性)。但我的分析表明,组织可以使用算法根据更细致的个人层面数据对他们进行分类,试图比“看不见的笼子”里的人更“了解”他们自己。我的研究表明,定义算法应该“了解”工作者的哪些信息是一种组织决定,它揭示了组织的优先事项以及希望重视(或者贬低)什么。传统上,高技能工作者对自己的评估和排名有一定程度的控制权,但是在无形的笼子里,组织利用算法将这种控制权转移到自身,同时剥夺了工作者影响或质疑这种控制权转移后果的能力。具体而言,组织收集人们的数据,使用各种算法评级、排名和类别对他们进行动态分类。人们无法验证所收集的数据,并且可能难以理解算法如何或为何以给定方式对它们进行分类。与以前在官僚组织或市场环境中使用的控制形式不同,看不见的笼子无处不在,但是不透明并且不断变化,使工作者难以摆脱。

本书研究使用算法来控制高技能工作的影响,超越了当前主要集中在平台的算法如何促成低薪工作(例如Uber、Instacart和Amazon Mechanical Turk)的学术研究。在低薪环境中,组织使用算法推动工作者走向标准化行为,展示出增强的泰勒主义(Taylorism)。相比之下,在看不见的笼子里,平台组织不希望工作者琢磨算法或理想行为,而是鼓励工作者表现得“自然”,这样它就可以根据工作者的行为“客观地”对他们进行分类、排名和推荐。在选择哪些信息是客观的、可衡量的和有价值的过程中,组织的算法将某些工作者的特征和选择具体化,同时消除了高技能工作中固有的复杂性和不可预测性。因此,随着组织越来越多地使用算法为看不见的笼子里的人做出重要决定(比如决定谁可以租房和买房、谁该进监狱、谁该受雇),这种控制形式越来越多地决定我们的机会,并且不允许我们了解或应对那些控制我们成功的因素。

Featured Faculty

Assistant Professor of Management and Organizations

Add Insight to your inbox.
This website uses cookies and similar technologies to analyze and optimize site usage. By continuing to use our websites, you consent to this. For more information, please read our Privacy Statement.
More in Business Insights Organizations