SHIPT算法擠壓了外包工人 如何對(duì)雇主進(jìn)行審計(jì)

2020 年初，基于應(yīng)用程序的快遞公司 Shipt 的零工注意到他們的薪水有些奇怪。該公司于 2017 年被 Target 以 5.5 億美元收購(gòu)，提供當(dāng)?shù)厣痰甑漠?dāng)日送貨服務(wù)。這些貨物是由 Shipt 工人完成的，他們購(gòu)買(mǎi)這些物品并將它們送到客戶家門(mén)口。在大流行開(kāi)始時(shí)，由于 COVID-19 封鎖使人們留在家中，業(yè)務(wù)蓬勃發(fā)展，但工人們發(fā)現(xiàn)他們的薪水變成了......不可預(yù)知的。他們做著他們一直以來(lái)所做的工作，但他們的薪水往往比他們預(yù)期的要少。他們不知道為什么。

在Facebook和Reddit上，工人們比較了筆記。以前，他們知道工資會(huì)有什么期望，因?yàn)?Shipt 有一個(gè)公式：它給工人的基本工資是每次送貨 5 美元，外加客戶通過(guò)應(yīng)用程序訂購(gòu)的總金額的 7.5%。該公式允許工人查看訂單金額并選擇值得他們花時(shí)間的工作。但希普特在沒(méi)有提醒工人的情況下改變了付款規(guī)則。當(dāng)該公司最終發(fā)布有關(guān)這一變化的新聞稿時(shí)，它只透露新的薪酬算法根據(jù)“努力”向工人支付工資，其中包括訂單金額、購(gòu)物所需的估計(jì)時(shí)間和行駛里程等因素。

流程圖顯示了基于文本的工具如何解析工作人員屏幕截圖中的數(shù)據(jù)并提取相關(guān)信息。購(gòu)物者透明度工具使用光學(xué)字符識(shí)別來(lái)解析工人的屏幕截圖并找到相關(guān)信息（A）。每個(gè)工人的數(shù)據(jù)被存儲(chǔ)和分析（B），工人可以通過(guò)發(fā)送各種命令來(lái)與工具進(jìn)行交互，以了解有關(guān)其工資的更多信息（C）。達(dá)娜·卡拉奇

該公司聲稱，這種新方法對(duì)工人更公平，并且它更好地將工資與訂單所需的勞動(dòng)力相匹配。然而，許多工人只是看到他們的薪水減少。由于希普特沒(méi)有發(fā)布有關(guān)該算法的詳細(xì)信息，它本質(zhì)上是一個(gè)黑匣子，工人看不到里面。

工人們本可以悄悄地接受他們的命運(yùn)，或者在其他地方尋找工作。相反，他們聯(lián)合起來(lái)，收集數(shù)據(jù)并與研究人員和組織建立合作伙伴關(guān)系，以幫助他們理解他們的薪酬數(shù)據(jù)。我是一名數(shù)據(jù)科學(xué)家;我在 2020 年夏天被吸引到這個(gè)活動(dòng)中，我開(kāi)始構(gòu)建一個(gè)基于短信的工具——購(gòu)物者透明度計(jì)算器——來(lái)收集和分析數(shù)據(jù)。在該工具的幫助下，有組織的工人及其支持者基本上對(duì)算法進(jìn)行了審計(jì)，發(fā)現(xiàn)它給40%的工人大幅減薪。工人們表明，盡管公司愿意，但可以反擊算法的不透明權(quán)威，創(chuàng)造透明度。

我們?nèi)绾螛?gòu)建審計(jì) Shipt 的工具
它始于一位名叫威利·索利斯（Willy Solis）的希普特員工，他注意到他的許多同事都在在線論壇上發(fā)帖，談?wù)撍麄儾豢深A(yù)測(cè)的工資。他想了解薪酬算法是如何變化的，他認(rèn)為第一步是文檔。當(dāng)時(shí)，希普特雇用的每位工人都被添加到一個(gè)名為“希普特名單”的Facebook群組中，該群組由公司管理。索利斯在那里發(fā)布了消息，邀請(qǐng)人們加入一個(gè)不同的、由工人運(yùn)營(yíng)的Facebook群組。通過(guò)第二組，他要求工人向他發(fā)送截圖，顯示他們不同月份的工資收據(jù)。他手動(dòng)將所有信息輸入到電子表格中，希望他能看到模式，并認(rèn)為也許他會(huì)帶著這個(gè)故事去找媒體。但是他得到了成千上萬(wàn)的屏幕截圖，光是更新電子表格就花費(fèi)了大量的時(shí)間。

Shipt 計(jì)算器：使用工人工資單挑戰(zhàn)零工經(jīng)濟(jì)黑匣子算法

就在那時(shí)，索利斯聯(lián)系了 Coworker，這是一個(gè)非營(yíng)利組織，通過(guò)幫助請(qǐng)?jiān)?、?shù)據(jù)分析和活動(dòng)來(lái)支持工人的倡導(dǎo)。時(shí)任 Coworker 數(shù)字活動(dòng)總監(jiān)的 Drew Ambrogi 向我介紹了 Solis。我當(dāng)時(shí)在麻省理工學(xué)院媒體實(shí)驗(yàn)室攻讀博士學(xué)位，但對(duì)此感到有些失望。那是因?yàn)槲业难芯恐攸c(diǎn)是從社區(qū)收集數(shù)據(jù)進(jìn)行分析，但沒(méi)有任何社區(qū)參與。我把 Shipt 案例看作是與社區(qū)合作并幫助其成員控制和利用他們自己的數(shù)據(jù)的一種方式。我一直在閱讀有關(guān)大流行期間送貨零工的經(jīng)歷，他們突然被認(rèn)為是必不可少的工人，但他們的工作條件只會(huì)變得更糟。當(dāng) Ambrogi 告訴我 Solis 一直在收集有關(guān) Shipt 工人工資的數(shù)據(jù)，但不知道如何處理這些數(shù)據(jù)時(shí)，我看到了一種有用的方法。

一個(gè)女人把一個(gè)袋子放在汽車(chē)后備箱里的照片。一張微笑的男人跪在商店清潔過(guò)道上的照片。希普特制作的一系列光鮮亮麗的照片顯示，穿著希普特T恤的工人面帶微笑，愉快地購(gòu)物和運(yùn)送雜貨。在整個(gè)工人抗議活動(dòng)中，希普特只表示，它已經(jīng)更新了薪酬算法，以更好地將薪酬與工作所需的勞動(dòng)力相匹配;它不會(huì)提供有關(guān)新算法的詳細(xì)信息。其企業(yè)照片呈現(xiàn)了快樂(lè)的 Shipt 購(gòu)物者的理想化版本。希普特
商業(yè)模式依賴零工的公司有興趣保持其算法的不透明性。這種“信息不對(duì)稱”有助于公司更好地控制員工——他們?cè)诓恍孤都?xì)節(jié)的情況下設(shè)定條款，而員工唯一的選擇是是否接受這些條款。例如，這些公司可以每周改變薪酬結(jié)構(gòu)，通過(guò)實(shí)驗(yàn)來(lái)了解他們能支付多少工資，同時(shí)仍然讓工人接受工作。沒(méi)有技術(shù)原因說(shuō)明為什么這些算法需要成為黑匣子;真正的原因是維持權(quán)力結(jié)構(gòu)。

對(duì)于 Shipt 員工來(lái)說(shuō)，收集數(shù)據(jù)是獲得影響力的一種方式。索利斯啟動(dòng)了一個(gè)社區(qū)驅(qū)動(dòng)的研究項(xiàng)目，該項(xiàng)目正在收集良好的數(shù)據(jù)，但效率低下。我想自動(dòng)化他的數(shù)據(jù)收集，這樣他就可以更快、更大規(guī)模地完成。起初，我以為我們會(huì)創(chuàng)建一個(gè)網(wǎng)站，讓員工可以上傳他們的數(shù)據(jù)。但索利斯解釋說(shuō)，我們需要建立一個(gè)系統(tǒng)，讓員工只需用手機(jī)就能輕松訪問(wèn)，他認(rèn)為基于短信的系統(tǒng)將是吸引員工的最可靠方式。

基于該輸入，我創(chuàng)建了一個(gè)文本機(jī)器人：任何 Shipt 員工都可以將他們的工資收據(jù)屏幕截圖發(fā)送到文本機(jī)器人，并獲得包含有關(guān)他們情況信息的自動(dòng)回復(fù)。我用簡(jiǎn)單的 Python 腳本編寫(xiě)了文本機(jī)器人代碼，并在我的家庭服務(wù)器上運(yùn)行它;我們使用一個(gè)名為 Twilio 的服務(wù)來(lái)發(fā)送和接收文本。該系統(tǒng)使用光學(xué)字符識(shí)別技術(shù)（與在PDF文件中搜索單詞的技術(shù)相同）來(lái)解析屏幕截圖的圖像并提取相關(guān)信息。它從 Shipt 那里收集了有關(guān)工人工資的詳細(xì)信息、客戶的任何提示以及工作的時(shí)間、日期和地點(diǎn)，并將所有內(nèi)容都放入 Google 電子表格中。字符識(shí)別系統(tǒng)很脆弱，因?yàn)槲覍?duì)它進(jìn)行了編碼，以便在屏幕截圖的某些位置查找特定信息。項(xiàng)目開(kāi)始幾個(gè)月后，當(dāng) Shipt 進(jìn)行更新時(shí)，工人的工資收據(jù)突然看起來(lái)不同，我們不得不爭(zhēng)先恐后地更新我們的系統(tǒng)。

除了公平的薪酬，工人還希望透明度和能動(dòng)性。

每個(gè)發(fā)送屏幕截圖的人都有一個(gè)與他們的電話號(hào)碼綁定的唯一 ID，但我們收集的唯一人口統(tǒng)計(jì)信息是工人的都會(huì)區(qū)。從研究的角度來(lái)看，看看工資率是否與其他人口統(tǒng)計(jì)數(shù)據(jù)（如年齡、種族或性別）有任何聯(lián)系會(huì)很有趣，但我們希望向員工保證他們的匿名性，這樣他們就不會(huì)擔(dān)心 Shipt 僅僅因?yàn)樗麄儏⑴c了這個(gè)項(xiàng)目而解雇他們。從技術(shù)上講，共享有關(guān)其工作的數(shù)據(jù)違反了公司的服務(wù)條款;令人驚訝的是，工人——包括被歸類(lèi)為“獨(dú)立承包商”的零工——往往對(duì)自己的數(shù)據(jù)沒(méi)有權(quán)利。

一旦系統(tǒng)準(zhǔn)備就緒，索利斯和他的盟友就通過(guò)郵件列表和Facebook和WhatsApp上的工人團(tuán)體傳播了這一消息。他們稱該工具為購(gòu)物者透明度計(jì)算器，并敦促人們發(fā)送屏幕截圖。一旦一個(gè)人發(fā)送了 10 張屏幕截圖，他們就會(huì)收到一條消息，其中包含對(duì)他們特定情況的初步分析：該工具確定該人是否在新算法下獲得報(bào)酬，如果是，它會(huì)說(shuō)明如果 Shipt 沒(méi)有改變其薪酬系統(tǒng)，他們會(huì)多賺多少錢(qián)。工人還可以要求提供有關(guān)他們的收入中有多少來(lái)自小費(fèi)以及他們都會(huì)區(qū)其他購(gòu)物者的收入的信息。

Shipt Pay 算法如何縮短工人
截至 2020 年 10 月，我們收到了來(lái)自 200 多名工人的 5,600 多張屏幕截圖，我們暫停了數(shù)據(jù)收集以處理這些數(shù)字。對(duì)于在新算法下獲得報(bào)酬的購(gòu)物者，我們發(fā)現(xiàn)40%的工人的收入比在舊算法下低10%以上。更重要的是，通過(guò)查看所有地理區(qū)域的數(shù)據(jù)，我們發(fā)現(xiàn)大約三分之一的工人的收入低于所在州的最低工資。
這并不是一個(gè)明顯的工資盜竊案例，因?yàn)樵谛掠?jì)劃下，60%的工人的收入大致相同或略高。但我們認(rèn)為，重要的是要關(guān)注那些通過(guò)黑匣子過(guò)渡而突然減薪的 40% 的工人。
除了公平的薪酬，工人還希望透明度和能動(dòng)性。這個(gè)項(xiàng)目凸顯了 Shipt 工人為獲得這種透明度付出了多少努力和基礎(chǔ)設(shè)施：需要積極進(jìn)取的工人、一個(gè)研究項(xiàng)目、一個(gè)數(shù)據(jù)科學(xué)家和定制軟件來(lái)揭示有關(guān)這些工人狀況的基本信息。在一個(gè)更公平的世界里，工人擁有基本的數(shù)據(jù)權(quán)利，法規(guī)要求公司披露他們?cè)诠ぷ鲌?chǎng)所使用的人工智能系統(tǒng)的信息，這種透明度將默認(rèn)提供給工人。
我們的研究沒(méi)有確定新算法是如何得出其支付金額的。但 Shipt 技術(shù)團(tuán)隊(duì)在 2020 年 7 月的一篇博客文章中談到了該公司擁有的有關(guān)其合作商店規(guī)模的數(shù)據(jù)，以及他們計(jì)算購(gòu)物者在空間中走動(dòng)需要多長(zhǎng)時(shí)間的數(shù)據(jù)。我們最好的猜測(cè)是，Shipt的新支付算法估計(jì)了工人完成訂單所需的時(shí)間（包括在商店中尋找商品所花費(fèi)的時(shí)間和開(kāi)車(chē)時(shí)間），然后嘗試每小時(shí)支付15美元。似乎被減薪的工人花費(fèi)的時(shí)間可能比算法預(yù)測(cè)的要多。

索利斯和他的盟友利用這些結(jié)果來(lái)吸引媒體的關(guān)注，因?yàn)樗麄冊(cè)诎⒗婉R州伯明翰的希普特總部和明尼阿波利斯的塔吉特總部組織了罷工、抵制和抗議活動(dòng)。他們要求與希普特的高管會(huì)面，但他們從未得到公司的直接回應(yīng)。它對(duì)媒體的聲明含糊其辭，只說(shuō)新的支付算法根據(jù)工作所需的努力來(lái)補(bǔ)償工人，并暗示工人占了上風(fēng)，因?yàn)樗麄兛梢浴斑x擇是否接受訂單”。

抗議活動(dòng)和新聞報(bào)道對(duì)工人條件有影響嗎？我們不知道，這令人沮喪。但是我們的實(shí)驗(yàn)為其他希望使用數(shù)據(jù)進(jìn)行組織的零工工作者提供了一個(gè)榜樣，它提高了人們對(duì)算法管理缺點(diǎn)的認(rèn)識(shí)。我們需要的是平臺(tái)商業(yè)模式的大規(guī)模改變。

算法管理的未來(lái)？
自 2020 年以來(lái)，已經(jīng)向前邁出了幾步充滿希望的一步。歐盟最近就一項(xiàng)旨在改善零工工人條件的規(guī)則達(dá)成了協(xié)議。所謂的“平臺(tái)工人指令”與最初的提案相比大大淡化，但它確實(shí)禁止平臺(tái)收集有關(guān)工人的某些類(lèi)型的數(shù)據(jù)，例如生物識(shí)別數(shù)據(jù)和有關(guān)其情緒狀態(tài)的數(shù)據(jù)。它還賦予工人有關(guān)平臺(tái)算法如何做出決策的信息的權(quán)利，并有權(quán)審查和解釋自動(dòng)化決策，并由平臺(tái)支付獨(dú)立審查費(fèi)用。雖然許多工人權(quán)利倡導(dǎo)者希望該規(guī)則走得更遠(yuǎn)，但它仍然是監(jiān)管的一個(gè)很好的例子，它控制了平臺(tái)的不透明性，并賦予工人一些尊嚴(yán)和能動(dòng)性。
一些關(guān)于零工數(shù)據(jù)權(quán)利的辯論甚至已經(jīng)進(jìn)入了法庭。例如，英國(guó)的 Worker Info Exchange 在 2023 年贏得了針對(duì) Uber 的訴訟，該訴訟涉及其解雇兩名司機(jī)的自動(dòng)決定。法院裁定，必須向司機(jī)提供有關(guān)他們被解雇原因的信息，以便他們能夠有意義地挑戰(zhàn)機(jī)器人解雇。
在美國(guó)，紐約市通過(guò)了該國(guó)第一部針對(duì)零工的最低工資法，去年該法律在DoorDash、Uber和Grubhub的法律挑戰(zhàn)中幸存下來(lái)。在新法律出臺(tái)之前，該市已經(jīng)確定其 60,000 名送貨工人的平均時(shí)薪約為 7 美元;法律將費(fèi)率提高到每小時(shí)約20美元。但法律對(duì)零工工作中的權(quán)力失衡無(wú)能為力——它沒(méi)有提高工人確定工作條件、獲取信息、拒絕監(jiān)視或?qū)Q定提出異議的能力。
在世界其他地方，零工工作者正在聚集在一起，想象替代方案。一些送貨員已經(jīng)開(kāi)始了工人擁有的服務(wù)，并加入了一個(gè)名為CoopCycle的國(guó)際聯(lián)合會(huì)。當(dāng)員工擁有平臺(tái)時(shí)，他們可以決定要收集哪些數(shù)據(jù)以及如何使用這些數(shù)據(jù)。在印度尼西亞，快遞員創(chuàng)建了“大本營(yíng)”，他們可以在那里為手機(jī)充電、交換信息并等待下一個(gè)訂單;有些甚至建立了非正式的應(yīng)急響應(yīng)服務(wù)和類(lèi)似保險(xiǎn)的系統(tǒng)，以幫助發(fā)生交通事故的快遞員。
雖然希普特工人的反抗和審計(jì)的故事沒(méi)有童話般的結(jié)局，但我希望它仍然能激勵(lì)其他零工工人以及工作時(shí)間越來(lái)越受到算法控制的輪班工人。即使他們想更多地了解算法如何做出決策，這些工人也往往無(wú)法獲得數(shù)據(jù)和技術(shù)技能。但是，如果他們考慮有關(guān)工作條件的問(wèn)題，他們可能會(huì)意識(shí)到他們可以收集有用的數(shù)據(jù)來(lái)回答這些問(wèn)題。還有一些研究人員和技術(shù)人員有興趣將他們的技術(shù)技能應(yīng)用于此類(lèi)項(xiàng)目。
零工并不是唯一應(yīng)該關(guān)注算法管理的人。隨著人工智能逐漸滲透到我們經(jīng)濟(jì)的更多領(lǐng)域，白領(lǐng)發(fā)現(xiàn)自己受到自動(dòng)化工具的影響，這些工具定義了他們的工作日并判斷了他們的表現(xiàn)。
在 COVID-19 大流行期間，當(dāng)數(shù)以百萬(wàn)計(jì)的專(zhuān)業(yè)人士突然開(kāi)始在家工作時(shí)，一些雇主推出了軟件，可以捕獲員工計(jì)算機(jī)的屏幕截圖，并通過(guò)算法對(duì)他們的生產(chǎn)力進(jìn)行評(píng)分。不難想象，當(dāng)前生成式人工智能的繁榮將如何建立在這些基礎(chǔ)之上：例如，大型語(yǔ)言模型可以消化員工寫(xiě)的每封電子郵件和 Slack 消息，為管理人員提供員工生產(chǎn)力、工作習(xí)慣和情緒的摘要。這些類(lèi)型的技術(shù)不僅損害了人們的尊嚴(yán)、自主權(quán)和工作滿意度，還造成了信息不對(duì)稱，限制了人們挑戰(zhàn)或談判工作條款的能力。

我們不能讓它走到這一步。零工工人正在進(jìn)行的戰(zhàn)斗是爭(zhēng)取工作場(chǎng)所權(quán)利的更大戰(zhàn)爭(zhēng)的領(lǐng)先戰(zhàn)線，這將影響我們所有人?，F(xiàn)在是時(shí)候定義我們與算法的關(guān)系了。