界面新聞?dòng)浾?| 查沁君
美國(guó)首起AI招聘歧視案，最終以中國(guó)公司賠償36.5萬美元（約264萬元）結(jié)束。
美東時(shí)間8月9日，美國(guó)平等就業(yè)機(jī)會(huì)委員會(huì) (EEOC) 與中國(guó)教培公司麥奇教育科技（iTutorGroup）達(dá)成和解，后者因應(yīng)聘者年齡大拒絕了200多名申請(qǐng)者，須賠償36.5萬美元，用于補(bǔ)償被拒的應(yīng)聘者。
2022年5月，EEOC起訴iTutorGroup旗下三家公司——iTutorGroup, Inc.、上海平安智慧教育科技有限公司、Tutor Group Limited。
據(jù)EEOC指控，iTutorGroup于2020年對(duì)其在線招聘軟件進(jìn)行編程，該算法會(huì)自動(dòng)拒絕年齡較大的應(yīng)聘者，55歲以上的女性和60歲以上的男性將被取消考慮資格。
EEOC認(rèn)為，這違反了美國(guó)《年齡歧視法》（ADEA），該法保護(hù)40歲及以上的人免受歧視。iTutorGroup否認(rèn)其有任何不當(dāng)行為。在雙方無法達(dá)成訴前和解時(shí)，EEOC在美國(guó)紐約東區(qū)地方法院提起了法律訴訟。
“年齡歧視是不公正和非法的，即使技術(shù)使歧視自動(dòng)化，雇主仍然負(fù)有責(zé)任?！盓ECO主席夏洛特·A·伯羅斯（Charlotte A. Burrows）表示，“這個(gè)案例正是EEOC最近發(fā)起人工智能和算法公平倡議的一個(gè)例子，因雇主使用技術(shù)而受到歧視的工人，可以依靠平等就業(yè)機(jī)會(huì)尋求補(bǔ)救措施。”
根據(jù)同意令，iTutorGroup不得基于年齡或性別拒絕應(yīng)聘者，還必須采取反歧視政策并進(jìn)行反歧視培訓(xùn)。此外，該公司必須邀請(qǐng)所有在2020年3月和4月因年齡原因被拒絕的申請(qǐng)人重新申請(qǐng)。
iTutorGroup被指“報(bào)酬低”
iTutorGroup曾是國(guó)內(nèi)風(fēng)光無兩的在線教育獨(dú)角獸。
其成立于1998年，旗下品牌包括成人在線英語教育品牌TutorABC、青少兒在線教育品牌VipJr、在線漢語教育品牌TutorMing等，提供成人英語、漢語和青少兒英語、數(shù)學(xué)、語文、編程等真人在線互動(dòng)課程。高峰時(shí)期，曾在全球范圍有超三萬名外籍顧問。
在2012-2015年間的四輪融資中，iTutorGroup累計(jì)融資金額超3億美元，啟明創(chuàng)投、阿里巴巴、淡馬錫、高盛、銀翎資本等國(guó)內(nèi)外頂尖級(jí)機(jī)構(gòu)均在投資之列。
2019年7月，中國(guó)平安宣布集團(tuán)子公司平安海外（控股）有限公司與集團(tuán)境外聯(lián)營(yíng)公司，將以資金和資源注入的形式，戰(zhàn)略入股iTutorGroup。本次入股完成后，iTutorGroup將被納入到平安整體生態(tài)圈戰(zhàn)略體系中，成為智慧教育板塊的核心組成部分。
同年，iTutorGroup CEO楊正大對(duì)外宣稱，公司已完成Pre-IPO輪融資，上市計(jì)劃在推進(jìn)中，預(yù)計(jì)在2019年下旬或2020上旬完成?！半p減”后，該公司對(duì)外發(fā)聲減少，上市計(jì)劃也不了了之。
界面教育發(fā)現(xiàn)，外教數(shù)量龐大的iTutorGroup還曾被指“隨機(jī)解雇教師”、“報(bào)酬低”。
2021年1月，在YouTube擁有超1.5萬訂閱者的英語教師Martin發(fā)布一則視頻，觀看量近萬，其自稱曾任職于iTutorGroup，并指責(zé)該公司“在2020年6月解雇了許多教師，無論其服務(wù)年限如何，當(dāng)時(shí)正值世界其他地區(qū)疫情最嚴(yán)重的時(shí)候。”
Martin還表示，其于2021年1月收到iTutorGroup發(fā)來的關(guān)于聘用合同更新的電子郵件，“提供的報(bào)酬令人憤怒”——以前每節(jié)課45分鐘的課程收入15英鎊，如今縮減至8英鎊。25分鐘的課程收入由8英鎊減少至6英鎊。
該視頻下方收獲了不少支持者的評(píng)論。有人分享到自身的經(jīng)歷稱：“盡管教師的工資已減半，但學(xué)生仍然支付高昂的費(fèi)用。我剛剛獲得 CELTA資格，看不到這個(gè)行業(yè)的未來?！薄ⅰ叭绻麄兘o我提供新合同，相同的工作量下，我每個(gè)月會(huì)損失大約400加元。”
AI招聘的監(jiān)管邊界何在？
隨著AI技術(shù)在各行各業(yè)的滲透，其在招聘中扮演的角色也愈發(fā)深入。
美國(guó)人力資源管理協(xié)會(huì)（SHRM）在2022年2月的一份報(bào)告中指出，受調(diào)查的1688家美國(guó)公司和組織中，近1/4計(jì)劃在未來五年內(nèi)，使用自動(dòng)化技術(shù)或AI來支持招聘工作，包括自動(dòng)搜索求職者、篩選審閱求職者簡(jiǎn)歷、針對(duì)特定群體發(fā)布招聘信息、預(yù)先選擇求職者進(jìn)行面試、管理自動(dòng)面試并分析求職者回復(fù)等。
64%的HR表示他們的自動(dòng)化或AI工具能自動(dòng)過濾不符合條件的應(yīng)聘者；85%的受訪者認(rèn)為這節(jié)省了時(shí)間、提高了效率；44%認(rèn)為這有助于幫他們提升識(shí)別拔尖應(yīng)聘者的能力；還有30%的人認(rèn)為采用AI能減少招聘決策中的潛在偏見。
今年一月，EEOC就2023-2027年戰(zhàn)略執(zhí)行計(jì)劃草案征求公眾意見，該機(jī)構(gòu)首次考慮了雇主對(duì)人工智能和機(jī)器學(xué)習(xí)工具的使用，并為律師提供了行動(dòng)路線圖。EEOC認(rèn)為，雇主可以使用AI工具來篩選簡(jiǎn)歷中所需的品質(zhì)和經(jīng)驗(yàn)，但這可能會(huì)導(dǎo)致有意或無意的歧視。
該機(jī)構(gòu)主席夏洛特·A·伯羅斯上周重申，該委員會(huì)將人工智能作為“新的民權(quán)前沿”，并表示新工具不應(yīng)“侵蝕基本價(jià)值觀和原則”。
隨著ChatGPT、Stable Diffusion、Midjourney等生成式人工智能產(chǎn)品在國(guó)內(nèi)外爆紅。以ChatGPT為代表的大語言模型在理解人類語言、人機(jī)交互、各類文本寫作、代碼編寫、邏輯推理等方面展現(xiàn)出了令人驚嘆的能力。
但同時(shí)，生成式人工智能的應(yīng)用也帶來了侵犯隱私、泄露商業(yè)秘密、傳播虛假信息、造成信息繭房、可能被濫用于網(wǎng)絡(luò)犯罪等潛在風(fēng)險(xiǎn)問題，引起了各國(guó)監(jiān)管部門的廣泛關(guān)注。
2023年4月11日，中國(guó)公布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》要求算法備案；意大利據(jù)保護(hù)局（Garante）即以涉嫌侵犯隱私為由在本國(guó)禁用ChatGPT，并對(duì)ChatGPT應(yīng)用程序涉嫌違反隱私規(guī)則展開調(diào)查。歐盟的《人工智能法案》則將AI分成三個(gè)危險(xiǎn)級(jí)別，危險(xiǎn)越高受到的監(jiān)管越多。
針對(duì)AI在具體領(lǐng)域的運(yùn)用以及法律的具體實(shí)施上，仍有待進(jìn)一步完善和細(xì)化。