ߣNINAREH MEHRABI, FRED MORSTATTER, NRIPSUTA SAXENA,KRISTINA LERMAN, and ARAM GALSTYAN, USC-ISI
룺⾭ó״ѧڿƼʵ
߰
AIϵͳӦóճеĹ㷺ʹã㷨Ӻ㷨ƽΪͬѧƹעĽ⡣ϼݴѧNinareh Mehrabi2019귢ˡѧϰеƫƽԵ顷A SurZZZey on Bias and Fairness in Machine Learningһģ˿ӰAIƫIJͬԴƫIJͬ͡ijȷˡ㷨ƽĻܹڴ˼ܹ£˸ĽѧϰȻԴѧϰԼAIϵͳеƫ⡣ƪ´ӡݡ͡㷨չӺƫγɻŽϵĹƽע㷨֮У·ҹ㷨н塣Ϊˣر뿯϶ߣԭĹŷڷ
⾭ó״ѧ־뷨ɴоִ
1.
㷨Ѿճķ档㷨ӰƼṩƷĽ飬ԽԽڴ[93]Լ[1835]ĸ߷վС㷨Եĺô˲ͬƣͻ[4098]ҿԱĿءǣһ㷨ܵƫӰ죬Щƫʹǵľߡƽ [5100]ھ߹Уƽָݸ˻ȺĹлԣԸ˻Ⱥ岻κƫƫˣһֲƽ㷨ƫضȺ㷨һ͵ԺоĹߡԳͽ߷COMPASԺһٴηһеķաʹCOMPASͷﷸǽڼԸһ鷢֣Է˵ƫCOMPASﷸķյ÷ֱȸͬİ˸ߵķյ÷֡ҲƷ֣ѡѡھAIϵͳԷɫϺڵIJߵƫе沿ʶԤգۡЩƫԤԴݻ㷨ػԵƫ
ڱεУȷ˻ѧϰƽDZԭƫ㷨ƫǻعйƫѧϰ㷨ѧ֪ʶоԼ㷨Ĺʽϵϸ𣨼ʹƫģЩϸʹƽľߡ
ǴһЩʵзdzԵİʼعˣЩУƽĻѧϰ㷨˴źԵĽȻгֵĶ͵ƫ˹ƽеõúоIJͬʽ˽һķʽǽרעڲͬĻѧϰϵУƽÿַβ֣ͬԼЩ¼ǸδĿ
2. 㷨ƽʵ
ڹȥļʮУAIͻѧϰռԼڲͬӦеУȫԺƽԼѳΪоԱʦٵľ⡣Ժʹûѧϰ·Ŀԡڲͬҽѧͯϵͳ[32]ԶʻЩӦöǵֱӰ죬ҿǵƽԣƺƲܻǵᡣ[101]гЩӦóԼЩAIϵͳͨеƫӰǵճķʽAIˡҵƥ䡢·Լ㷨ԶԮйչʾλ㷨дڵƫ[58]ʵеƫAIͻϵͳеһЩʾ沿ʶӦóʶеƫˣоԱʦ˵ڶ㷨ϵͳнģʱעӦüDZڵкӰ죬һҪһCOMPASһֹ㷺ʹõҵһож˵жϽ˱Ƚϣо˸[41]ȤǣCOMPASʹ137ܣֻ7огָǡ[41]УʱCOMPASȼعģáӦøε˼ʶЩڷͥʹãʵӰľˣƺͲЩ͵йʱǹƽԼһҪһƵоУڵȺ岻ƽĸԴԺȷͬȺ֮IJƽĶ壩ʱ[119]е߽SAxRYһڷܣڹнΪԤĹߣԶѧϰ˱ȽϣĿǿĸȷƽЩ͵оӦøƵؽУӦڷ֮ǰԱ˺
оԱоһȤķϵͳйƽ̶ȵĹߡ磬Aequitas [110]һòͬ˿Ⱥƫƽָ꣬ûģ͵ĹߡAequitasӻõɱ棬ݿѧҡѧϰоԱ;ʶľߣԱijЩȺ˺ƻAI Fairness 360AIF360IBMһֹּ߰ڰƽо㷨ӦõҵУΪƽ㷨ԽΪƽоԱṩһǵ뷨Ŀռ[10]Щ߰ѧϰߡоԱҵеǴΪתƽĻѧϰӦóаCOMPASΪһ㷨Ҳԣ㷨ͶŹٽѧ̺ѧSTEMĹ[74]ùּԲӰԱķʽͶŹ档ǣԱƽ⣬ŮԣŮԱΪмֵȺչʾijɱߡĴͼDzԱ𣬵Ż㷨ԻԷʽͶŹ档沿ʶϵͳ[106]Ƽϵͳ[114]еƫҲõ˹㷺оЩϵͳʾijЩȺȺӡΪܹЩӦóеƫ⣬˵ҪҪ֪ЩƫԺδԼǿԲȡЩʩֹǡ
3.ƫ
ͼ1.ƫʾͼ߱ʾȺĻع飨MLRɫ߱ʾÿĻع飬ɫʵ߱ʾƫع顣aĴСʱMLRʾԱ֮ءbعʾƽϲмûйϵǣÿб֮Ĺϵֲ䡣ͼƬԴNazanin Alipourfard
ݣǴݣͨ칹ģɾиΪɡԣ潫еһЩԣܻƫݡƫѧģͿܻᵼ²ƽҲȷԤ⡣Ϊ˵ƫӰѧϰ뿼һӪоо˽ָ֣BMIÿʳ·ı仯仯ͼ1عɫʵߣʾЩ֮ءƱͨķBMIйءǣоԱ֪оȺģɽˮƽɣ˶ˣˮƽ˺˶Աʺ϶ˮƽݽзʱÿڵΪɫߣóۣʵϣBMIĽйءĹʳõĽ飬Կ֮ĸϸĽ෴
3.1 ƫ
еƫԶʽڣijЩʽܵ²ͬѧϰƽ[118]У˻ѧϰеƫԴƱĽܵÿƫδ[99]У˸͵ƫбԼǵӦ壬ЩڴԴռʹIJͬСǽƪнܵһЩձ飬ҪƫԴһоеһЩۡ⣬ǻڱĺЩIJͬͷ顣
1ʷƫʷƫѾڵƫἼ⣬ʹIJѡʷƫҲɹ[118]2018ͼƬпҵ͵ƫʾŮCEOʱᷢŮCEOͼƬ٣ԭǡƸ 500ǿҵֻ5CEOŮԣ⽫ƫCEO[118]ЩȻӳʵ㷨ǷӦ÷ӳһʵһֵÿǵ⡣
2ƫƫǶͳȺķʽ[118]͵ƫһӾImage Netݼȱԣͼ3ͼ4ʾ˶ҵƫ
3ƫƫѡúͲضķʽ[118]۷ԤCOMPASй۲쵽ƫӣб۲ǰı¼/˵ı¼Ժաij̶ȣԵ鿴ΪĴʵܵƵĿƺͼܣǵĴʸߡǣӦóۣΪȺ˵ıʽϸߣǸΣգΪͿЩȺķʽϴڲ[118]
4ƫģڼᷢƫ[118]ʹòʺͲɱĻӦóAdienceIJB-AЩƫɫԱ沿ʶϵͳ[23]Ϊƫʾ[118]
5ۺƫڹ۲ͬóһĽʱͨǹ˿ڵĴӰģ͵ĽͶʱͻᷢۺƫ[118]ٴпԿ͵ƫӡ뿼ԱԲߣ˵㷺ϺͼHbA1cˮƽڲͬԱ֮ڸӵIJ졣ˣЩԼڲͬȺȺеIJͬҪԣ˵һģͺܿܲʺȺģͣʹѵоȵرʾҲˡڲͬȺκһ趼ܵ¾ۼƫ
6˿ƫͳݣ˿ͳѧûݼƽ̨бʾûȺԭʼĿȺͬʱͻȺƫ[99]ƫһӿԲͬ罻ƽ̨ϵIJͬû˿ͳݣŮԸʹPinterestFBInstagramԸԾRedditTwitter̳[56]ҵԱ壬ĸʹ罻ýйصĴʾͳϢ
7ɭۡɭ[17]ܻʹɾвͬΪɵ칹ݵķƫɭۣDZڵй۲쵽ƣԻǰʱ۲쵽ĹԻкܴͬڼݴѧУĴѧ¼ȡУԱƫ˴۵֮һ[15]ڷоѧ֮ƺŮԴƫȣ¼ȡΪоγ̵ŮԱСǣŵݷ벢зʱŮ˾ƽԣijЩԾеơŮŮ¼ȡʽϵ͵ѧ룬˳ìܵɭ۲쵽ѧ[34]ѧ[68]ѧ[89]ͼѧ[77]
8۲оͨΪݣܻɭ۶ƫ磬ԴRedditݵķ[9]ʾ۳ƽʱ١ǣݴ˿ڵĺգʵϰ˲ͬݼRedditIJͬȺжݽзʱÿеעͳȶʱӡ
9ƫƫڶķġڳƫһȺĹƿܲƹ㵽Ⱥռݡֱٴοͼ1еʾ´νоʱһIJҪ顣ƣɫߣӰ죬ڵһоУعģͷֵƼȫʧҲͼкɫʵߣ
10ΪƫΪƫԴڿƽ̨ͬݼIJͬûΪ[99][88]й۲쵽ƫӣչʾ˱ƽ̨֮IJεǵIJͬӦΪ¹ͨ
11ƫݲƫԴûɵݵĽṹʻ㣬;䷨[99]ƫӿɼ[97]˲ͬԱʹò졣ڹҺȺ֮ԼڲڲҲԿʹϵIJ졣
12ƫûӣõԲͬûʵΪʱͻƫ[99][85]չʾ˽罻ƫͶȽڵʱеӣûݺΪ[126]ʾûڹܣ罻ʱ䣩罻ģʽкܴͬеIJƫصµģ[5191]ʾЩؿܻıͬ͵⡣
14ƫܻӭƷᱩ¶ࡣǣܻӭ̶ָܻܵݡ磬ͨۻ罻[96]磬ƫ[6196]ƼϵͳпЩϵͳУܻӭĶسָڡǣ˳ֿܲǸĽ෴ƫɵġ
15㷨ƫ㷨ƫָвƫҽ㷨ӵƫ[8]
16ûƫûƫһֲWebϹ۲쵽һַͨʽƫû棬Լͨʩû/ԼѡƫΪͽãͨû[8]͵ƫܻܵͺ͵Ӱ죬ʾƫ
17ʾƫʾƫϢַʽĽ[8]磬Webϣûֻܵǿݣ˿ݻõݶõûҳϿϢ[8]
18ƫߵĽغҪ뷨ĵƫӰ[8]ڰӦ[78]
19ƫ˵ΪӰǵжʱͻƫ [8]磬ҪԵͷֵƷֻʱƫӿǣǵܵ߷ֵӰʱǸıַʽΪԼ̫[8125]
20ƫƫʹúʵû¡ƫ˿ڡĻֵ֪ʶı仯ģͨɺһʱ[46]ڽͨƷӳԤûϰߣûи۲쵽͵ƫ[46][46]ϸ۵ģ͵ƫԷΪ͡
21ѡƫѡƫ4ѡƫͣонѡڱΪԼʵμо£Թ۲쵽ƫӡ磬һڴɹѧĵоУһЩ̫ɹѧΪ㹻ɹ˲μ˵飬⽫ʹƫʵϣĿԺܸߣΪɹѧܲỨʱдʾѡƫķա
22ʡԿɱƫģ©һҪʱͻᷢʡԱƫ4һʾijģԽϸߵȷԤͻֹͣķٷֱȣܿͷ֣ûûյģ͵κξȡ˶ġȡĵԭгϳһµǿ֣þṩͬĽ۸ߵijģͻûõġˣΪʡԵı
23ƫʾϵܵƫ4ڹ˾ݷʦҪµҳ϶ȼƻijɹ̶ȵ£Թ۲쵽ƫӡλʦΪǩҳ϶ȼƻĿͻڹ˾̵еҪδҳ϶ȼƻĹ˿ͶࡣԱóҳ϶ȼƻɹĽۣģΪֻиҳϻҳϿͻǿܼƻѸǮŽҳ϶ȸȤλƫʼеľݵĽɫ˿ܻصĺ
23۲ƫоԱʶؽǵͶ䵽оʱͻᷢ۲ƫ4оԱУӰߣڷ̸͵УѡоIJͳʱᷢ͵ƫ
24ʽƫƫеĽֻ֧о֧ʱͻʽƫ4磬˾ԱݺͳеĽƫʹʻʱͻֳ
йͼЩƫΪһ飬ݻûõĶ塣ǣڴڷѭ£ѵصĻѧϰģͻľߣЩӰ콫Ϊѵģռ[33]Щǽ֯һģҪһֿԶоȷģķࡣַѭݺ㷨֮䣬һЩ㷨û֮ѭĴ[28]Щлǻƫķཨģͼ2ʾЩΪЧѭͷϡٴǿʵЩ֯ģӦÿһӰ죬Ӧؽǡ
3.2 ƫʾ
ƫַͨʽݡ磬ʹòƽݿܻᵼ¶ԴԲȺƫ[23]У߱IJB-AAdienceݼDzƽģҪɫdzĶIJB-AΪ79.6AdienceΪ86.2ʹдԲɫƤȺƫһ£DzеIJͬʱʹúͷݵķʽƫ[23]У-ŮȺDzģǻҪ彫ԱȺһϸΪdzɫŮԣdzɫԣɫƤԺɫƤŮԡ
ͼ2.ݡ㷨û·еƫλʵļͷϡ
ֻ£Dzع۲쵽ɫƤŮԵƫΪǰɫƤԻɫƤŮԣһڸǶԸDZƫ [142]ҲһЩܴݺ㷨еƫӣΪЩṩһЩ顣ЩƫӦóпܸΣա磬ҽѧ£оʹõƫijЩȺܻԴԲΣյĺ [83]ʾ˽ųεٴоеĴ࣬ᳫжԲͬȺĻвԷֹԴԲȺ˺[117]о23andMeݼڹ洢й͵2399У209887ŷˣֻ582˺502ޡ[47]ноָӢһӴҹ㷺ʹõŴݼܲȺоԱ֡־Ըߡѡƫ֤ݡ [124]оҽѧдڵƫӡ
[130]оҽѧʹõĻѧϰģͺݣдйе˹δƽȵӰлߵ¡ⲻҽѧΪѿ㷨лѧϰݼҲܴƫܶԻЩݼӦóк磬ImageNetOpen Imagesǻѧϰ㷺ʹõݼ[116]УоԱоЩݼڴƫڴݼʱԺͰԡ
ͼ3. Open ImagesImageNetͼݼÿҵķĸISOʾݼУӢλλ
ͼ4. Open ImagesͼݼйҵĵֲʾǵУ֮һ60ԱŷߵĹҡ
4.㷨ƽ
ƫѧѧԼڻѧϰƾõʷǣΪܹʵֹƽȶ塰ƽĸڼѧʼ̽ƽ֮ǰѧѧͼ幫ƽĸڹƽձ鶨岻ڵʵѡͬƫòͬĻеĹ۵ƫԲͬķʽƽʹij£һҶܽܵĶøѡʵϣʹڼѧУΪ㷨µĹƽԼĹʹͬݼչʾԼηãЩԼʺЩ⣬ȻûȷĹʶ
4.1
ӹϽƽָھ߹в˻ȺڻԸ˻Ⱥκƫƫ̻ܹƽŵƷʣʵȴʵ֡
Ϊӵ˶Ĺƽ壬ܷĸҲҪ
(1) ֱӡ˵ܱȷ¶DzĽʱͻֱ[136]ͨһЩȷǷǷӵģڼѧͨЩΪСԡ4ṩһЩܱԵб硶ƽסƽŴᷨFHAECOA[29]涨
(2) ӡڼУƺǸݿҲܱԴˣǣܱӰ죬ܱȺȻܵĶԴ 磬ij˵סլ֮ľ߹СǣƺǷԣھס˿ڶ࣬أԿܵӣ[136]
(3) ϵͳӡϵͳָߡϰΪ֯Ļṹһ֣ʹضȺӳڴ[36]磬һͻҪԱIJϵͳӡ [108]Ƿ֣ѡԼĻƲҾƾͰõʤεӦƸߡǡþijЩС飬ܻᵼӲЩСʤκѡˡ
(4) ͳӡͳһʹƽȺͳжڸȺĸˡͨھߣ磬ִԱʹij˵Եġʶʵصȷʱ [ 102]
(5) ɽ͵ӡijЩ£ͨijЩ֤ͽͲ֮ͬĴͽ졣֤ͽЩ£ΪǷӣ˱Ϊǿɽ͵[64]磬[64]ָڹƽй㷺ʹõUCIݼ[6]УƽŮԡǣΪŮƽÿܹʱԡÿܹʱһԣڽҪǵĵ롣ڲǹʱʹԺŮջͬƽ룬ᵼ·ӣΪ⽫ԹԱõĹʵŮԡˣԽ͵ǿԽܵIJǺϷģΪͨԣ繤ʱ䣩͡[64]УһпɽͺͷǷӵķΪδӵĿɽͲֿڵķܻᵼ²ˣ˷ӣкֲǽͺݻľеӣֱӿǷǷͿɽ͵ӡ
(6) ͵ӡɽ͵෴͵ӣжȺDzģ˱ΪǷǷġ[64]л˽Ƿ͵ӵıؼھɽ͵IJ졣ЩԤɸѵݣʹ䲻͵ϣԾԤݽзԱᲶǷ͵ӡ
4.2 ƽĶ
[16]УоѧеĹƽ壬ͼѧϰϵ [60]еڽͻѧϰо50Ĺƽʷ[123]Уг㷨йƽԵһЩ塣[113]Уо˹ڶԼѧеijЩƽ⡣ǽ겢ṩһЩʹ㷺Ķ壬Լ[123]еõĽ͡
1.ȣ [55]ṩľʶָY?AYԤY?ܱAͽYľʡY. P(Y=1|A=0,Y =y) = P( ? Y=1|A=1,Y =y) , y ? {0,1}".ζţܱȺͲܱģԺŮԣȺ壬е˱ȷΪԽĸеĸ˱ΪԽĸӦͬԱ[123]仰˵ʶָܱͲܱԺͼԵıӦȡ
2ȣPY?=1|A=0Y=1=PY?=1|A=1Y=1[55]ζţܱĺͲܱģŮԺԣСԱУ˱ΪĿӦ[123]仰˵ȶָܱͲܱȺӦȵʵʡ
3.˿ƽȣҲΪͳƽۡPY?|A=0=PY?|A=1ԤY?˿ͳƾȡ [4373]۸ǷܱģŮԣȺУԽĿ[123]Ӧͬ
4.ͨʶƽ 㷨ƵĸƵԤ⣬ǹƽġ [4373]仰˵Ϊضԣ룩ԣκƵ˶ӦյƵĽ
5.ڲ˽ƽֻҪ߹δȷʹκܱA㷨ǹƽġ [5373]
6ԴƽȣܱȺļԺͼԱͬʱͿʵֶԴƽȡ [14]
7.Թƽԣ S=SVӳͬ۷ԣ˵ԱRأ֤ǹƽģУҲ˵sֵPY=1| SsRbPY1|SsRw[31]仰˵ԹƽԶָκԤĸʵ÷SܱͲܱŮԺԣе˶ȵȷĸ[123]
8ʵƽκX=VA=ayԼAɻõκֵa[73]ʵƽĶǻڡֱΪһʵͷʵ(ڲͬ˿ͳȺ)жͬģôԸ˵ǹƽġ
9ϵеĹƽԣһֹƽĸͨǸ˵ԣҿͨǸ֮ᡢ֯ϵеĹϵṹ [44]
10ͳƾȣһϷLPY?|L=1A=0=PY?|L=1A=1ԤY?ͳżԡ[37]ͳƾָڸһϵкϷص£ܱͲܱŮԺԣȺе˾ӦԽĸʾ[L] [123]
ƽΪ²ͬͣ
(1) ˹ƽƵĸƵԤ[4373]
(2) 幫ƽƽȶԴͬ[4373]
(3) 鹫ƽ鹫ƽּڻøԺ͵ƽͬʹΪ˻øõĽѡһ幫ƽԼʹȡѯʸԼǷڴȵ[6667]
1.ͬĹƽΪͺ
ҪҪע⣬[70]ڸ߶£ijЩƽԼ[70]УչʾĹвԣУƽࡣijЩԼ£ͬʱЩҪˣҪҪҪʹùƽԶıӦãӦʹ[115]ҪǵһҪǶЩܶԸ˻ȺӰʱʱ[80]У߱ǰĹƽԶ岢ãҲܴٽȺĽijЩ½гڷʵϿкġǻҲЩƽԶ塣ˣʾʱģͲƽԱҪ÷һϵµȡսڳԽ빫ƽصʱƫԴҲҪ
5.ƽĻѧϰ취
ΪʵֹƽѾೢ˹еƫЩԴAIڱУǽоAIIJͬԼÿΪ䷽еƫͲƽչĹ2ڱйעIJͬ
[72][121][55]
[131][127][59]
[24] [128]
[132][95] [94]
[134][69][105]
[133]
[138]
ѧϰ
ɱԶ [82] [4] [92] [38]ѧϰ
Կѧϰ [76] [129]2.ԺۻѧϰIJͬеƫƽ嵥
ܴ˲Ҫضھģȡӽǿܻáͨ㷨ƫķɷΪࣺ
(1) ԤԤͼתݣԱDZڵ[39]㷨ѵݣʹԤ[10]
(2) ддļͼĺµѧϰ㷨ģѵе[39]Ļѧϰģ͵ѧϰ̣ģѵڼʹýдǽĺϲĿ꺯лʩԼ[1013]
3ڴѵͨģѵδ漰ıּкڴ[39]㷨ֻܽѧϰģΪںУûκѵݻѧϰ㷨ֻʹúڴڸúڴУںģıǩڸýеĹ·䡣
3ʾһЩйʾࡣЩͨûѧϰAIռչȻԴѧϰIJͬѧϰƽʾ[388292]ѧϰƽǶ[1950141]ѾڲͬAIӦóȥƫͼлܱľIJӰ죬ͨûųƫ⣬Щ䷽һƽԸֲʽѧϰ̣DLPsͼͨѵܱԵԤʱͬʱѵӰĸ[79]4гܱеԡָЩԲӦӰסÿ[29]ĽеһЩͼΪԺԾߵӰ졣ijЩʹͼͼеijЩ·Щ·ᵼӰ߽Բͬ˲ͬĻƫķͼÿַͼԻѧϰͬеIJͬ⡣ߵҰ˽ƫӰϵͳλúͷʽоԱϸо⣬Щ漰ӺƫӰϵͳDZλá
5.1 ƫ
Ϊ˼ƫӰ죬һЩͨõķЩʹʱҪõ磬ʹݱΪݱݼԼƫ֧ĵ[1248][11]ΪNLPӦһƵķ[90]жģƵĽ顣[57]еʹʳƷӪǩıǩԱÿÿݽиõķࡣЩͨü֮⣬һЩԸ͵ƫ磬[68]˲ɭķ[23]ԶɭķģͺͼijЩУԼеֱӼԤüݣӶʹԤⲻֱ[135][54]ڷֹھеӣֱӡӺͬʱӰ졣
5.2 ƽѧϰ
Ϊ˽⣬Ѿ˸ַЩԸӦijЩƽԶ¶塣
㷨
Ԥ д ڴ3.Ԥдڴ㷨ķ顣
FHA ECOA
4. [29]еġƽסƽŴᷨFHAECOAָܱԵб
5.2.1 ƽࡣڷǻѧϰеһѹ㷺ӦڿֱӽӴIJͬҪǣЩ͵ķ빫ƽûпijЩȺƫˣѾ㹫ƽijЩijЩ[49657286]磬[121]Уͼе鹫ƽԣ[55]Ⱥ;ȼʣ[131]㲻ͬĶԴͲͬӰ죬[127]ȵļʡͼһЩƽԼһҪԲԼı仯ȶ[59]ͼеرҶ˹ֲͬģʵӵķ[24][128]еһѧϰƽͨÿܡÿܿƶйƽ֤Ĺƽʶࡣ
5.2.2 ƽع顣 [13]һֹƽĻع鷽һΪƽ۸POFĴʩȷ-ƽԵȨ⡣ֹƽԳͷʩ
ֹƽԳͷʩ
˹ƽ[13]ĸ˹ƽ壬ÿVy S1V䣬yS2ģwijͷDzͬVV䣨yyĺȨS1S2˿ڲͬȺ塱ʽϱΪ
鹫ƽƽԣʵӦƵıǩʵǩĽӽ̶ȼȨ [13]
ϹƽԣϹƽҪԺԱǵĽеƽơ [13]
ǰĹ[1]˹ڹƽͳƣ˿ͳƣƽۺȺʧĹƽع⡣
5.2.3 ṹԤ⡣[139]УоɫģͺݼimSituʶimSituУͼֻ33Ĵɫˣ67ͼŮǴѵǻעݼеƫ⣬ģͻŴƫԱڶݼѵģ5֮ˡƫᱻŴͼ16Щ۲£[139]߱ṹԤģ;ƫķաˣһֳΪRBAƫŴУ㷨RBAһͨڽṹԤУԤģƫļRBA뷨ȷģԤѵѭͬķֲоǩӾɫǩࡣչʾЩξ˵еƫ
5.2.4 ƽPCA[111]У߱PCAԿһͬСIJͬȺؽˣһֹƽķΪͬȺƷḻȵıʾʽʹ֣ضлܱԵʾʹԱͬ½гԣLFWݼдбǵϵPCAؽҲŮԵ͡Ǵ뽵άԱݼвͬȺȺƱȡˣFair PCA˹ƽĽά㷨ǶFair PCAĶ壨ΪŻ£
5˵CRFABʾ飬UAUBʾжӦRnаmݵģABԱU
㷨Ϊ裺
(1) Fair PCAĿſ붨SDP⡣
(2) һԳͽĵȼ
5.2.5 /ͼǶ/ࡣ罻еIJƽҲƫӿӰ˿ڵһط磬Уӵнѻעߵû罻ýбȱ[85]⣬еķⷽͨеЩûؽصСƫ[85]Уչʾ͵ƫδڵģͨеⷽһµĹⷽΪCLANԼ罻дȺ˺CLANһΪḶ́ù̿ṹԼڵԽųƫʾ
(1) ʹģ黯ֵʹṹڵ1ල£
(2) ѵԽҪû࣬ʹñĽڵԽǹҪ֮һʹڵԼල2
еĹƽͼǶ[21];[730]
5.2.6 ƽоԱʹģͺͼѧϰ빫ƽص⡣[81]Уƹƽ㷨ʱϸϵҪԡڷֺӵоܶ࣬ʹģͺͼȺ˵صľߡ磬[136]УһϵĿܣÿܿԼеֱӺͼԼȥ[137]ǰչ[132]ܺõظⷽĴֹϵͳȺ˲ӣʹֱӻӵķÿһ⡣ӡͨչǰĹи[95]һʹͼйƽ;ڸκԼ£⽫ͼеijЩб·Դӹ۲쵽ķֲʶض·Чʱһ[94]У߽㷨ƽʽǰĹչѧϰѲԵãòܻڹƽԼǻһЩƽԿǣͨһЩвԣQѧϰֵGƣ˼ѧϰŲԵIJԡ[134]У߽ԷΪĿ꣬ûͨѰһʵƵʵ۲ܱԵı仯Ƿı߽ӡӡ[69]У߶ӸδӺʹӣ£
δӣͼеıxڴAx·ûбxδģδб[69]
ӣڴAxĶ·ֹxǴͼеıxֳDZڵĴӡ[69]Ԥͱӵķǻûй۲ȷԤǷֳδӣˣҪϲܡ
[105]УգʹͨķղRD = p1? p2RDc= p1-p2cԱ㷢ϵǽp2c Ϊ
RDcӽʾԱϵӣδڷпǵЭ¾ֵƫʡԱƫRDcΪڷӵӴʩ[133]ʹ緢ӵһִ
Źںţ־ᡣ߸˹۵㣬ѶͶ߾ݴ˲Ե
α༭Խ
