深度學(xué)習(xí)模型中的公平性研究
軟件學(xué)報(bào)
頁(yè)數(shù): 19 2023-07-05
摘要: 近幾年深度神經(jīng)網(wǎng)絡(luò)正被廣泛應(yīng)用于現(xiàn)實(shí)決策系統(tǒng),決策系統(tǒng)中的不公平現(xiàn)象會(huì)加劇社會(huì)不平等,造成社會(huì)危害.因此研究者們開(kāi)始對(duì)深度學(xué)習(xí)系統(tǒng)的公平性展開(kāi)大量研究,但大部分研究都從群體公平的角度切入,且這些緩解群體偏見(jiàn)的方法無(wú)法保證群體內(nèi)部的公平.針對(duì)以上問(wèn)題,定義兩種個(gè)體公平率計(jì)算方法,分別為基于輸出標(biāo)簽的個(gè)體公平率(IFRb),即相似樣本對(duì)在模型預(yù)測(cè)中標(biāo)簽相同的概率和基于輸出分布的個(gè)體...