Algoritmiline õiglus

Algoritmiline õiglus

Algoritmiline õiglus tähendab, et arvutiprogrammid ja automatiseeritud otsused kohtlevad inimesi ja olukordi õiglaselt ja erapooletult. See puudutab näiteks hindade, laenude, tööpakkumiste või turunduse otsuseid, mille aluseks on matemaatilised mudelid. Probleem tekib siis, kui treeningandmed või mudeli kujundus sisaldavad kallutatust, mis võib ühele rühmale ebasoodsam olla. Erapooletu algoritm ei diskrimineeri soo, vanuse, rahvuse või muude tunnuste järgi ilma põhjendatud põhjuseta. Oluline on ka läbipaistvus: inimestel peaks olema arusaam, kuidas otsuseni jõuti ja millised andmed selle põhjas on. Selle saavutamiseks tehakse teste, auditeid ja parendatakse andmekogumist, et vähendada kallutatust. Õiglus on vajalik nii eetilistel kui ka juriidilistel põhjustel, sest ebaõiglased otsused võivad kahjustada inimeste elu ja ettevõtete mainet. Lisaks võib õiglasem mudel parandada ka ärilisi tulemusi, sest see hoiab ära eksitused ja vaidlused. Algoritmilise õigluse saavutamine ei tähenda alati kõigile täpselt samu tulemusi, vaid pigem seda, et protsessid oleksid õiguspärased ja läbimõeldud. Seetõttu väärtustavad organisatsioonid kontrolli, mitmekesiseid andmeid ja inimeste sekkumist otsustusprotsessides.