Vabapostitus: Kui otsuseid teeb automaatne süsteem või AI
Tehisintellekti puhul räägitakse tihti sellest, kui kiire ja kasulik see on, aga vähem sellest, mis juhtub siis, kui AI teeb inimese kohta ebaõiglase otsuse. Kui näiteks tööle kandideerimisel, laenu taotlemisel või toetuse määramisel kasutatakse automaatset süsteemi, võib selle otsus päriselt inimese elu mõjutada.
Probleem on selles, et AI ei ole automaatselt neutraalne. Kui süsteemi õpetamiseks kasutatud andmed on kallutatud, võib ka tulemus olla kallutatud. Christian Veske artiklis oli heaks näiteks Amazoni värbamistööriista juhtum, kus süsteem hakkas eelistama meeskandidaate, sest varasemates andmetes olid tehnoloogiavaldkonnas rohkem esindatud mehed. Teise näitena oli ta välja toonud, kuidas Hollandis automaatne süsteem hakkas ekslikult pidama tuhandeid peresid petturiteks. Paljud neist peredest olid migranditaustaga või topeltkodakondsusega. Selle tulemusena jäid inimesed toetustest ilma ja sattusid rahalistesse raskustesse. Juhtum oli nii tõsine, et lõpuks astus tagasi kogu Hollandi valitsus.
TalTechi artiklis toob Kristi Joamets välja ka “proxi-diskrimineerimise”. See tähendab, et süsteem ei pruugi otseselt kasutada keelatud tunnuseid, nagu sugu, vanus või rahvus, aga kasutab muid andmeid, mis võivad nende tunnustega seotud olla. Näiteks võib postiindeks viidata inimese elupiirkonnale ja sissetulekule või tööstaaž mõjutada naisi, kes on lastega kodus olnud. Pealtnäha tundub otsus neutraalne, aga võib olla ebaõiglane.
Eile avaldas Eesti Ekspress uudise, kus kirjeldati juhtumit, mille puhul pensionärile anti automaatse laenuprotsessi kaudu 4000 eurot laenu, kuigi isikutuvastuse süsteem oli märganud mitmeid kahtlaseid ohumärke. Raha läks muidugi kelmidele ja ohvrile jäi vastutus.
Tundub, et selliste süsteemide puhul on õigluse ja läbipaistvuse tagamine päris keeruline. Kui inimene saab negatiivse otsuse, peaks ta aru saama, miks see otsus tehti ja kelle poole ta saab pöörduda. Samas nagu näha 4000 eurose laenu andmise näitest, siis jätkuvalt on oluline, et keegi peab otsuse enne veel üle kontrollima. AI-d võib kasutada, aga seda ei tohiks teha nii, et keegi hiljem ei vastuta. Kiirusest ja mugavusest ei piisa, kui otsused ei ole inimeste suhtes ausad.
Kommentaarid
Postita kommentaar