Intelligent Systems, Human Consequences: Essays on AI in Identity, Education, and Legitimacy

A mesura que els sistemes d’intel·ligència artificial (IA) esdevenen cada vegada més un denominador comú en la interacció amb els consumidors, l’educació i la presa de decisions en les organitzacions, esdevé fonamental entendre els determinants psicològics i contextuals de les respostes humanes davant la IA. Aquesta tesi explora com les persones perceben i valoren els sistemes d’IA en contextos de recomanació personalitzada, educació i col·laboració humà-IA. Mitjançant una sèrie d’estudis experimentals, examino els mecanismes psicològics subjacents a la recepció algorítmica, centrant-me en com els tipus de dades, els nivells d’automatització i els rols dels actors configuren les actituds i comportaments dels usuaris. En l’àmbit dels sistemes de recomanació, demostro que el tipus de dades processades pels sistemes d’IA genera diferents nivells d’acceptabilitat i de percepció d’amenaça a la individualitat, amb efectes moderats per factors contextuals com ara la sensibilitat del domini del producte. En l’educació, mostro que un augment de l’automatització per part de la IA provoca preocupacions sobre l’equitat i la rigidesa; tanmateix, aquestes es poden mitigar mitjançant indicadors intuïtius que emfatitzen els rols integradors i sinèrgics de la col·laboració entre l’humà i la IA. Finalment, investigo com la seqüència de les contribucions humanes i de la IA en processos de presa de decisions influeix en les percepcions d’esforç i legitimitat de la col·laboració. En conjunt, aquests resultats introdueixen conceptes com l’amenaça a la individualitat i l’adhesivitat de la legitimitat, aporten proves empíriques sobre la paradoxa entre automatització i augmentació, i ofereixen orientacions pràctiques per dissenyar sistemes d’IA que siguin tant funcionalment eficaços com experiencialment acceptables, destacant el paper crític de l’enquadrament psicològic i dels factors contextuals en la interacció humà-IA.