Ma essere "profilati" è così dannoso?

edivad99 il problema è che questo pone l’idea comune che gli algoritmi possano essere neutrali, ma questa è una grossa menzogna: gli algoritmi non sono mai neutrali. Sono prodotti umani e come tali presentano le stesse imperfezioni. Per fare quello che dici, sarebbe necessario che gli algoritmi venissero addestrati da umani che sapessero fare la stessa cosa ma in modo più ridotto, ma nessun essere umano da giudicare oggettivamente ma è condizionato inevitabilmente dalla cultura, dalle emozioni e dai bias cognitivi (vedi l’effetto alone).
Si rischia di accentuate e perpetuare il pregiudizio su categorie specifiche di persone e minoranze.
Inoltre qui entra in gioco il concetto di privacy: perché se ho un diploma di bartender devo essere giudicato per aver guardato un video YouTube? Magari l’ho fatto per sentirmi più carico alla prova o per ricordarmi che io lo faccio invece così o colì. La privacy è proprio questo, le cose che facciamo in intimità non devono pregiudicare la nostra vita sociale perché gli esseri umani nella propria solitudine sono naturalmente strani perché senza il peso delle aspettative e convenzioni sociali vivono in modo più naturale facendo cose che non farebbero davanti a tutti. In particolare cose senza senso, viste di cattivo occhio o particolarmente strane e diverse. Non ne beneficerebbe nessuno, si accentuerebbero solo le disuguaglianze.
Come detto sopra da alcuni, ci sono persone negli Stati Uniti che si sono visti negare un mutuo perché avevano fatto ricerche su Google che facevano intendere che avessero difficoltà economiche. Nella società moderna dobbiamo domandarci: chi sa? Chi decide? Chi decide chi decide?