Atualmente, existe na China um sistema de crédito social, no qual os indivíduos são monitorizados através das suas ações online – um Big Brother do século XXI, que pune ou recompensa os cidadãos consoante as suas ações.
Apesar de não existir um sistema semelhante no Ocidente, várias empresas privadas trabalham com big data – recolhem, analisam e até vendem os dados dos utilizadores. O Facebook esteve, em dezembro de 2018, envolvido numa polémica relativa à recolha de dados sem o consentimento dos utilizadores.
Numa perspetiva mais negativa, esta recolha de dados por estas empresas, a utilização de algoritmos e IA e mesmo de sistemas como o Echo, da Amazon, significam uma maior vigilância sobre os utilizadores, tanto pelas empresas como pelos próprios governos.
Por outro lado, o artigo apresenta uma perspetiva mais positiva, utópica mesmo, na qual os algoritmos bons poderiam ajudar a criar uma Internet mais “limpa”, com menos discursos de ódio e ajudar a combater racismo, sexismo, xenofobia, entre outros problemas sociais.
No entanto, os algoritmos não podem substituir nunca a responsabilidade humana, visto que o que estes podem errar. Para além disso, o que é considerado discurso de ódio ou violência para alguém pode não o ser para outra pessoa – o que também enviesa as decisões dos bots sobre censurar ou não algum conteúdo.
Estudos Contemporâneos em Design 