Posts – Página 5 – Estudos Contemporâneos em Design

O ressurgimiento do Big Brother

Hoje estamos diante do ressurgimento do grande irmão, de uma autocracia capaz de censurar e subjugar seus cidadãos. Dos casos de vigilância massiva e integração de tecnologias de detecção facial e processamento de grandes quantidades de dados, observamos como essa distopia Orwelliana ameaça se tornar uma realidade.

O autor do artigo “Todos somos dados” consegue expor esse fenômeno a partir de processos sócio-políticos que estão moldando essa distopia: a colaboração da Big Tech com o governo dos Estados Unidos, cujos efeitos colaterais são coercitivos socialmente (PENNY, 2016) e sistemas de pontuação usados pelo governo de Xi Jinping para moldar a moral e os comportamentos do povo chinês.

–

PENNY, Jon “Chilling Effects: Online Surveillance and Wikipedia Use“. Berkeley Technology Law Journal, Vol. 31, No. 1, p. 117, 2016. DOI: http://dx.doi.org/10.15779/Z38SS13

Big data, big techs e big brother.

Não há nada de novo sob o sol. Plataformas digitais fazem parte de nossas rotinas, e diariamente permitimos que nossos rastros digitais seja trocados por experiências que já não sabemos se conseguimos viver sem. Por outro lado, a aproximação dos governos com as gigantes da tecnologia colocam em cheque questões fundamentais sobre liberdade e controle. Até que ponto nossa submissão ao Big Brother seria uma realidade sustentável? O monopólio da informação estaria a serviço de um constante reajuste democrático das sociedades ou tudo figura apenas como a atualização da soberania dos interesses políticos e econômicos sob a humanidade?

Debates a parte, a história nos mostra que o bem geral, quando controlado e mediado por uma elite dominante, não nos oferece prognósticos de uma realidade mais livre e mais justa. Muito pelo contrário, no ritmo acelerado em que os algoritmos nos assistem, nos entendem e nos controlam, fica o desafio de saber como a humanidade despertará desse suposto sonho de um mundo ideal como uma resposta a equação de nossa existência.

Fabio De Almeida

Comentário ao artigo do Expresso “Somo todos Dados? Texto: David Samuels, WIRED. Fevereiro, 2019.

Big data, vigilância e censura na Internet

Atualmente, existe na China um sistema de crédito social, no qual os indivíduos são monitorizados através das suas ações online – um Big Brother do século XXI, que pune ou recompensa os cidadãos consoante as suas ações.

Apesar de não existir um sistema semelhante no Ocidente, várias empresas privadas trabalham com big data – recolhem, analisam e até vendem os dados dos utilizadores. O Facebook esteve, em dezembro de 2018, envolvido numa polémica relativa à recolha de dados sem o consentimento dos utilizadores.

Numa perspetiva mais negativa, esta recolha de dados por estas empresas, a utilização de algoritmos e IA e mesmo de sistemas como o Echo, da Amazon, significam uma maior vigilância sobre os utilizadores, tanto pelas empresas como pelos próprios governos.

Por outro lado, o artigo apresenta uma perspetiva mais positiva, utópica mesmo, na qual os algoritmos bons poderiam ajudar a criar uma Internet mais “limpa”, com menos discursos de ódio e ajudar a combater racismo, sexismo, xenofobia, entre outros problemas sociais.

No entanto, os algoritmos não podem substituir nunca a responsabilidade humana, visto que o que estes podem errar. Para além disso, o que é considerado discurso de ódio ou violência para alguém pode não o ser para outra pessoa – o que também enviesa as decisões dos bots sobre censurar ou não algum conteúdo.

Este texto constitui um comentário ao artigo “Todos Somos Dados”, escrito por David Samuels e publicado na edição 2415 da revista E, do semanário Expresso.

Falhar ao sistema

COMENTÁRIO A PARTIR DO TEXTO DO DAVID SAMUELS/WIRED* [1]

Quando pensamos num mundo controlado por grandes associações, onde os nossos pensamentos, ações e decisões são tomadas por uma terceira frente, acreditamos ingenuamente que é remota a nós; mas na realidade o que estamos vivendo agora é um fato ao que poucas pessoas escapam.

Essa imagem “manipuladora” da mídia de massa invadiu-nos até o núcleo. Fazemos tentativas regularmente fúteis para passar de incógnito, e sem perceber como estamos a cair nas armadilhas, que os nossos comportamentos são expostas e estão à venda pela melhor oferta.

Esta é uma imagem cada vez mais frequente, e esses mitos que vieram-nos falar sobre quedas, agora cercam- nos na vida cotidiana. As primeiras histórias sobre “algo maior” que ele nos observou tinham um toque de misticismo, assim como no livro quase apocalíptico do George Orwells – 19884, no entanto, hoje ele já tem nome e rosto; são marcas, aplicativos e pessoas que permitimos entrar em nossas casas e gerenciar as nossas vidas. Talvez devêssemos ser mais objetivos do que confiar que o que produzem em nós é um tipo de segurança e estabilidade para a sociedade e de nós mesmos, mas a realidade é que nós deparamos com a mesma, produzindo o oposto, ansiedade e insegurança. Porque não podemos pensar e criar histórias em nossas cabeças do que achamos que é a consequência de ter agido e respondido desta ou daquela maneira falhando assim ao sistema, por isso aceitamos a ideia de não merecer as promessas vendidas e estar sempre ao serviço e as demandas dele.

_

[1] https://leitor.expresso.pt/semanario/SEMANARIO2415/html/revista-e/-e-1/Todos-somos-dados

Barreiras Democráticas

Uma sociedade humana mediada por máquinas inteligentes – foi o que a ficção científica nos prometeu explicar. Hoje, em 2019, podemos imaginar um futuro próximo daquilo que foi pensado nestes livros. As relações já estabelecidas entre empresas como a Amazon, Facebook, são perigosas. As grandes big tech armazenam os nossos dados e cabe-nos a nós entender quais as implicações de uma sociedade tecnocrática onde as empresas de big data valem milhões. Calha bem às empresas terem lucro e os governos e agências oficiais também ganham em investir em tecnologia cada vez mais inteligente para ajudar em casos específicos.

A grande questão é, qual será a barreira? Até onde é que é a democracia pode aceitar este jogo entre as empresas de big data e os governos/ agências oficiais? O artigo do Expresso menciona o caso da Amazon, que já foi pressionada por juízes para entregar gravações de aparelhos Echo que foram realizadas sem o conhecimento dos utilizadores. Neste caso a Amazon decidiu não ceder informação. Esta é uma empresa que vende câmeras e microfones. Em que condições é que a Amazon permitiria usar o seu vasto leque de tecnologia como rede de vigilância?

Se formos positivos, podemos imaginar que todas estas tecnologias vão evoluir em função do bem, onde os sistemas inteligentes ajudam a analisar informação para identificar potenciais assassinos, ou a filtrar até notícias falsas. Nesta visão, as máquinas ajudariam-nos a sermos melhores seres-humanos. Podemos optar por esta posição optimista, no entanto, deixo uma citação que achei relevante e que vai contra esse positivismo: ” Uma rede nacional ou global de vigilância que use algoritmos beneficentes para reconfigurar os pensamentos e ações humanas sob formas que as elites acreditem ser justas e benéficas para toda a humanidade dificilmente será o caminho para um novo Éden. É o caminho para um campo prisional”.

Estado de vigilância

Numa era em que é tecnicamente possível criar e implementar um sistema de vigilância na sociedade será a democracia suficiente para não o por em prática ou será a República Popular da China a primeira a chegar a um futuro inevitável?

Numa entrevista a Tim O’Brien (director geral e programas de Inteligencia Artifical da Microsoft) o Jornal Económico questionou que regras deveriam ser criadas para garantir a segurança dos cidadãos num mundo em que é tecnicamente possível o Governo seguir todos os passos de um invidio. O’Brien responde que acredita que a privacidade é um direito humano elementar, mas que a utilização das tecnologias varia de fronteira para fronteira, dependendo da Constituição e do que é legal em cada país.

À partida países democráticos estariam livres desse sistema de vigilância. Mas, se pensarmos em países como os EUA em que as empresas de big data já se começam a fundir com agências de segurança em negócios bastante favoráveis para os dois lados questionamos se esse não é começo de um sistema de vigilância à semelhança do ficcional Big Brother.

Rita Franco Barroso

Categoria: Posts