Inteligência Artificial Facebook e Desinformação
Como o Facebook se viciou em espalhar desinformação. Os algoritmos de IA da empresa trouxeram a ela um hábito insaciável de mentiras e discursos de ódio. Agora, o homem que os construiu não pode resolver o problema.
Karen Hao – MIT Technology Review
Massaschussets, 19/04 de 2021.
2 Minutos
Joaquin Quiñonero Candela, diretor de IA do Facebook, pediu desculpas ao público.
Em 23 de março de 2018, poucos dias após a revelação de que Cambridge Analytica, uma consultoria que trabalhou na campanha para as eleições presidenciais de 2016 de Donald Trump, secretamente desviou os dados pessoais de dezenas de milhões de americanos de suas contas no Facebook para tentar influenciar como eles votaram.
Foi a maior violação de privacidade na história do Facebook, e Quiñonero havia sido escalado para falar em uma conferência sobre, entre outras coisas, “a interseção de IA, ética e privacidade” na empresa. Ele considerou cancelar, mas depois de debater com seu diretor de comunicações, ele manteve o tempo disponível.
Quando ele se aproximou para enfrentar a sala, ele começou com uma admissão. “Acabo de passar os cinco dias mais difíceis em minha gestão no Facebook”, ele se lembra de ter dito. “Se houver crítica, eu aceito.”
O escândalo Cambridge Analytica daria início à maior crise de publicidade de todos os tempos. Aumentou o medo de que os algoritmos que determinam o que as pessoas veem na plataforma estivessem amplificando notícias falsas e discursos de ódio, e que os hackers russos os tivessem armado para tentar influenciar a eleição a favor de Trump. Milhões começaram a deletar o aplicativo ; funcionários saíram em protesto; a capitalização de mercado da empresa despencou em mais de US $ 100 bilhões após a divulgação de seus lucros em julho.
No Brasil um ataque hacker violou a privacidade de mais de 200 milhões de pessoas. A PF prendeu um ‘vendedor de picolé‘!
Nos meses seguintes, Mark Zuckerberg começou a se desculpar. Ele se desculpou por não ter “ uma visão ampla o suficiente ” das responsabilidades do Facebook e por seus erros como CEO. Internamente, Sheryl Sandberg, a diretora de operações, deu início a uma auditoria de direitos civis de dois anos para recomendar maneiras como a empresa poderia evitar o uso de sua plataforma para minar a democracia.
Finalmente, Mike Schroepfer, diretor de tecnologia do Facebook, pediu a Quiñonero para formar uma equipe com uma diretriz um pouco vaga: examinar o impacto social dos algoritmos da empresa. O grupo se autodenominou Society and AI Lab (SAIL); no ano passado, ele se juntou a outra equipe que trabalhava em questões de privacidade de dados para formar o Responsible AI.
Quiñonero foi uma escolha natural para o trabalho. Ele, tanto quanto qualquer pessoa, foi o responsável pela posição do Facebook como uma potência de IA. Em seus seis anos no Facebook, ele criou alguns dos primeiros algoritmos para direcionar os usuários com conteúdo precisamente adaptado aos seus interesses, e então ele difundiu esses algoritmos por toda a empresa. Agora, seu mandato seria torná-los menos prejudiciais.
O Facebook tem consistentemente apontado os esforços de Quiñonero e outros na tentativa de reparar sua reputação (blá blá blá???). Ele regularmente reúne vários líderes para falar com a mídia sobre as reformas em andamento. Em maio de 2019, concedeu uma série de entrevistas com Schroepfer ao New York Times, que recompensou a empresa com um perfil humanizador de um executivo sensível e bem-intencionado que se esforça para superar os desafios técnicos de filtrar desinformação e discurso de ódio de um fluxo de conteúdo que soma bilhões de peças por dia. Esses desafios são tão difíceis que deixam Schroepfer emocionado, escreveu o Times: “Às vezes, isso o leva às lágrimas”.
Que tal um passeio virtual por dentro do Laboratório no MIT? Acesse
