Algoritmos e cosmopolíticas

Amanda Jurno e Carlos d’Andréa

 

A política de censura à nudez no Facebook e o regime de poder dos algoritmos

No dia 21 de outubro de 2016, o Facebook bloqueou a página de PISEAGRAMA após a publicação de uma fotografia, capa do oitavo número da revista (que trata do tema Extinção), que mostrava uma índia Yawalapiti com seios nus. A imagem da indígena, que carregava nas mãos uma muda de árvore, foi feita em 1958, durante uma campanha de reflorestamento realizada pelo governo federal. Ao reviver essa fotografia desconhecida, a revista enfatizava que ela preserva a profecia das “imagens xamânicas”, já que “enquanto os índios se multiplicam cultivando a floresta, apesar dos planos persistentes e sistemáticos para dizimá-los, os amigos da pátria derrubam árvores como nunca antes na história deste país”.

Restrita aos seguidores da página, a repercussão não foi suficiente para reverter a censura do Facebook – a plataforma nunca respondeu aos administradores. Para os editores, “parece que a galera do Vale do Silício não entendeu que indígena não usa camiseta e que seio de fora não é pornografia. Aliás, não podemos deixar de comentar que há bastante machismo e puritanismo hipócrita nessa política”. Após a censura, a revista criou uma nova página e republicou a imagem cobrindo os seios da indígena.

 

Post com a fotografia editada. Fonte: Piseagrama 2 (2016)

 

Não era a primeira vez que o Facebook invisibilizava imagens de indígenas. Em abril de 2015, o Ministério da Cultura foi alvo de censura por parte da plataforma devido a uma fotografia feita em 1909 por Walter Garbe. A imagem, que retrata um casal de índios Botocudos – ambos com os seios desnudos –, havia sido publicada às vésperas do Dia do Índio para divulgação do lançamento do Portal Brasiliana Fotográfica. Para Juca Ferreira, então ministro da Cultura, o bloqueio do Facebook mostrou como essa plataforma “tenta impor ao Brasil, e às demais nações do mundo onde a empresa opera, seus próprios padrões morais, agindo de forma ilegal e arbitrária”. “O Facebook e outras empresas globais”, concluía ele, “operam numa lógica muito próxima à dos tempos coloniais”.

Após o desbloqueio, o Facebook afirmou que “não é fácil encontrar o equilíbrio ideal entre permitir que as pessoas se expressem criativamente e manter uma experiência confortável para a nossa comunidade global e culturalmente diversa”.

Um outro caso de censura nos ajuda a entender os regimes de poder associados ao Facebook e seus algoritmos. O bloqueio a um terceiro corpo feminino repercutiu internacionalmente: em setembro de 2016, a plataforma retirou de circulação uma publicação do escritor norueguês Tom Egeland porque continha a fotografia The Terror of War, tirada por Nick Ut em 1972. Trata-se da famosa imagem de uma garota que corre, nua, de um ataque de Napalm durante a Guerra do Vietnã. Quando o jornal norueguês AftenPost republicou a foto em sua própria página, o Facebook sugeriu que a imagem deveria ser pixelada, mas a excluiu antes que os jornalistas pudessem responder ou atender à notificação. A resposta foi publicada na capa da edição impressa do jornal no dia seguinte: uma carta aberta – escrita em inglês – para Mark Zuckerberg, CEO do Facebook.

 

 

Edição impressa do Aftenpost. Fonte: Hansen (2016)

 

Chamando Zuckerberg de “o editor mais poderoso do mundo”, o editor-chefe do jornal o acusava de “limitar a liberdade (…) de maneira autoritária”, mexendo com os “pilares da nossa sociedade democrática”. A repercussão do caso envolveu até mesmo a primeira-ministra norueguesa, que foi enfática: “O Facebook não tinha o direito de editar a história”. A plataforma se desculpou e liberou a circulação da imagem, alegando que aprenderia com o erro e evitaria problemas futuros.

Embora exista um forte esforço institucional do Facebook e de outras plataformas online para apresentar seus algoritmos como “atores sociotécnicos confiáveis” e neutros, as frequentes controvérsias em torno de sua agência destacam a importância de discutirmos suas implicações éticas e políticas.

Os três episódios acima nos ajudam a refletir sobre as nuances cosmopolíticas dos algoritmos e sobre as repercussões, para os agentes envolvidos, das controvérsias desencadeadas por censuras na plataforma. Nesse sentido, parece pertinente lembrarmos de um problema – e uma provocação – apontado por Langdon Winner. Ao questionar se “os artefatos têm política”, Winner chama atenção para as formas específicas de poder e de autoridade incorporadas pelas inovações tecnológicas. Dialogando com essa perspectiva, o pesquisador Lucas Introna aponta que os algoritmos “mais ou menos impõem importantes escolhas de valores, feitas implícita ou explicitamente por aqueles que os construíram e implementaram, o que pode ter implicações significativas para aqueles que se baseiam neles em suas práticas diárias”.

Um dos exemplos mais evidentes de regimes de poder e normatização delegados aos algoritmos são as restrições da circulação de imagens que contêm algum vestígio de nudez (principalmente feminina) no Facebook. O que nota Samuel Gibbs, é que “o Facebook diz que se utiliza tanto de sistemas automatizados quanto de revisores humanos antes de agir” mas que, na página de Padrões da Comunidade, a plataforma diz que “é essencial termos políticas que nossas equipes globais possam aplicar de maneira simples e uniforme quando estiverem analisando os conteúdos”, o que sugere uma padronização do processo. A razão para isso, segundo a plataforma, é que “alguns públicos da nossa comunidade global podem ser mais sensíveis a esse tipo de conteúdo, principalmente devido à bagagem cultural ou idade”.

Em maio de 2017, o jornal inglês The Guardian publicou uma série de documentos vazados do Facebook com recomendações e políticas de controle de circulação de imagens na plataforma. Dentre as recomendações, podemos perceber que os critérios para a não circulação de conteúdo são, no mínimo, pouco criteriosos. Por exemplo, o Facebook permite, desde que não haja nudez, a circulação de vídeos e fotos de aborto, mesmo sendo esta uma prática ilegal na maioria dos países em que a plataforma é utilizada; também permite a presença de nudez e atividades sexuais em artes “feitas a mão”, mas não em artes feitas digitalmente. A simulação de atividades sexuais entre pessoas vestidas e/ou com barras de censura é permitida, mas mamilos femininos são extremamente proibidos. Vale ressaltar que somente em junho de 2014 o Facebook começou a permitir “fotos de mulheres ativamente engajadas na importância da amamentação ou mostrando os seios após uma mastectomia”, graças a várias polêmicas envolvendo a plataforma e ativistas, como as discussões levantadas e reunidas em torno da campanha #FreeTheNipple (libere o mamilo, em inglês).

A ideia de “comunidade global” evocada pelo Facebooke cada vez mais salientada nas falas dos seus executivos – nos lembra a diferenciação entre os conceitos de “cosmopolitanismo” e “cosmopolítica” apresentada por Bruno Latour. Para apontar a crise do mononaturalismo eurocêntrico, Latour dialoga com o pensamento de Eduardo Viveiros de Castro, antropólogo que estuda o perspectivismo ameríndio. Ao contrário dos ocidentais, para quem o corpo é algo dado, para os ameríndios todos os seres vivos têm almas, mas não necessariamente têm corpos. Desnaturar o corpo, portanto, seria uma forma de reconhecer outras cosmopolíticas, superando um cosmopolitanismo que apazigua diferenças e disputas.

A diferença significativa na repercussão pública e na resposta dada pelo Facebook aos casos descritos acima sinaliza que diferentes regimes de conhecimento e poder estão em jogo na censura de imagens contendo nudez nessa plataforma. A restrição da circulação daquela que talvez seja a mais famosa imagem da Guerra do Vietnã teve ampla repercussão internacional por agentes que, em resumo, exigiram que o Facebook seguisse alguns valores da sociedade ocidental contemporânea, incluindo a “liberdade de expressão” e o respeito à “História “.

No entanto, a censura quase silenciosa da imagem da indígena brasileira reproduzida pela PISEAGRAMA reforça não só a invisibilidade da causa no país, mas também a aparente incapacidade dos algoritmos de ouvir e reconhecer uma cosmopolítica não eurocêntrica. Por outro lado, a pressão institucional feita pelo Minc sobre o Facebook no outro caso de censura aos corpos indígenas aponta também que a plataforma de Mark Zuckerberg está mais preocupada com a dimensão pública das controvérsias em que se envolve do que com um aprimoramento dos critérios tecnomorais que liberam ou não a circulação de conteúdos.

 

*

 

Uma em versão inglês deste texto foi apresentada na conferência #AoIR2017: Networked Publics (Tartu, Estônia) e será disponibilizada em breve nos anais do evento

 

SalvarSalvar

SalvarSalvar

SalvarSalvar

SalvarSalvar

SalvarSalvar

Amanda Jurno

Doutoranda em Comunicação Social pelo PPGCOM/UFMG

Carlos d’Andréa

Professor do PPGCOM/UFMG