As grandes empresas de tecnologia são simpáticas à ideia de que suas plataformas são impulsionadas de forma objetiva e livres do sistema de algoritmos. No entanto, tal trajetória é mais complicada do que isso: por trás de todos os dados, existem pessoas. E, quando se trata de discursos de ódio, a única coisa consistente é a inconsistência.

Em junho de 2017, a ProPublica divulgou uma densa investigação sobre os algoritmos usados pelo Facebook para determinar “discursos de ódio”. Os resultados, que fazem parte da cobertura da ProPublica sobre a “injustiça algorítmica”, eram bastante compreensíveis, porém desanimadoras: as regras usadas pela rede social estavam sendo aplicadas incorretamente, criando imbróglios tanto para as pessoas que estavam sofrendo abusos na rede quanto para os que tiveram suas publicações apagadas indevidamente, sem a chance de recursos ou explicações sobre o mal-entendido.

A ProPublica, determinada a aprender mais sobre esses algoritmos secretos, está usando sua própria tecnologia para ajudar. No início da semana passada, a organização lançou o 1º Facebook Messenger Bot, que é projetado para coletar relatos sobre as experiências das pessoas com discurso de ódio na plataforma. Usando a interface de conversação do Messenger, o bot faz perguntas aos usuários como “Você já presenciou algum discurso de ódio?” e “O Facebook excluiu a postagem?”. Os usuários também podem compartilhar os comentários em questão e capturar imagens diretamente.

A repórter veterana da ProPublica Julia Angwin explicou que o bot foi criado para ajudar a organização a registrar o que o Facebook faz para fortificar suas regras de conduta. Todas as informações que são submetidas pelos leitores são arquivadas em formato database, de forma anônima. Isso ajudará a ProPublica a determinar se o Facebook manipula ou não o conteúdo que é considerado uma violação ao indivíduo e se existe um padrão exercido pela empresa para lidar com essas situações.

“O objetivo aqui é descobrir como essas regras estão sendo implementadas”, disse Angwin. “O que isso significa para as pessoas que escreveram um post que acham que está ok, mas que alguém marcou como discurso de ódio? Tudo isso se encaixa nas nossas concepções sobre o discurso do ódio?”.

“O Messenger Bot é, primeiramente, um meio para que as pessoas compartilhem suas experiências com a equipe de reportagem da ProPublica. Mas, ao mesmo tempo, é um novo jeito de contar novas histórias”, disse Ariana Tobin, também repórter. Embora tenha havido relatos de alto nível sobre pessoas que o Facebook usa para moderar sua plataforma (como a produção de Adrien Chen no New Yorker, publicada em janeiro de 2017), muitos usuários ainda não entendem o elemento humano atuante no processo de monitoramento do Facebook. “Vemos isso como uma maneira de obter um feedback e retorná-lo novamente ao público que pode usá-lo e ter suas próprias reações”, disse Tobin.

Os modos de utilização do Facebook também foram importantes para a pesquisa. Enquanto as agências de jornalismo visavam coletar informações de seus leitores por meio da ferramenta SurveyMoney ou do Formulários Google, a ProPublica quis usar a rede especial para essa experiência com o público. “Se você deseja ouvir e falar com uma comunidade, é muito mais coerente se inserir no contexto onde eles estão”, disse Tobin. Por outro lado, a organização percebeu que alguns usuários interessados em contar suas histórias podem ficar desconfortáveis usando o Facebook (ou foram banidos da plataforma de forma definitiva), então seus desenvolvedores criaram também um formulário de pesquisa regular.

O bot, o 1º do tipo para a ProPublica, veio com um punhado de novos desafios e questões para a organização. O experimento precoce de como a “conversação” deveria resultar em um produto que é “amigável”, mas não muito invasivo. Outro imbróglio que a ProPublica ainda não conseguiu resolver é o patrocínio: enquanto a organização promoveu o bot em seu próprio site, via e-mail e Twitter, “o fator de descoberta ainda é difícil”, disse Tobin. O uso do Facebook Messenger para se comunicar diretamente com os repórteres de uma organização de notícias ainda é uma ideia recente para a maioria dos usuários do Facebook. Por isso, a ProPublica experimentou mudar a imagem de cabeçalho da página do Facebook para anunciar o bot e ilustrar exatamente onde os usuários precisam clicar na página para compartilhar suas histórias.

A ProPublica está considerando a possibilidade de criar mais projetos baseados em mensagens neste ano, com planos para experimentar outros aplicativos de bate-papo e o SMS. Uma das grandes perguntas abertas é o quanto qualquer uma dessas experiências atrairá os leitores, tanto em suas fases iniciais quanto quando o fator novidade da interface desaparecer.

E então, existem os “trolls”, pessoas que não levam a iniciativa a sério. Dar a alguns usuários a oportunidade de compartilhar suas histórias com os leitores abre a porta para que qualquer indivíduo faça o mesmo, independentemente de suas intenções. Mas, até agora, a ProPublica não teve problemas com essa categoria de internautas: das 100 respostas que a organização apurou no primeiro dia (consideradas construtivas por Tobin), apenas algumas poucas eram provenientes de pessoas que tentavam causar problemas. É difícil prever se essa proporção mudará à medida em que o projeto atinja mais pessoas ou fique mais popular.

O Facebook, por sua vez, tomou medidas para melhorar sua transparência, pelo menos em alguns aspectos. Há algumas semana, a rede social divulgou a contratação de Liz Spayd, ex-editora do New York Times, para ajudar nas políticas de transparência que têm relação com discursos de ódio, notícias falsas, terrorismo, entre outros. O Facebook, no entanto, ainda não se posicionou sobre o bot da ProPublica.

Mas a empresa ficou em grande parte silenciosa sobre os problemas que a ProPublica criou em seus relatórios, razão pela qual Angwin diz que o trabalho é tão vital para aumentar a conscientização. “Essa é uma questão muito importante e o Facebook não tem um processo de apelação para os usuários afetados por ela. Suas decisões são opacas e não explicadas. Estamos reagindo a essa carência de recursos”, completou.