Mozilla compartilha histórias de terror do YouTube em campanha por algoritmos responsáveis

A Mozilla lançou uma campanha por algoritmos mais responsáveis, compartilhando histórias de terror do YouTube com crowdsourcing de mídias sociais.

Todos concordamos com algumas recomendações ao usar plataformas online. Ontem, a repórter da Verge, Megan Farokhmanesh, compartilhou como suas recomendações no Instagram foram atormentadas por algumas imagens bizarras de CGI dos dentes.

A conta de Farokhmanesh é de um algoritmo de recomendação ficando desonesto de uma maneira relativamente inofensiva e divertida, mas esse nem sempre é o caso.

Os algoritmos precisam ser imparciais. É fácil imaginar como, sem o devido exame, os algoritmos poderiam recomendar conteúdo que influencia uma pessoa a pensar ou votar de uma certa maneira. O viés pode até não ser intencional, mas não o torna menos perigoso.

Os algoritmos do YouTube, em particular, foram chamados para promover algum conteúdo horrível, incluindo pedofilia e radicalização. Para realmente colocar esse perigo em perspectiva, cerca de 70% do tempo de visualização do YouTube vem de recomendações.

O site recém-lançado da Mozilla apresenta 28 histórias de horror causadas pelos algoritmos do YouTube. O site foi lançado após uma campanha de mídia social liderada pela Mozilla, na qual os usuários compartilharam suas histórias usando a hashtag #YouTubeRegrets.

Em uma história, um indivíduo forneceu um relato de seu filho pré-escolar que – como muitos de sua idade – gostava de assistir aos vídeos de Thomas the Tank Engine. As recomendações do YouTube o levaram a assistir a compilações gráficas de acidentes de trem.

Na fase inicial da vida de uma pessoa, o que ela vê pode ser prejudicial ao seu desenvolvimento a longo prazo. No entanto, isso não significa que os adultos também não sejam afetados.

Outra pessoa disse: “Comecei assistindo uma luta de boxe, depois de rua e depois vi vídeos de brigas de rua, acidentes e violência urbana… acabei com uma visão horrível do mundo e me sentindo mal, sem realmente querer para.”

Outra pessoa disse que costumava assistir uma drag queen que fazia muitos vídeos de afirmação positiva e de construção de confiança. As recomendações do YouTube supostamente exibiram uma tonelada de conteúdo anti-LGBT por séculos depois, o que poderia ter um impacto devastador nas comunidades já marginalizadas com demasiada frequência.

Em setembro, a Mozilla aconselhou o YouTube a melhorar seu serviço – e confiar nele – executando três etapas principais:

  • Forneça a pesquisadores independentes acesso a dados significativos.
  • Crie ferramentas de simulação para pesquisadores.
  • Capacite os pesquisadores não implementando limites restritivos de taxa de API e forneça acesso a um arquivo histórico de vídeos.

Teremos que esperar e ver se o YouTube segue os conselhos da Mozilla, mas esperamos que as mudanças sejam feitas mais cedo ou mais tarde. Cerca de 250 milhões de horas de conteúdo do YouTube por dia são assistidas por recomendações, e nunca podemos ter certeza de quanto tempo esses vídeos vão durar na mente daqueles que os visualizam.



DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here