Vieses racistas: como combatê-los no design

Karen Santos
Product Designer
,
PicPay
UPDATE:

A pandemia mudou tudo em 2020.
Por isso este artigo foi revisitado por quem escreveu em entrevista para o UXNOW com apoio da Deeploy.me

Imperdível!

Ouça este artigo

Artigo narrado por quem escreveu!

A diversidade no local de trabalho sempre foi um dos tópicos mais quentes do setor de RH, mas nos últimos anos, tornou-se um objetivo importante para muitas empresas.

À medida que a demografia da força de trabalho muda e os mercados globais emergem, a diversidade se aproxima de se tornar uma necessidade comercial. Porém ao olharmos para as nossas equipes de trabalho, squads ou a empresa como um todo, vemos poucas pessoas diversas.

Três ações podem auxiliar na construção de novos hábitos do mercado de trabalho e ambiente mais diversos. Veja:

Fomentar

Para ampliar as chances de encontrar mais talentos

Formar

Para suprir uma demanda cada vez mais crescente de profissionais

Contratar

E sobreviver nesse mundo de escassez de pessoas reais

Vieses racistas em sistemas, produtos e serviços e design

Segundo Victor Hugo Germano, software developer da lambda3:

Empresas que cultivam uma cultura tóxica, arcaica, desumana burocrática e ou homogênea estão com os dias contados.

Um funcionário do Facebook compartilhou um vídeo mostrando um distribuidor automático de sabonete de banheiro não detectando a mão de um homem de pele escura. O conteúdo viralizou nas redes sociais. No vídeo, um homem branco acena com a mão sob o dispensador e instantaneamente recebe sabão. Em seguida, um homem negro passa a agitar sua mão sob o dispensador de várias maneiras; e o sabão não é liberado. 

Fonte: https://metro.co.uk/2017/07/13/racist-soap-dispensers-dont-work-for-black-people-6775909/

Em um caso semelhante, uma empresa foi acusada de racismo pelo software de rastreamento facial não reconhecer o rosto de pessoas negras.

Um homem negro, gravou um vídeo sobre a webcam MediaSmart da HP que se tornou viral depois que mostrou que a câmera pode rastrear o rosto dos usuários, exceto quando eles são negros.

Fonte: https://www.theguardian.com/media/pda/2009/dec/23/hewlett-packard




O sistema de autocolagem do Google Fotos também apontou um problema semelhantes ao demais casos. A plataforma identificou dois amigos negros como “gorilas” em suas fotos juntos, provocando um tumulto na mídia social e uma demanda para o Google aumentar sua tecnologia para ser mais sensível às palavras que usa em fotos de pessoas.

Fonte: https://www.mic.com/articles/121555/google-photos-misidentifies-african-americans-as-gorillas


Em outro caso, o Instituto de Tecnologia da Geórgia divulgou as descobertas de um estudo conduzido que analisou a precisão com que os modelos de detecção de objetos (como os usados ​​por carros autônomos) detectam diferentes tons de pele. Os resultados obtidos indicaram que os modelos de detecção de objetos eram 5% menos precisos na detecção de indivíduos de pele mais escura.

Em 2018, Sam Huang escreveu um artigo no qual ela descreve andar na traseira de um carro de direção automatizado. No texto, ela descreve como cada vez que um pedestre entrava na vizinhança dos carros, um alerta aparecia na tela do tablet indicando que um humano estava presente. No entanto, duas pessoas não eram identificadas pela traseira.

Havia dois pedestres que o carro não conseguiu detectar. Dois homens. Ambos andando na calçada como qualquer um dos outros pedestres que encontramos. A única diferença desta vez foi a sua corrida. Todos os outros pedestres anteriores eram brancos. Esses dois homens que o carro não detectou eram negros.

Em essência, as pessoas com pele escura são mais propensas a serem atingidas por um carro que dirige sozinho. Esta é uma questão de vida ou morte quando pensamos no recente mercado de carros autônomos.

É extremamente sintomático refletir porque todos esses softwares estão tendo dificuldade em reconhecer negros como pessoas que jogam videogames, que precisam de sabão e que não podem ser atropeladas por carros autônomos! Quando os computadores só conseguem identificar uma certa porcentagem das pessoas que os usam, isso vai além de ser apenas um vídeo viral ou teoria da conspiração e se torna um problema que precisa ser resolvido.

Fonte:https://medium.com/predict/the-racist-autonomous-driving-car-and-the-dangers-of-bias-in-artificial-intelligence-9bfca178e658

Como diminuir esses vieses racistas de dentro para fora?

Podemos pensar em duas causas de viés racial na tecnologia: o viés de dados e o viés do criador.

No caso do viés de dados, o problema parte justamente dos conjuntos de informações usados ​​para treinar softwares poluídos com preconceitos e suposições. Esses preconceitos são aprendidos e memorizados por instruções que devem ser seguidas ou executadas.

Quando pensamento pelo viés do criador estamos falando daqueles que projetam e desenvolvem o software e, que não se preocupam com todos os usuários finais. Por exemplo, um engenheiro branco escrevendo algoritmos que se concentram apenas em pessoas como ele, ou UX’s Designers que só realizam testes de usuários em pessoas parecidas.

Como evitar ou minimizar esse problema?

Eu costumo fazer a seguinte pergunta em algumas falas que é: se a tecnologia está se tornando centrada no ser humano, como o “ser humano” está sendo definido? Se pessoas negras não são consideradas “humanas” por séculos!

Não importa o assunto ou a experiência, se a lente da análise reduz a humanidade de um povo ou erradica sua perspectiva, isso reflete o viés de seu criador.

Portanto, ao marginalizar a experiência negra, é inevitável que a tecnologia desenvolva a capacidade de se conscientizar e lidar com sistemas opressivos.

Nós não temos mais tempo para dizer que a diversidade é importante, nós precisamos colocá-la em prática e ela pode começar por você!

1. Tenha uma equipe diversa

Certifique-se de que as equipes de engenharia, desenvolvedores, designers, PM’S, PO’s entre outros cargos, sejam racialmente diversas. Isso trará pensamentos e discussões de diferentes olhares.

2. Quem são os seus usuários?

Certifique-se de que aqueles que realizam testes de usuário tenham diversas amostras, a fim de limitar o erro de cobertura.

3. Crie seu software, aplicativo, solução com conjuntos de dados que são racialmente diversos

Não use apenas conjuntos de dados que consistem em apenas faces brancas, personas brancas, testes com pessoas brancas.

4. Se você é UX, Product, Research ou atua diretamente com o produto, avalie todo o seu processo de trabalho

E identifique onde a exclusão de pessoas diversas acontece. Leve a discussão para o seu time, você também é responsável por isso.

5. Reconheça o viés

Quebre o ciclo. Reconheça o preconceito quando isso ocorre. Discuta isso de um lugar de compreensão e boas intenções. Aprenda com isso.

6. Tenha intenção real de incluir

Intenção sozinha não pode mudar o equilíbrio. A inclusão é intencional.

7. O poder de ouvir

A melhor coisa que os líderes podem fazer é ouvir desde o início e demonstrar um viés de ação baseado no feedback.

8. Educar e capacitar sua equipe

Se você estivesse entrando em um novo mercado ou lançando um novo produto, você faria sua lição de casa primeiro. O trabalho de diversidade e inclusão não é diferente. Há ótimos livros, treinamentos e consultores trabalhando neste espaço.

5. Liderando pelo exemplo

Para realmente alterar o panorama de uma organização, os líderes devem se envolver proativamente e ser líderes em iniciativas de diversidade e inclusão.

6. Oportunidades iguais

Certifique-se de que todas as suas descrições de trabalho mencionam que você é um empregador de oportunidades iguais… e se esforce para se tornar um. Estudos mostram que os grupos marginalizados são mais propensos a se candidatar a um emprego que faz uma declaração sobre a organização que mostra que ela valoriza a diversidade.

Como a diversidade mudou o escopo de algumas empresas

Diversidade no local de trabalho significa que uma empresa emprega uma ampla variedade de indivíduos. Em outras palavras, uma força de trabalho diversificada inclui pessoas com características diferentes, pessoas de diferentes gêneros, idade, religião, raça, etnia, origem cultural, orientação sexual, religião, idiomas, educação, habilidades , etc.

Em 2018, o Pinterest alcançou duas de suas três metas de contratação. Especificamente:

  • A primeira era aumentar as taxas de contratação para pessoas de origens étnicas sub-representadas em funções não relacionadas à engenharia para 12%. Superaram essa meta e atingiram 14%.
  • A segunda era aumentar as taxas de contratação de engenheiros de origens étnicas sub-representadas para 8%. Atingiram 7%, o que é melhor que no ano de 2017, mas ainda curto.
  • Havia também o objetivo de aumentar as taxas de contratação de engenheiras em período integral para 25%. Atingiram essa meta em 25%.

Além disso, a representação de mulheres aumentou na empresa em geral e em tecnologia. As mulheres agora compõem 47% da empresa (contra 45% no ano passado) e 30% das pessoas que trabalham em tecnologia são mulheres (contra 29% no ano de 2017).

Fonte: https://newsroom.pinterest.com/en/post/building-a-more-diverse-pinterest

A cultura corporativa que valoriza não apenas a diversidade no sentido tradicional, demográfico, mas também a igualdade de oportunidades para todos os membros da equipe chegará ao sucesso.

A diversidade é sobre a diferença que as pessoas trazem e a inclusão é sobre garantir que seja criada uma cultura que aproveite essa diferença e traga o melhor de cada indivíduo. — Charlotte Sweeney

Aaaaaah Karen, mas diversidade não gera lucro, nem traz benefícios para a empresa

Será mesmo? Vamos aos fatos! Um relatório da McKinsey de 2015 com 366 empresas públicas constatou que aquelas no primeiro quartil prezaram pela diversidade étnica e racial na gestão tinham 35% mais chances de ter retornos financeiros acima da média do setor, e aquelas no quartil superior para diversidade de gênero eram 15% mais propensas ter retornos acima da média da indústria.

Em uma análise global de 2.400 empresas conduzida pelo Credit Suisse, organizações com pelo menos uma integrante feminina do conselho geraram maior retorno sobre o patrimônio líquido e maior crescimento do lucro líquido do que aquelas que não tinham nenhuma mulher no conselho.

Nos últimos anos, um corpo de pesquisa revelou outro benefício, mais nuançado, da diversidade do local de trabalho: equipes não homogêneas são simplesmente mais inteligentes. Trabalhar com pessoas que são diferentes de você pode desafiar seu cérebro a superar seus modos antigos de pensar e aguçar seu desempenho.

Em outro estudo , publicado na Economic Geography, mostra o resultado de 7.615 empresas que participaram da Pesquisa Anual de Negócios de Londres, sobre o desempenho de suas empresas. Os resultados revelaram que os negócios geridos por equipes de liderança culturalmente diversificadas eram mais propensos a desenvolver novos produtos do que aqueles com liderança homogênea.

Uma pesquisa realizada em 2013 pelo Center for Talent Innovation , descobriu que 48 por cento das empresas nos EUA com mais diversidade no nível de gerenciamento sênior melhoraram sua participação de mercado no ano anterior. Embora você possa se sentir mais à vontade trabalhando com pessoas que compartilham seu histórico, não se deixe enganar pelo seu conforto.

Contratar pessoas que não olham, falam ou pensam como você pode permitir que você evite as dispendiosas armadilhas da conformidade, o que desestimula o pensamento inovador.

Resumindo, enriquecer sua equipe de funcionários com representantes de diferentes gêneros, raças e nacionalidades é fundamental para impulsionar o potencial intelectual conjunto de sua empresa.

A criação de um local de trabalho mais diversificado ajudará a manter os preconceitos de seus membros de equipe sob controle e os fará questionar suas suposições. Ao mesmo tempo, precisamos garantir que a organização tenha práticas inclusivas para que todos sintam que podem ser ouvidos.

Tudo isso pode tornar suas equipes mais inteligentes e, em última análise, tornar sua organização mais bem-sucedida, independentemente de seus objetivos.

Todos conhecemos as estatísticas sobre como equipes diversificadas são mais inteligentes e como elas apresentam um desempenho melhor, mas o que muitas vezes não estamos dispostos a admitir é que a criação de uma equipe diversificada exige muito trabalho. Ainda mais quando não parece uma prioridade.

Mas não temos mais tempo para apenas concordar que a diversidade não existe e que não somos enviesados racialmente, precisamos mudar esse cenário, cada um pode contribuir e talvez no seu trabalho esse movimento possa começar por você, e ai bora?

Não perca novos artigos no site e no podcast!
Não quero mais ver isso
Patrocinado:
Dados computados com sucesso!

(Essa mensagem não foi escrita por um UX Writer)
Vixi Maria! Algo errado não está certo...

Pode tentar de novo?

Se não conseguir, pode memandar um email que eu coloco seu nome da neswletter nem que seja na base do papel e caneta!

Vitor Guerra
vitor@pulegada.com.br
Karen Santos
Product Designer
,
PicPay

Product Designer no PicPay. CEO da comunidade Ux para Minas Pretas, Owner da Neegrow. Coordena, desenvolve e atua em iniciativas voltadas ao Design, Tecnologia e Feminismo/Movimento Negro. Já desenvolveu projetos para Ministério Público do Trabalho, ONU Mulheres, Disney, Nickelodeon, Cartoon Network, GPA, Discovery Kids, Globo, BBI entre outros.

A história por trás do Design 2020, via Design Team

Design de produtos digitais em agências

Marcela Hippe
Revisado após a pandemia
disponível em áudio
Marcela Hippe

How might we…. Como [nós, designers] podemos construir um 2020 para nos orgulhar?

Letícia Pires
Revisado após a pandemia
disponível em áudio
Letícia Pires

Desenhando para gigantes

Fares Hid Saba Junior
Revisado após a pandemia
disponível em áudio
Fares Hid Saba Junior

Acessibilidade com foco no usuário

Elias Fernandes
Revisado após a pandemia
disponível em áudio
Elias Fernandes

Design estratégico - como a percepção sistêmica torna meu trabalho mais eficiente

Vilma Vilarinho
Revisado após a pandemia
disponível em áudio
Vilma Vilarinho

Chegou a hora da nossa gente bronzeada mostrar seu valor

Guilhermo Reis
Revisado após a pandemia
disponível em áudio
Guilhermo Reis

Por que você precisa fazer a lição de casa

Mao Barros
Revisado após a pandemia
disponível em áudio
Mao Barros

Desenhando o futuro

Natalí Garcia
Revisado após a pandemia
disponível em áudio
Natalí Garcia

Mais atividades, mais designers (e mais dificuldades)

Guilherme Gonzalez
Revisado após a pandemia
disponível em áudio
Guilherme Gonzalez

O papel do designer está um pouco amassado. Como ele estará no futuro?

Caio Calderari
Revisado após a pandemia
disponível em áudio
Caio Calderari

Empreendedorismo feminino em UX Design

Patricia Prado
Revisado após a pandemia
disponível em áudio
Patricia Prado

Design como um todo

Roberta Nascimento de Carvalho
Revisado após a pandemia
disponível em áudio
Roberta Nascimento de Carvalho

Escolhi ser designer no Brasil, e agora?

Bernardo Carvalho Wertheim
Revisado após a pandemia
disponível em áudio
Bernardo Carvalho Wertheim

O criatividade das cavernas

Thalita Lefer
Revisado após a pandemia
disponível em áudio
Thalita Lefer

Você não sabe nada

Bruno Rodrigues
Revisado após a pandemia
disponível em áudio
Bruno Rodrigues

Caminhos; experiências e narrativas

Clécio Bachini
Revisado após a pandemia
disponível em áudio
Clécio Bachini

É hora de falar de ética na construção produtos digitais

Ana Coli
Revisado após a pandemia
disponível em áudio
Ana Coli

Vamos criar novos líderes?

Claudia Mardegan
Revisado após a pandemia
disponível em áudio
Claudia Mardegan

O bom design começa dentro de casa

Rodrigo Peixoto
Revisado após a pandemia
disponível em áudio
Rodrigo Peixoto

Os assistentes de voz e os desafios de desenhar interfaces conversacionais em 2020

Karina Moura
Revisado após a pandemia
disponível em áudio
Karina Moura

O que é o design centrado no usuário se não são as pessoas?

Priscila Siqueira de Alcântara
Revisado após a pandemia
disponível em áudio
Priscila Siqueira de Alcântara

A (in)visibilidade da acessibilidade e inclusão nos eventos de Design

Ana Cuentro
Revisado após a pandemia
disponível em áudio
Ana Cuentro

Aprenda a atender expectativas e nunca mais (ou quase) lide novamente com frustrações!

Marcelo Sales
Revisado após a pandemia
disponível em áudio
Marcelo Sales

Acessibilidade como ponte de empatia para o diverso

Livia Cristina Gabos Martins
Revisado após a pandemia
disponível em áudio
Livia Cristina Gabos Martins

Os desafios da pesquisa compartilhada

Desirée Sant'Anna Maestri
Revisado após a pandemia
disponível em áudio
Desirée Sant'Anna Maestri

O que você precisa saber sobre métricas para ser um UXer com uma visão 20/20

Allan Cardozo
Revisado após a pandemia
disponível em áudio
Allan Cardozo

O iminente estouro da bolha de UX

Thomaz Rezende Gonçalves
Revisado após a pandemia
disponível em áudio
Thomaz Rezende Gonçalves

Dia da Marmota

Daniel Furtado
Revisado após a pandemia
disponível em áudio
Daniel Furtado

O Design System nasceu! E agora? Como manter ele funcionando?

Thaise Cardoso
Revisado após a pandemia
disponível em áudio
Thaise Cardoso

UX Como SAC

Richard Jesus
Revisado após a pandemia
disponível em áudio
Richard Jesus

Ética e Privacidade: UX Research em Cidades Inteligentes

Raquel Cordeiro
Revisado após a pandemia
disponível em áudio
Raquel Cordeiro

Eurocentrismo, Identidade e Negritude

Wagner Silva
Revisado após a pandemia
disponível em áudio
Wagner Silva

Como foi seu dia de trabalho?

Paola Sales
Revisado após a pandemia
disponível em áudio
Paola Sales

Reflexões sobre desenho de experiências com Inteligência Artificial e voz

Melina Alves
Revisado após a pandemia
disponível em áudio
Melina Alves

A visão cliente é o ponto de intersecção dos meus “dois mundos”

Denise Rocha
Revisado após a pandemia
disponível em áudio
Denise Rocha

O poder da visão holística e do posicionamento estratégico do UX

Priscilla Albuquerque
Revisado após a pandemia
disponível em áudio
Priscilla Albuquerque

Uma visão holística de Acessibilidade, UX e Dados como soluções que atendam a todos

Liliane Claudia
Revisado após a pandemia
disponível em áudio
Liliane Claudia

Formação e organização de times de Design

Victor Zanini
Revisado após a pandemia
disponível em áudio
Victor Zanini

Projetar para durar. Uma análise crítica da nossa profissão e dos produtos que projetamos

Filipe Landu Nzongo
Revisado após a pandemia
disponível em áudio
Filipe Landu Nzongo

O Design está morto. Longa vida ao Design!

Al Lucca
Revisado após a pandemia
disponível em áudio
Al Lucca

A natureza contraditória de um Product Owner

Hélio Basso
Revisado após a pandemia
disponível em áudio
Hélio Basso

Seu produto é honesto com o usuário?

Flávio Pires
Revisado após a pandemia
disponível em áudio
Flávio Pires

Desenhar telas não vai salvar o mundo

Bruna Amancio
Revisado após a pandemia
disponível em áudio
Bruna Amancio

Como fugir da mediocridade

JP Teixeira
Revisado após a pandemia
disponível em áudio
JP Teixeira

A importância de UI Design em um produto digital e a sua relação com UX

David Arty
Revisado após a pandemia
disponível em áudio
David Arty

Os próximos desafios do design

Anderson Gomes da Silva
Revisado após a pandemia
disponível em áudio
Anderson Gomes da Silva

Design como ferramenta de exclusão social

Diego Rezende
Revisado após a pandemia
disponível em áudio
Diego Rezende

O choque das gerações para a liderança de design

Rodrigo Lemes
Revisado após a pandemia
disponível em áudio
Rodrigo Lemes

Indo além das boas práticas de User Experience Design

Rafael Miashiro
Revisado após a pandemia
disponível em áudio
Rafael Miashiro

UX das Coisas: IoT, design e tecnologia na era dos dados

Thiago Barcelos
Revisado após a pandemia
disponível em áudio
Thiago Barcelos

Designers em (form)ação

Thiago Esser
Revisado após a pandemia
disponível em áudio
Thiago Esser

Machine Learning e UX: insights e aprendizados (até agora…)

Carla De Bona
Revisado após a pandemia
disponível em áudio
Carla De Bona
Design 2020 também está disponível como podcast.

Updates
periódicos!
Ouça no Spotify