A ética no código nosso de cada dia


A tecnologia é agnóstica de credo, raça e orientação sexual. Será? Deveríamos ser, porém, não é bem assim que funciona e vamos explicar o porquê. Faça um teste e execute as seguintes buscas por imagens em seu buscador.

  • Bandido
  • Rico
  • Mulher
  • Homem

Provavelmente você irá reparar que, na primeira busca, a maioria das pessoas que aparecem são negras. Na segunda, a maioria será composta por homens brancos de terno. No terceiro caso, a maior parte das imagens será composta por mulheres brancas e em poses sensuais. Já no último caso, você irá encontrar homens brancos.

Isso quer dizer que a tecnologia é racista ou misógina? Não necessariamente. A tecnologia quando desenvolvida é sim agnóstica, porém, no caso dos buscadores existe uma indexação baseada em um algoritmo. Em boa parte, esta indexação é realizada por inputs dos usuários. Ou seja, a tecnologia nasce agnóstica, mas nós a tornamos preconceituosa.

Como alterar isso?

Embora a Association for Computing Machinery diga que os educadores de TI devam seguir o seguinte regime ético: “Educadores da área de computação devem incluir tópicos relacionados com ética em todos os pontos, de quaisquer disciplinas, onde forem discutidos tecnologias, métodos e técnicas que tenham ou possam ter impacto social.”, não é bem isso que vemos, pois na salas de aula o que mais prevalece é a lógica.

Entretanto, é possível ministrarmos “regras de negócio” aos nossos algoritmos de modo a adotarmos uma defesa ética para que ele não se corrompa frente à utilização dos usuários.

Por exemplo, nestes serviços de busca, ao buscarmos por mulher, poderíamos ter a regra de indexação trabalhando com uma regra de negócios que faria com que o resultado apresentado fosse dividido igualmente entre raças. Assim, não apresentaríamos majoritariamente mulheres brancas e não criaríamos vieses na sociedade dos nossos usuários.

Outro exemplo de busca: procure por “cientistas da computação”. Majoritariamente sua busca apresentará homens brancos, pouquíssimas mulheres e quase nenhum negro. Isso quer dizer que não existem mulheres e negros na computação? Bem, vejamos.

Pessoas negras na computação

Mary Winston Jackson foi uma matemática e primeira engenheira aeroespacial do National Advisory Committee for Aeronautics, que se tornou a atual NASA.

Dorothy Vaughn, matemática que fazia parte de um grupo que contava apenas com mulheres negras que trabalhavam como computadores humanos.

Katherine Johnson, matemática, trabalhou na NACAl, agência que antecedeu a NASA.

Phillip Emeagwali, matemático e cientista da computação, gênio e já eleito um dos maiores africanos de todos os tempos. Emeagwali conectou, por meio da internet, 65 mil computadores em 1998. O trabalho em conjunto dos dispositivos originou uma “supermáquina” capaz de realizar bilhões de cálculos por segundo. Tamanho poder de processamento foi usado para otimizar a exploração petrolífera dos EUA.

Mark Dean, engenheiro da computação e inventor. Trabalhando na IBM, Dean criou o Industry Standard Architecture (ISA), que permitiu a conexão entre computadores e periféricos (como a impressora). Ele também fez parte da equipe de engenheiros e projetistas que criou, em 1981, o primeiro computador pessoal da empresa (o IBM PC), tendo três das nove patentes originais da máquina.

George Edward Alcorn Jr., ganhou um Master of Science em Física Nuclear em 1963 pela Howard University, após nove meses de estudo. Também trabalhou como engenheiro de pesquisa para a Divisão Espacial da North American Rockwell. Esteve envolvido com a análise computadorizada de trajetórias de lançamento e mecânica orbital de mísseis Rockwell, incluindo o Titan I e II, o Saturno e o Nova.

Mudanças

Você pode estar pensando, mas não é culpa dos algoritmos que não existam mais negros e mulheres na computação e tecnologia. Você está certo, existem N fatores responsáveis por isso, mas nós temos na mão uma ferramenta que deveria ser agnóstica de raça, gênero e credo, então, é importante nos atentarmos a isso e protegê-la para que esse cerne não se perca.

Um dado interessante que podemos pensar a respeito é que no Brasil, segundo um levantamento do Grupo de Gênero da Escola Politécnica da USP (Poligen), em 120 anos, a USP não formou nem dez mulheres negras. Ainda, na lista das pioneiras da ciências no Brasil, criada pelo CNPQ, nenhuma das mulheres citadas é negra.

Será que, se tentarmos tornar nossa tecnologia mais agnóstica e protegê-la de interferências externas dos usuários, isso não pode mudar um pouco este cenário?


Autor: Microsoft Tech