Conflitos éticos causam tensão no Vale do Sílicio

Funcionários de gigantes do setor tecnológico questionam executivos sobre a finalidade dos produtos desenvolvidos; no Google, pesquisador pediu demissão após descobrir que seu projeto poderia contribuir para censura na internet chinesa

Jack Poulson, pesquisador sênior do Google, ficou alarmado recentemente com relatos de que a empresa estava desenvolvendo um mecanismo de busca para a China que censuraria o conteúdo a pedido do governo. Embora trabalhe com tecnologias de busca, Poulson não tinha conhecimento do produto, cujo codinome é Dragonfly. Em uma reunião no mês passado com Jeff Dean, chefe de inteligência artificial da empresa, o pesquisador perguntou se o seu trabalho contribuiria para a censura no país asiático.

Segundo Poulson, Dean afirmou que o Google atendeu aos pedidos de vigilância do governo americano e ainda perguntou retoricamente se a empresa deveria deixar o mercado dos Estados Unidos em protesto. Dean também compartilhou um rascunho de um e-mail corporativo que dizia: "Não iremos e não devemos oferecer 100% de transparência para cada usuário do Google, para respeitar nossos compromissos com a confidencialidade do cliente e dar às equipes de produto a liberdade de inovar". Poulson pediu demissão no dia seguinte. Dean e o Google se recusaram a comentar o caso.

- A maioria das pessoas não conhece o escopo do que está construindo, a não ser que ocupem um cargo sênior – afirmou Poulson, que trabalhou na empresa por mais de dois anos.

EMPRESAS ACUADAS

Em todo o setor de tecnologia, funcionários estão exigindo mais esclarecimentos sobre como suas empresas estão implantando os produtos que constroem. Em gigantes como Google, Amazon, Microsoft e Salesforce, assim como em start-ups de tecnologia, engenheiros e tecnólogos questionam se esses produtos estão sendo usados para vigilância em lugares como a China ou para projetos militares.

Trata-se de uma mudança em relação ao passado, quando os trabalhadores do Vale do Silício desenvolviam produtos com poucas perguntas sobre os custos sociais. E também um sinal de como algumas empresas de tecnologia, que cresceram atendendo consumidores e empresas, estão se expandindo em direção a trabalhos para o governo.

- Você pensa que está construindo tecnologia para um único propósito, e então descobre que aquilo está sendo distorcido – disse Laura Nolan, engenheira de software que pediu demissão do Google em junho, pelo envolvimento da empresa no Projeto Maven, que visava construir inteligência artificial para o Departamento de Defesa americano usar no ataque a drones.

Situações como esta levaram a crescentes tensões entre funcionários e gerentes de tecnologia. Nos últimos meses, funcionários do Google, da Microsoft e da Amazon assinaram petições e protestaram contra executivos. E a mudança provavelmente durará: alguns estudantes de engenharia dizem estar exigindo mais respostas e fazendo perguntas semelhantes, mesmo antes de entrarem no mercado de trabalho.

- As pessoas estão procurando algum tipo de esclarecimento, não apenas os funcionários – explica Frank Shaw, porta-voz da Microsoft. – Mesmo se você não concordar com a decisão tomada, se você entender o pensamento por trás, isso ajudará muito.

Esta é a íntegra de uma reportagem de Kate Conger e Cade Metz publicada na edição de 14 de outubro de 2018 do jornal O Globo com a indicação de ter sido extraída do New York Times.

"- A maioria das pessoas não conhece o escopo do que está construindo, a não ser que ocupem um cargo sênior – afirmou Poulson, que trabalhou no Google por mais de dois anos."

- A maioria das pessoas não se importa com o escopo do que está construindo, afirmo eu, que trabalhei por 3,7 décadas na função de analista de sistemas de informações.

Por que faço tal afirmação? Porque em uma civilização (sic) apoiada em uma coisa denominada mercado de trabalho, para a maioria das pessoas, acima de qualquer interesse sobre o que se esteja construindo está o interesse em manter-se em tal mercado. E porque, para a maioria das pessoas, manter-se em tal mercado exige subordinação a uma máxima que nele vigora: manda quem pode, obedece quem tem juízo.

"Em todo o setor de tecnologia, funcionários estão exigindo mais esclarecimentos sobre como suas empresas estão implantando os produtos que constroem. (...) Trata-se de uma mudança em relação ao passado, quando os trabalhadores do Vale do Silício desenvolviam produtos com poucas perguntas sobre os custos sociais. E também um sinal de como algumas empresas de tecnologia, que cresceram atendendo consumidores e empresas, estão se expandindo em direção a trabalhos para o governo.", diz a reportagem de Kate Conger e Cade Metz.

Lido o parágrafo acima, o que opinar sobre ele? Afinal, o título deste blog é Lendo e opinando. Que no meu entender, infelizmente, são muito poucos os funcionários que agem do modo citado no parágrafo acima. Que atitudes como as de Jack Poulson e Laura Nolan são exceções no denominado mundo corporativo. Em grande parte, em função do que afirmo no segundo parágrafo acima. Quanto à relação das empresas de tecnologia com o governo, minha opinião é que ela é crescentemente apavorante.

"- Você pensa que está construindo tecnologia para um único propósito, e então descobre que aquilo está sendo distorcido – disse Laura Nolan, engenheira de software que pediu demissão do Google em junho, pelo envolvimento da empresa no Projeto Maven, que visava construir inteligência artificial para o Departamento de Defesa americano usar no ataque a drones."

Será que, nesta civilização (sic) em que sobrevivemos, ainda faz sentido pensar que estamos construindo tecnologia para um único propósito? Sim e não. Sim, se o único propósito for maléfico; não, se o único propósito for benéfico. Ou será que pensar assim pode ser atribuído à necessidade de manter-se no mercado de trabalho. Afinal, repetindo o que já foi dito alguns parágrafos acima, a civilização (sic) em que sobrevivemos apoia-se em uma coisa denominada mercado de trabalho.

Conflitos éticos causam tensão no Vale do Silício, diz o título da reportagem que provocou esta postagem. "A civilização não tem como finalidade o progresso das máquinas; mas, sim o do homem.", disse Alexis Carrel (1873-1944), cirurgião, fisiologista, biólogo e sociólogo francês que, em 1912, recebeu o Prêmio Nobel de Medicina e Fisiologia.

Considerando o Vale do Silício como a opção pelo progresso das máquinas em detrimento do progresso do homem, podemos considerar a tensão nele causada por conflitos éticos como uma decorrência natural de tal opção? Quais são as opiniões de vocês sobre tais conflitos?