Web Summit: “somos terríveis a prever as consequências da tecnologia”

A tecnologia não é intrinsecamente neutra – no momento em que é aplicada, a forma como a aplicamos, o propósito que lhe damos, e as consequências por ela causadas conferem-lhe peso ético. Este é um tema há muito debatido, e o que trouxe ao palco Rebecca Parsons, CTO da ThoughtWorks, no primeiro dia do Web Summit. Na sua apresentação “Winning as a Responsable Company”, Parsons partilhou um estudo que a ThoughtWorks realizou em conjunto com a MIT Technology Review sobre o papel estratégico da tecnologia responsável, bem como os obstáculos à sua adoção.

O estudo define tecnologia responsável como o resultado da consideração ativa dos valores, consequências não intencionais, e impactos negativos da tecnologia, de forma a mitigar os possíveis riscos e danos nas comunidades afetadas pela tecnologia.

“Enquanto tecnólogos, somos terríveis a prever as consequências das tecnologias que criamos,” refere a responsável. 

Uma das questões abordadas por este estudo é o motivo pelo qual as empresas respondentes se preocupam com a ética na tecnologia. A resposta mais frequente é a compliance: preocupam-se porque a isso são obrigadas.

No entanto, apesar destas preocupações terem começado com a compliance, muitos negócios estão a compreender o valor estratégico da tecnologia ética e responsável, não só para transmitir uma melhor mensagem para o mercado como também para atrair investidores. E para isso têm de se perguntar:  o que está a acontecer com

Há também a questão da proteção da marca – os resultados negativos da tecnologia podem causar danos à imagem da empresa. Do mesmo modo, reforça a responsável, isto implica não só proteger como promover a imagem de marca, especialmente em termos de employer brand, e no que toca à gen z – num cenário de escassez de talentos, os colaboradores podem facilmente abandonar uma organização se sentirem que não se identificam com os seus valores, incluindo a sua responsabilidade e ética.

Parsons relata um caso de um cliente com que trabalhou, um banco australiano, que na altura estava a tentar, no fundo, construir um manifesto do que poderia ou não fazer com os dados do cliente. No início, previam completar o projeto em três meses – seis meses depois, durante a primeira reunião com a consultora, previam acabar nos três meses seguintes.

“Estas coisas são difíceis, porque têm de se deparar com questões como escolher entre o lucro e a ética. Nem sempre é possível ter ambos. Tudo isto demora tempo e requer, acima de tudo, transparência.”

Entre as barreiras à adoção de práticas éticas, o estudo aponta principalmente para a falta de suporte e consciencialização da liderança de topo. Tudo o que requeira investimento de fundos e tempo requer o suporte dos decisores da empresa, e isto requer que eles compreendam a necessidade destes investimentos, algo que nem sempre é fácil de conseguir. Em segundo lugar, vem também a resistência da própria organização à mudança, incluindo em termos da própria literacia digital.

“Muitas pessoas ainda acreditam que um algoritmo é por natureza imparcial, sem consciência de que o algoritmo foi escrito e treinado com pessoas e, como tal, está sujeito às suas falhas de julgamento.”

Como tal, investir na transparência acima de tudo, em saber o motivo por detrás de cada decisão tomada por um algoritmo, e quem é responsável por essa decisão ter sido tomada, é o eixo de qualquer esforço de ética na tecnologia. Noutras palavras, a tecnologia é o quisermos fazer dela e, como tal, torná-la responsável e ética está nas mãos de cada pessoa responsável pela sua conceção e aplicação:

“Podemos tornar a tecnologia mais responsável se acreditarmos que podemos, e insistirmos em fazê-lo,” conclui. “E temos de insistir.”