De acordo com uma pesquisa recente realizada pela Deloitte, 57% dos entrevistados de organizações “em amadurecimento digital” dizem que seus líderes passam o tempo adequado pensando e comunicando o impacto social das iniciativas digitais.
O contexto em que vivemos
A tecnologia digital mudou nossa sociedade de maneiras incalculáveis. De telefones celulares a mídias sociais e e-mails, nossas vidas inteiras agora são moldadas pela tecnologia de maneiras que podemos nem estar completamente cientes.
No entanto, quanto mais a tecnologia digital permeia nosso mundo, mais as pessoas ficam preocupadas com seus efeitos negativos. O deslocamento de trabalhadores, a privacidade de dados, o aumento da desinformação, a crise ambiental e a emergência global de saúde mental podem ser, pelo menos em parte, atribuídos à crescente prevalência da tecnologia em todas as facetas da sociedade.
Nem tudo é o que aparenta ser
Embora muitos desses males sociais sejam mais frequentemente associados a plataformas populares de mídia social, sistemas de jogos e aplicativos móveis, a verdade é que mesmo a tecnologia aparentemente mais benigna pode, intencionalmente ou não, ser facilmente armada para causar danos.
Além disso, o sucesso da transformação digital depende da confiança das partes interessadas. Se usuários e clientes não confiarem em sua organização ou na tecnologia que você utiliza, sua transformação digital e seus negócios provavelmente falharão.
E não estamos sozinhos em pensar isso. De acordo com uma pesquisa recente realizada pela Deloitte, 57% dos entrevistados de organizações “em amadurecimento digital” dizem que seus líderes passam o tempo adequado pensando e comunicando o impacto social das iniciativas digitais.
Além disso, além dos resultados, as estruturas de ética também devem considerar fontes de dados, métodos de computação, uso de tecnologia, segurança/risco operacional e suposições na tomada de decisão automatizada.
Além da proteção de dados e privacidade
Desnecessário será dizer que as práticas comerciais éticas começam com a conformidade. No entanto, quando se trata de proteção e privacidade de dados, o uso ético de dados é mais do que apenas uma obrigação regulatória, é um imperativo estratégico. Afinal, aplicativos e automações orientados a dados são tão bons quanto os dados que ingerem.
Com isso em mente, as organizações com visão de futuro estão desenvolvendo e implementando diretrizes abrangentes de ética de dados para ajudar a garantir que a tecnologia digital e a IA não causem danos não intencionais.
Impacto no local de trabalho
Uma das maiores preocupações em torno da automação inteligente e da transformação digital é que a nova tecnologia irá substituir os trabalhadores humanos. Verdade seja dita, esse medo não é infundado.
De acordo com a Forrester, a automação substituirá 12 milhões de empregos nos EUA até 2025. Além disso, a automação tem sido associada à diminuição dos salários, estagnação econômica e efeitos mentais adversos.
Caso em questão, como descrevemos em um artigo anterior sobre o esgotamento no local de trabalho, 45% dos trabalhadores dos EUA dizem que a tecnologia que usam no trabalho não facilita seu trabalho e, na verdade, estão muito frustrados com isso.
Chegou a hora de as organizações avaliarem a tecnologia digital não apenas pelo valor que traz aos acionistas, mas por seu impacto potencial em sua força de trabalho humana.
No centro desse esforço está o alinhamento de TI/negócios. Ao trabalhar em estreita colaboração com as unidades de negócios para garantir que novos investimentos digitais impulsionem os objetivos de negócios e a experiência dos funcionários, a TI pode aumentar as taxas de adoção e as chances de sucesso geral.
Impacto ambiental
Não há dúvida sobre isso, a proliferação da tecnologia digital está exacerbando muitas, se não todas, as crises ambientais mais urgentes do mundo. Do impacto ambiental desastroso da mineração de metais raros às quantidades impressionantes de energia que um único modelo de IA consome, a tecnologia digital de todos os tipos traz custos ambientais substanciais.
Embora calcular o impacto ambiental da tecnologia digital possa ser incrivelmente difícil e complexo, organizações e pesquisadores estão começando a fazer exatamente isso.
Grandes empresas de tecnologia como Apple, Meta e Google fizeram promessas ambiciosas em relação à redução de suas pegadas de carbono. Embora algumas de suas alegações sejam um pouco duvidosas, elas aumentaram significativamente a eficiência de GPUs, TPUs e outras tecnologias de processamento de dados.
Não é apenas a tecnologia, é a cultura
À medida que a IA e a automação se tornam mais prevalentes, o mesmo acontece com os escândalos envolvendo suas consequências não intencionais.
Tomemos, por exemplo, a recente saga de conselheiros-robôs de Charles Schwab. Em junho de 2022, Charles Schwab concordou em pagar US$ 187 milhões para encerrar uma investigação da SEC sobre supostas taxas ocultas cobradas pelo consultor robótico da empresa, Schwab Intelligent Portfolios.
Conforme relatado pelo Washington Post, “A Securities and Exchange Commission acusou a Schwab – que controla US$ 7,28 trilhões em ativos de clientes – de desenvolver produtos de consultoria automatizados que recomendavam aos investidores manter de 6% a 29,4% de suas participações em dinheiro, em vez de investi-las em ações. ou outros títulos.
Os investidores poderiam obter uma renda significativa se esse dinheiro tivesse sido investido; em vez disso, Schwab usou o dinheiro para emitir empréstimos e cobrar juros sobre esses fundos”. Em outras palavras, foi [supostamente] projetado para ganhar dinheiro com Charles Schwab, não com o cliente. Embora o acordo não exija que Charles Schwab admita qualquer irregularidade, é fácil ver como algo assim poderia acontecer facilmente.
Os humanos por trás da tecnologia (por exemplo, programadores, profissionais de marketing de produtos etc.) são condicionados desde o primeiro dia em que entram no mercado de trabalho a priorizar a lucratividade acima de tudo. É natural que esses preconceitos se reflitam na tecnologia que eles criam.
No entanto, isso não significa que esses resultados não podem ser evitados. Ao integrar a tomada de decisões éticas em todas as etapas do processo de desenvolvimento e operacionalização, você pode minimizar os riscos relacionados à ética.
Adaptado por BP Business Performance
Comments