A governança da Inteligência Artificial (IA) é uma nova disciplina, dada a sua recente expansão. É diferente das práticas padrão de governança de TI, pois se preocupa com o uso responsável da IA.
A governança de IA é uma estrutura abrangente que gerencia o seu uso com um grande conjunto de processos, metodologias e ferramentas. O objetivo da governança da IA não se limita apenas a garantir o seu uso eficaz. Na verdade, o escopo é muito maior e abrange gerenciamento de risco, conformidade regulatória e uso ético da IA.
É importante observar a distinção entre governança de IA e a regulamentação de IA. A regulamentação refere-se às leis e regras feitas por um governo ou regulador que se aplicam a todas as organizações que estão sob sua alçada. Já a governança da IA se refere a como ela é gerenciada em um contexto organizacional.
Prós e contras do aprendizado profundo
As organizações já possuem práticas maduras de governança de TI. Então, por que eles precisam de governança de IA? A governança de IA pode compartilhar algumas práticas com a governança de TI, mas é uma disciplina distinta, principalmente neste estágio inicial de adoção e maturidade da IA.
Na linguagem popular, a IA se refere ao aprendizado profundo, ou abordagens de aprendizado de máquina que dependem de redes neurais artificiais, devido à sua preponderância. A ideia central do aprendizado profundo é que as regras de tomada de decisão são derivadas de dados e não codificadas por humanos, o que é a norma em sistemas tradicionais de TI. Melhorias dramáticas na precisão e desempenho próximo ao humano são observadas quando o aprendizado profundo executa tarefas estritamente definidas em áreas como processamento de linguagem, reconhecimento de imagem e de fala.
Os sistemas automatizados de tomada de decisão que usam esses recursos de IA estão se tornando quase onipresentes. Os algoritmos decidem as sugestões de compras das pessoas, feeds de notícias, solicitações de emprego, decisões de crédito, recomendações de saúde e muito mais.
A IA e a automação que ela permite trazem grandes benefícios do ponto de vista comercial, mas também há desvantagens a serem consideradas. Ao contrário das regras codificadas, o "porquê" por trás de uma decisão de aprendizado profundo não é intuitivo nem facilmente entendido. Portanto, a referência à IA ser uma caixa preta.
Existem outras limitações além da falta de transparência:
As coisas mudam no mundo real o tempo todo, e os padrões ou relacionamentos que um sistema de IA aprendeu podem não ser mais aplicáveis.
Os dados do mundo real geralmente são diferentes dos dados usados para treinar modelos de IA.
Os modelos de IA funcionam bem apenas para determinados grupos de públicos - não para todos. Isso é chamado de viés de IA ou viés algorítmico.
Em todos esses cenários, as decisões automatizadas provavelmente estão incorretas, mas as organizações continuam confiando nelas sem corrigir seus algoritmos. A governança de IA pode compartilhar algumas práticas com a governança de TI, mas é uma disciplina distinta, principalmente neste estágio inicial de adoção e maturidade da IA.
A necessidade de governança de IA
À medida que a adoção da IA aumenta, há um reconhecimento crescente de seus pontos fortes e limitações. Os governos estão introduzindo novos regulamentos e diretrizes para evitar os danos causados pelo uso indevido intencional e não intencional da IA.
O uso incorreto da IA pode expor uma organização a riscos operacionais, financeiros, regulatórios e de reputação. Também é improvável que esteja alinhado com os valores centrais da sua organização.
A natureza única da IA exige a criação de proteções para garantir que a IA funcione conforme o esperado. Esse é o principal mandato para a governança de IA. Após alguns anos de experiência na implementação e dimensionamento de aprendizado profundo na empresa, os manuais de governança de IA e as melhores práticas estão começando a surgir agora. Alguns exemplos proeminentes incluem o seguinte:
A empresa farmacêutica Novartis, que contratou uma equipe multidisciplinar de especialistas para examinar o uso de sistemas de IA em toda a cadeia de valor farmacêutico e definir sua posição sobre o uso de IA de maneira responsável e ética, alinhada ao código de ética geral da empresa;
IEEE, a maior organização profissional técnica do mundo para o avanço da tecnologia, que criou os padrões de negócios Ethically Aligned Design, cobrindo desde a necessidade de ética da IA nos negócios até as habilidades e pessoal necessários;
O Montreal AI Ethics Institute, uma organização sem fins lucrativos, que produz regularmente "relatórios de ética do estado da IA" e ajuda a democratizar o acesso ao conhecimento de ética da IA; e
O governo de Cingapura, que foi pioneiro e lançou o Modelo de Governança de IA para fornecer orientações práticas para o setor privado sobre como abordar questões éticas e de governança nas implantações de IA.
A governança de IA não é apenas trabalho de engenheiros de software ou especialistas em aprendizado de máquina. É multidisciplinar, envolvendo atores técnicos e não técnicos. A governança de IA é relevante para usuários finais nos setores público e privado, bem como para fornecedores de software de IA.
Algumas organizações progressistas estão até tornando a governança da IA parte integrante de sua governança corporativa e estratégias ambientais, sociais e de governança, porque envolve como uma organização deve implementar os princípios éticos da IA e garantir o seu uso responsável.
Kommentare