A intersecção entre inteligência humana e inteligência artificial (IA), no contexto de conselhos e da governança corporativa, enfatiza a importância de se desenvolver um novo mindset e estruturas que permitam aos líderes absorverem e aplicarem as inovações que a IA possibilita.

No cenário atual, marcado pela dominância da IA, líderes não podem subestimar sua influência determinante. A ascensão da IA Generativa indica que ela não é um adendo, mas sim ferramenta estratégica essencial.

Integrar a IA às operações de forma ética e otimizada é mais desafiador do que meramente adotá-la. A confiança deve ser fortalecida através de práticas transparentes e da capacitação dos ecossistemas interno e externo sobre as mais recentes inovações tecnológicas.

Por outro lado, a trajetória da IA traz desafios. Recursos significativos, planejamento e adequação da cultura organizacional são indispensáveis para sua implementação e redução de riscos, entre eles os seguintes riscos éticos materiais:

- Riscos de razões instrumentais, associados a decisões incorretas resultantes de erros de alocação (por uso de bases de dados discriminatórias), depreciação (por menorização de grupos específicos), e qualidade de coleta de dados.

- Riscos associados à legitimação, associados à geração de decisões ininteligíveis, com outputs de difícil compreensão, ou por processamento de dados pessoais, com significativo impacto sobre o controle da finalidade de uso.

A implementação da IA Generativa, por sua vez, apresenta preocupações éticas equivalentes, conforme a seguir:

- Viés e discriminação, resultando em tratamento assimétrico entre grupos.

- Geração de dados pessoais, que podem ser usados com propósitos sombrios.

- Mal uso, através da criação de fake news ou deepfakes.

- Ausência de explicabilidade e responsabilização.

- Substituição do trabalho humano, particularmente em categorias associadas a trabalhos administrativos, com impactos significativamente maiores sobre mulheres.

- Aumento da desigualdade social, por exclusão de acesso de vulneráveis à tecnologia.

Assim, a implementação de estratégias, para a mitigação de tais preocupações, deve incluir frameworks éticos, que estabelecem os princípios e valores organizacionais que guiam os processos de tomada de decisão; governança de dados robusta e supervisão humana sobre os processos de desenvolvimento, teste e implementação; transparência sobre o treinamento dos sistemas; garantia do direito à revisão humana; monitoramento contínuo; e capacitação de trabalhadores.

Particularmente com relação ao framework ético, os seguintes princípios e valores devem ser preservados, conforme artigo Setting the stage for a responsible AI framework (Preparando o terreno para uma estrutura de IA responsável, em tradução livre), publicado pela Quantum Black AI by McKinsey:

- Justo, equitativo e centrado no ser humano.

- Interpretável e documentado.

- Responsável e transparente.

- Preciso e confiável.

- Seguro e ético, priorizando a segurança da vida humana, da saúde, da propriedade e do meio-ambiente.

- Protegido e resiliente, mitigando ameaças de segurança cibernética, de privacidade, e de confidencialidade.

Para garantir a observância dos princípios e valores acima relacionados, legislações pátrias já existentes podem ser aplicadas, ainda que parcialmente. De fato, modelos específicos de regulação estão em evidência em diversos países, a partir de abordagem centrada em riscos, e do uso de princípios, tais como o da não maledicência, do reforço em segurança e transparência e da gradação da gravidade do impacto.

Historicamente, as regulações surgiram em resposta a avanços tecnológicos. Dessa forma, não há modelo universal de competência reguladora da IA, observando-se regulações centralizadas na esfera federal, descentralizadas em agências reguladoras setoriais, híbridas, e/ou autorreguladas pela iniciativa privada.

Nesse contexto, o debate se concentra no equilíbrio entre a necessária regulamentação e a otimização dos benefícios proporcionados pela IA, dentro do framework ético apresentado, sem sufocar o avanço tecnológico.

Como toda tecnologia disruptiva, a IA traz desafios para conselhos, que devem familiarizar-se com esta tecnologia, identificando sua contribuição para o alcance da ambição organizacional; assegurando seu uso responsável; prevenindo crises; analisando tendências para ações antecipadas; monitorando conformidade com leis e políticas internas; estimulando seu uso; ressaltando seus diferenciais competitivos; revisando o apetite ao risco da organização, em relação à IA e, quando aplicável, fazendo os devidos ajustes; definindo a estrutura interna que criará ecossistemas de IA com os stakeholders; apoiando a criação, implantação e desenvolvimento de comitê de riscos de IA; e garantindo atualização de práticas e políticas, de acordo com a maturidade de uso.

Concluímos que a governança da IA é um requerimento estratégico para garantia da sustentabilidade, prosperidade e longevidade das organizações.

Sobre os autores: Ana Zamper (Comissão de Inovação), Durval Jacintho, Edmo Colnaghi Neves, Isabela Hollanda e Keila Faim (Comissão de Ética na Governança) são associados que integram os Espaços Colaborativos do IBGC.