Educação é a base da governança em inteligência artificial

A IA explicável é parte central de uma abordagem responsável e eficiente para o desenvolvimento dos sistemas de inteligência artificial.

A premissa é básica, mas o desafio está longe de ser trivial: os sistemas de inteligência artificial devem ser facilmente compreensíveis a todos os públicos que interagem com eles, começando pelos desenvolvedores dessas aplicações, que precisam ter clareza sobre suas características e processos de tomada de decisão. 

Para Tom Edwards, líder mundial em IA generativa na EY, a educação é a base da governança em inteligência artificial. Ela começa pelo básico, apresentando aos colaboradores que não atuam diretamente nessa área – ou não familiarizados com o tema – os principais conceitos relacionados a essa tecnologia e sua relevância atual para os negócios. “Ao mesmo tempo, os desenvolvedores precisam ser capazes de explicar o sistema criado, com conhecimento sobre seu banco de dados, por exemplo, e demais características, inclusive decisórias. É a chamada IA explicável: um conjunto de processos e métodos que permite aos públicos envolvidos com o sistema entender e confiar nas decisões e resultados apontados pelos algoritmos de aprendizado de máquina”, completa.

A IA explicável é parte central de uma abordagem responsável para o desenvolvimento de sistemas de inteligência artificial, evitando que sejam vistos como uma “caixa preta”, pela impossibilidade de se compreender suas decisões.

Em contrapartida, é comum que nem mesmo os engenheiros ou cientistas de dados criadores dos algoritmos consigam entender e explicar determinados motivos que levaram a um resultado específico. “Tenho percebido que a educação não recebe a devida importância ao longo do processo de transformação dos negócios. As empresas precisam assegurar que haja um nivelamento básico de entendimento sobre a inteligência artificial, seus riscos e oportunidades. Somente a partir daí, os colaboradores poderão pensar em soluções efetivas em suas áreas ou funções que sejam viáveis e seguras”, acrescenta Tom.

Credibilidade dos sistemas de IA

Dois elementos centrais nos principais frameworks mundiais para gestão responsável dos sistemas de IA, como o da OCDE (Organização para Cooperação e Desenvolvimento Econômico), são o human-centric AI e o trustworthy AI. O primeiro prega que os sistemas de IA sejam centrados no ser humano. O segundo defende que esses sistemas sejam confiáveis em todas as suas etapas e características. Ambos derivam da explicabilidade, pois apenas um sistema de IA que possa ser facilmente compreendido por todos os públicos inspira confiança, colocando o ser humano no centro e como sua principal razão de existir. 

Destaca-se ainda o elemento ethics by design, que coloca a ética como fator essencial desde a concepção do sistema, estando, portanto, acima de todos os outros elementos de IA. É ela que garante características como a equidade, a não discriminação, responsabilidade, prestação de contas (accountability) e transparência. 

Alinhamento multidisciplinar

Para assegurar a educação como base da governança, é essencial que se promova o alinhamento entre os diversos profissionais envolvidos na implementação dos sistemas de IA, como o CIO (Chief Information Officer), o time de privacidade, as áreas que pretendem implementar funcionalidades de IA e eventuais fornecedores.

A governança definirá tudo que precisa ser feito para garantir uma implementação segura e eficiente, o que envolve, além da educação dos colaboradores e parceiros, a abordagem e políticas corretas.

Vale destacar que, complementarmente, são desejáveis ainda as seguintes práticas: mapeamento dos riscos associados aos usos esperados do sistema e de eventuais formas de mau uso; governança dos dados utilizados; documentação sobre o funcionamento do sistema de IA e das decisões envolvidas em sua construção, implementação e uso; transparência do sistema de IA nos processos decisórios e na interpretação dos resultados; e testes que assegurem precisão, cobertura, acurácia, robustez e cibersegurança do sistema.