Cinco gerações, uma cultura: O desafio da inclusão

O AI Act traz regras claras para o uso de IA na Europa. Mais do que regras é um é um sinal claro sobre como as organizações devem adotar IA com responsabilidade, confiança e foco no impacto nas pessoas.

Se durante os últimos anos a discussão sobre Inteligência Artificial esteve centrada no potencial, entramos agora numa nova fase: a da responsabilização.

A aprovação do AI Act - o Regulamento (UE) 2024/1689 - marca um ponto de viragem. Não apenas por ser o primeiro enquadramento legal abrangente sobre IA a nível global, mas porque estabelece, de forma inequívoca, que inovação sem confiança não escala.

Na prática, a União Europeia está a fazer algo mais profundo do que regulamentar tecnologia: está a definir um modelo de adoção. Um modelo que procura equilibrar velocidade com responsabilidade, colocando os direitos fundamentais e a transparência no centro da equação.

Ao contrário de abordagens centradas exclusivamente na tecnologia, o AI Act introduz uma lógica baseada no risco. Nem todos os sistemas de IA são tratados de igual forma. O regulamento classifica-os em diferentes níveis - desde risco mínimo até risco inaceitável - sendo estes últimos proibidos, enquanto os sistemas de maior impacto ficam sujeitos a requisitos mais exigentes.

Esta diferenciação permite equilibrar inovação com proteção, assegurando que a regulação não bloqueia a evolução, mas orienta-a, sobretudo na gestão de pessoas, em contextos críticos como por exemplo ao nível do recrutamento, formação, avaliação de desempenho, entre outros, onde o impacto sobre as pessoas é mais relevante.

Para as organizações, este enquadramento levanta uma questão crítica: estamos preparados para operacionalizar a IA de forma responsável? Mais do que um exercício jurídico, o AI Act exige uma resposta integrada entre estratégia, tecnologia e pessoas.

A pergunta deixa de ser “podemos usar IA?” para passar a ser “conseguimos explicar, controlar e justificar o seu uso?”.

Porque cumprir o AI Act não é apenas garantir documentação ou cumprir requisitos legais. Implica, desde logo, saber onde a IA está. Mais do que isso: compreender o impacto que tem, classificar o nível de risco e adaptar os processos em conformidade - uma preocupação já destacada pelas principais orientações europeias para a implementação do regulamento.

Implica também rever modelos de decisão. A introdução de IA em processos críticos obriga a repensar a forma como as decisões são tomadas, validadas e auditadas. O “human in the loop” deixa de ser uma boa prática e passa a ser uma exigência concreta em muitos contextos de maior risco.

Mas talvez o impacto mais significativo esteja nas pessoas. O AI Act vem reforçar algo que já era evidente: não basta implementar tecnologia. É necessário desenvolver literacia para a utilizar de forma crítica e responsável. A própria regulamentação introduz requisitos associados à capacitação e compreensão da IA nas organizações, o que irá traduzir-se em necessidades como:

• formar equipas para interpretar e questionar outputs de IA;
• garantir critérios claros na utilização de algoritmos em decisões com impacto nas pessoas;
• reforçar uma cultura de transparência e responsabilidade.

Ignorar esta dimensão terá custos. Não apenas ao nível de compliance, mas ao nível da confiança interna e externa.

Tal como aconteceu com o RGPD, as organizações que incorporarem estes princípios de forma estruturada estarão melhor posicionadas para transformar o compliance em vantagem competitiva.

Porque num mercado onde a diferença tecnológica tende a diminuir, a confiança passa a ser o verdadeiro diferenciador.

Em suma, o AI Act é mais do que um enquadramento legal. É um teste de maturidade. E as organizações que o entenderem como tal não estarão apenas a cumprir - estarão a liderar.