Artigo: Parceiro de IA também precisa se preocupar com cibersegurança

A integração de inteligência artificial nas operações da organização é uma tendência que atende não apenas à demanda por novas tecnologias, mas também aos princípios de segurança cibernética. O “X” da questão é como fazer essa integração. Para os Chief Information Security Officers (CISOs), encontrar parceiros confiáveis na implementação de soluções de IA é fundamental para garantir que a segurança digital da empresa não seja comprometida.

Identificar parceiros confiáveis na integração de IA requer um entendimento profundo das preocupações relacionadas à segurança cibernética, bem como uma abordagem proativa na avaliação desses parceiros. Nesse processo, os CISOs desempenham um papel central, garantindo que as medidas adequadas estejam em vigor para proteger os ativos digitais da empresa enquanto se aproveitam as oportunidades oferecidas pela inteligência artificial.

A segurança cibernética deve permear toda a estrutura do negócio. Por isso, as organizações com funções cibernéticas eficazes, que a EY define como “Secure Creators”, olham para todos os detalhes da operação e da segurança cibernética, o que inclui a cadeia de fornecedores. 

Márcia Bolesina, sócia-líder da área de cibersegurança da EY Brasil, diz que os “secure creators” são empresas que não presumem que o risco cibernético é problema dos provedores de serviço. “Eles olham para essas questões, para os ambientes de nuvem e para o ambiente de terceiros proativamente”, explica. Isso significa que os critérios de segurança cibernética têm que ser observados na hora de avaliar e iniciar uma parceria.

Questionário básico para avaliar parceiros

O CISO precisa fazer uma série de perguntas aos potenciais parceiros para entender como podem construir juntos um ambiente seguro. Da busca inicial por fornecedores até a tomada de decisão, ao considerar um parceiro para integração de IA, os CISOs devem fazer perguntas específicas para garantir a segurança e a confiabilidade:

1) Qual é a origem dos dados utilizados pelo seu produto?
É fundamental entender a fonte dos dados e como eles são coletados e processados.

2) Quais medidas de segurança estão em vigor para proteger esses dados?
Pergunte sobre criptografia, controle de acesso e outras práticas de segurança implementadas.

3) Como vocês garantem a precisão dos dados utilizados em seus modelos?
A precisão dos dados é essencial para o desempenho da IA. Entender como isso é verificado representa o fundamento para uma integração de sucesso.

4) Nossos dados serão usados para treinar modelos de terceiros?
É importante saber se haverá compartilhamento de dados com outras entidades.

5) Como vocês medem o desempenho do seu sistema além da precisão?
Avaliar métricas adicionais pode fornecer uma visão mais abrangente da eficácia do parceiro.

6) Que níveis de supervisão humana são aplicados aos sistemas baseados em IA?
A supervisão humana é vital para garantir que decisões automatizadas sejam revisadas adequadamente.

7) Quais são os limites de alerta definidos para o sistema?
Definir limites ajuda a equilibrar a automação com a necessidade de vigilância humana.

*Esta é uma versão adaptada do artigo publicado inicialmente no The Shift.