Artigo: Empresas precisam equilibrar inovação com segurança para avançar em IA

A transformação promovida pela IA generativa e priorizada pelas empresas traz uma tensão silenciosa: a diferença entre expectativa e realidade. Mensurar o ROI para GenAI é uma tarefa complexa, ampliada pela necessidade de quantificar ativos intangíveis e prever benefícios no longo prazo. Isso faz com que a jornada de adoção da IA, que passou a incluir IA agêntica (agentes com autonomia para tomar decisões e realizar ações), dependa muito da visão e capacidade estratégica do CIO (Chief Information Officer).

No cenário de implementação da IA, o CIO deve ocupar papel de protagonismo, operando em alguns momentos como parceiro estratégico, em outros como orquestrador e ainda assumindo a postura de elemento inovador. Os CIOs devem olhar para o contexto, a escala de transformação (completa ou focada em funções), casos de uso e estabelecer o nível de envolvimento. A pressão dos boards e do mercado para avançar em IA é altíssima, mas grande parte das organizações ainda luta com problemas estruturais: dados desorganizados, falta de governança consistente, incertezas regulatórias e lacunas de talento técnico.

Ao embarcar em sua jornada de IA, as organizações precisam equilibrar soluções inovadoras com medidas de segurança. O estudo “2024 CIO Sentiment Survey” mapeou uma série de preocupações dos CIOs: 

• ROI incerto: apenas 49% acreditam que a IA generativa trará aumento substancial de valor à organização.
• Governança limitada: modelos descentralizados de IA com centros de excelência (CoE) são os mais adotados pelas empresas líderes, mas 32% das organizações ainda não têm modelo algum de governança implementado.
• Riscos reputacionais e de conformidade: questões legais, éticas e de privacidade inibem o avanço rápido da GenAI, principalmente entre empresas de médio porte.
• Explicabilidade e confiabilidade: a ausência de transparência nos modelos ainda gera desconfiança quanto à tomada de decisão automatizada.
• Falta de talentos: apenas 11% das empresas estavam contratando para funções específicas de GenAI, e só 8% para IA em geral, no fim do ano passado.

*Este artigo foi publicado inicialmente no The Shift.