Como a AI vai gerar valor para as pessoas, sem ter o custo humano?

A Conferência de Dartmouth, realizada em 1956, deu início a uma era dourada de intensa pesquisa em AI com o objetivo de "fazer com que uma máquina se comporte de maneiras que seriam chamadas de inteligentes se um humano se comportasse assim"^.

Impulsionados por avanços impressionantes nos primeiros dias, os pioneiros da AI, como Marvin Minsky, fizeram afirmações ousadas de que "Dentro de nossa vida útil, as máquinas podem nos superar em inteligência geral".³ Entretanto, o poder e o armazenamento limitados e caros da computação, bem como a escassez de dados, significavam que as soluções iniciais só podiam resolver problemas rudimentares. Estas limitações tecnológicas levaram à primeira AI Winter, onde o financiamento secou e os juros diminuíram. A segunda AI Inverno de 1980-87 foi precipitada quando os sistemas especializados se tornaram dispendiosos de manter e provaram ser frágeis quando confrontados com cenários invulgares.

Talvez ainda mais prejudicial foi subestimar a dificuldade de criar Inteligência Geral Artificial (AGI).

O atual renascimento da AI decorre principalmente da superação dos obstáculos tecnológicos que afligiam os esforços anteriores. No entanto, especialistas em AI hoje não estão fazendo proclamações de alcançar a AGI. Apesar de avanços significativos, Oren Etzioni, professor da Universidade de Washington e CEO do Allen Institute for AI, diz: "Estamos tão longe de... até mesmo do nível de inteligência de seis anos de idade, muito menos da inteligência humana geral completa..."4

Inteligência Estreita Artificial (ANI)

Embora a AGI possa permanecer um objetivo de longo prazo para alguns no campo, o foco e o entusiasmo atuais estão em torno da Inteligência Estreita Artificial (ANI).

O poder computacional barato e abundante, os dados digitais copiosos gerados pela proliferação da internet, bem como a descoberta de Geoffrey Hinton com aprendizado profundo, levaram a uma explosão de aplicativos ANI. Estas aplicações executam tarefas específicas únicas num contexto limitado muito bem, por vezes melhor do que os humanos. Atualmente, os algoritmos ANI estão criando valor humano, alimentando assistentes de voz digitais, conduzindo recomendações de produtos e auxiliando na detecção de câncer. Eles também expandiram o conhecimento humano, encontrando novos planetas e derivando insights a partir de dados genéticos humanos. O grande número e diversidade de aplicações ANI comerciais é talvez o que diferencia esta terceira onda de otimismo AI.

Com estas realizações sob seu cinto, a eterna "primavera" surgiu para a ANI?

Os sistemas ANI tornaram-se populares entre empresas, governos e empresários que enfrentam um corpus crescente de dados digitais à espera de serem explorados. No entanto, ao procurar obter os benefícios da produtividade e da eficiência da ANI, estas partes interessadas devem ter em conta os riscos decorrentes das deficiências da ANI e o potencial de custos humanos não intencionais. 

As críticas mais comuns à ANI incluem a incapacidade do algoritmo para raciocinar para além dos seus dados de formação e a sua propensão para propagar preconceitos humanos inerentes à medida que aprende com os dados gerados pelo homem. Embora nenhuma tecnologia seja desprovida de falhas, o custo de um erro decorrente das desvantagens da ANI pode ter consequências graves, especialmente em situações em que a decisão do algoritmo pode influenciar substancialmente o destino de um indivíduo.

Em alguns casos, os erros algorítmicos são, na pior das hipóteses, inconvenientes. Por exemplo, embora os assistentes de voz digitais tenham feito um falso passe ou dois, resultando em momentos desconfortáveis ou inquietantes para os usuários, a adoção e o uso continuam a aumentar. Por outro lado, em contextos públicos de alto nível, os erros algorítmicos tiveram resultados catastróficos e corroeram a confiança do público. Por exemplo, as mortes recentes envolvendo carros automotores amorteceram o entusiasmo e levaram a uma erosão significativa da confiança dos consumidores – um estudo realizado em 2018 concluiu que 73% dos motoristas dos EUA não confiariam num veículo totalmente autônomo, em comparação com 63% em 2017.

À medida que a tomada de decisões impulsionada pela ANI entra em outros domínios críticos, como justiça criminal, educação e recrutamento de trabalho, o preço de um erro resultou em prisões falsas, preconceitos raciais e discriminação de gênero. Se a incidência de tais erros aumentar, isso poderia levar a uma perda de confiança na tecnologia por completo e deixar essa classe de aplicações ANI vulnerável a um potencial "inverno".

Isto não é para sugerir que todo o campo da ANI vai vacilar. Como Stefan Heck, co-fundador e CEO da Nauto e EYQ Fellow sugere, "Talvez precisemos de outra categoria entre a ANI e a AGI para explicar as circunstâncias em que as falhas poderiam resultar em retrocesso social".

As definições de AI e dos seus vários sabores têm-se centrado tradicionalmente na capacidade da tecnologia de imitar ou ultrapassar as capacidades físicas e cognitivas humanas. Embora essa estrutura tenha servido para comparar a evolução da tecnologia, ela não reflete adequadamente os perfis de risco dos algoritmos quando aplicada em diferentes contextos.

Quão arriscada é a tua AI?

A estrutura abaixo oferece às empresas e governos uma maneira de categorizar e classificar suas aplicações AI atuais e futuras.

Usando esta rubrica, os líderes empresariais e governos podem avaliar o perfil de risco de seus casos de uso, estratégia e investimentos baseados na ANI. Abordar os riscos, particularmente com as aplicações ANI-C, não só será fundamental para o sucesso dos esforços de transformação digital, mas também para manter a credibilidade e a confiança das empresas e dos governos nos seus clientes e cidadãos. E, consequentemente, permitir-lhes-á realizar o significativo potencial que a ANI detém para melhorar a produtividade, a eficiência e a qualidade de vida em geral.

Estão em curso várias iniciativas para ultrapassar as limitações tecnológicas da ANI e mitigar as consequências indesejáveis dos erros algorítmicos: novas abordagens algorítmicas, quadros para a "AI ética" e a disponibilidade de ferramentas de código aberto para auditar algoritmos de viés, entre outras. A suíte C precisa ter um papel ativo nessas iniciativas e, junto com os governos, trabalhar para desenvolver algoritmos mais éticos, equitativos, precisos e transparentes. Construir confiança na tecnologia será essencial para evitar o risco de um "inverno" iminente para aplicações ANI-C.

Em última análise, o sucesso dependerá de os líderes empresariais e governos manterem os interesses humanos e os valores humanos no centro do desenvolvimento de todas as formas de soluções ANI e minimizarem ou anularem o preço de um erro algorítmico que possa ter consequências de longo alcance para o desempenho comercial ou o bem-estar humano.