Como a AI vai gerar valor para as pessoas, sem ter o custo humano?

Por

EYQ

EYQ é o think tank da EY.

Ao explorar "O que vem depois do futuro?", o EYQ ajuda os líderes a antecipar as forças que moldam o nosso futuro — capacitando e ajudando a aproveitar o lado positivo da disrupção e a construindo um mundo de negócios melhor.

9 Minutos de leitura 15 fev 2019

Mostrar recursos

O hype em torno da AI já aqueceu e esfriou muitas vezes antes. Então, como as organizações podem garantir que seus mais recentes investimentos em AI sejam vistos através da lente do valor de longo prazo em vez do custo de curto prazo?

Apresentada como a "nova eletricidade", espera-se que a AI transforme todas as indústrias – gerando novos produtos e serviços, e criando novos e eficientes modelos de negócios, gerando novos grupos de lucros e proporcionando valor financeiro e humano significativo. As expectativas e o entusiasmo pela AI alcançaram um novo patamar, ganhando uma posição de destaque entre os executivos C-Level, com os governos como parte de seus esforços mais amplos de transformação digital.

Estamos tão longe do nível de inteligência de um miúdo de 6 anos, quanto mais da inteligência humana geral.
Notícias e Eventos
Professor na Universidade de Washington e CEO do Allen Institute for AI

O "AI Winter"

Mas nós já vimos essa fanfarra em torno de AI antes; primeiro desde sua criação na década de 1950 até meados dos anos 70 e, posteriormente, de 1980 a 1987. Ambos os períodos foram seguidos por um "AI Winter" – um período em que o financiamento diminuiu, o interesse diminuiu e a investigação no terreno passou à clandestinidade.

Dado este registro histórico e o otimismo prevalecente em torno de AI hoje, parece natural perguntar: AI vai enfrentar outro "inverno" - estamos em déjà-vu? E se sim, como os líderes empresariais e governos podem gerenciar e mitigar os riscos de seus investimentos em AI e garantir que a AI crie valor humano sem infligir custos humanos?

Protegendo seu investimento em AI

Para mitigar o risco de um investimento ou projeto de AI ser congelado em meio a resultados dispendiosos e consequentes, tenha em mente os seguintes imperativos:

  1. Compreender as capacidades das tecnologias AI hoje em dia
  2. Compreender o custo de um erro
  3. Reduza o seu entusiasmo: não é um cérebro humano (ainda)
Innovation Realized hanging chairs meeting

Innovation Realized

Na Innovation Realized Summit 2019, convocamos  mentes brilhantes para colaborar e trabalhar em como resolver o agora, explorar o futuro e imaginar o que ainda está por vir.

Descubra mais

 Pessoa em pé Snow Field skiing
(Chapter breaker)
1

Capítulo 1

Entenda do que as tecnologias de AI são capazes hoje em dia

Alguma história: AGI ou ANI?

A Conferência de Dartmouth, realizada em 1956, deu início a uma era dourada de intensa pesquisa em AI com o objetivo de "fazer com que uma máquina se comporte de maneiras que seriam chamadas de inteligentes se um humano se comportasse assim".

Impulsionados por avanços impressionantes nos primeiros dias, os pioneiros da AI, como Marvin Minsky, fizeram afirmações ousadas de que "Dentro de nossa vida útil, as máquinas podem nos superar em inteligência geral".3 Entretanto, o poder e o armazenamento limitados e caros da computação, bem como a escassez de dados, significavam que as soluções iniciais só podiam resolver problemas rudimentares. Estas limitações tecnológicas levaram à primeira AI Winter, onde o financiamento secou e os juros diminuíram. A segunda AI Inverno de 1980-87 foi precipitada quando os sistemas especializados se tornaram dispendiosos de manter e provaram ser frágeis quando confrontados com cenários invulgares.

  • Early AI: o que queremos dizer com sistemas especializados?

    Os sistemas especializados ganharam destaque na década de 1980. Eram sistemas de software concebidos para resolver problemas específicos de domínios especializados que, de outro modo, exigiriam um especialista humano. Sistemas especializados foram desenvolvidos para uma variedade de campos, incluindo medicina, aviação, finanças e planejamento e otimização empresarial. Um sistema típico de peritos consistia numa base de conhecimentos de factos e regras adquiridos a um especialista humano e num motor de inferência que aplicava as regras e os factos.

    Embora os sistemas especializados representem as primeiras formas de AI comercialmente bem sucedidas, a tecnologia e a abordagem tiveram vários problemas. Como motores baseados em regras, os sistemas especializados precisavam ser constantemente atualizados com novos fatos e regras; no entanto, a aquisição de conhecimento de especialistas em domínios sob demanda tornou-se difícil de obter. Além disso, os sistemas especializados se mostraram frágeis porque se baseavam em conhecimentos codificados, eram propensos ao fracasso quando confrontados com problemas incomuns que não tinham um precedente na base de conhecimentos do sistema.

    Por exemplo, um sistema especializado concebido para diagnosticar tumores com base num conjunto de entradas pode falhar se essas entradas variarem mesmo ligeiramente em relação ao que está presente na sua base de conhecimentos. Ao contrário de um especialista humano, o sistema de peritos é incapaz de recorrer a experiências anteriores ou semelhantes para resolver um caso invulgar ou novo.

Talvez ainda mais prejudicial foi subestimar a dificuldade de criar Inteligência Geral Artificial (AGI).

O atual renascimento da AI decorre principalmente da superação dos obstáculos tecnológicos que afligiam os esforços anteriores. No entanto, especialistas em AI hoje não estão fazendo proclamações de alcançar a AGI. Apesar de avanços significativos, Oren Etzioni, professor da Universidade de Washington e CEO do Allen Institute for AI, diz: "Estamos tão longe de... até mesmo do nível de inteligência de seis anos de idade, muito menos da inteligência humana geral completa..."4

Inteligência Estreita Artificial (ANI)

Embora a AGI possa permanecer um objetivo de longo prazo para alguns no campo, o foco e o entusiasmo atuais estão em torno da Inteligência Estreita Artificial (ANI).

O poder computacional barato e abundante, os dados digitais copiosos gerados pela proliferação da internet, bem como a descoberta de Geoffrey Hinton com aprendizado profundo, levaram a uma explosão de aplicativos ANI. Estas aplicações executam tarefas específicas únicas num contexto limitado muito bem, por vezes melhor do que os humanos. Atualmente, os algoritmos ANI estão criando valor humano, alimentando assistentes de voz digitais, conduzindo recomendações de produtos e auxiliando na detecção de câncer. Eles também expandiram o conhecimento humano, encontrando novos planetas e derivando insights a partir de dados genéticos humanos. O grande número e diversidade de aplicações ANI comerciais é talvez o que diferencia esta terceira onda de otimismo AI.

Com estas realizações sob seu cinto, a eterna "primavera" surgiu para a ANI?

 caminhante de pé montanha contra o céu durante o pôr-do-sol
(Chapter breaker)
2

Capítulo 2

Compreender o preço de um erro

O teu ANI está a florescer. Mas está infectado com um preconceito humano dispendioso?

As atuais tecnologias AI podem ser aplicadas a uma vasta gama de problemas, cada uma com diferentes perfis de risco. Deve ter-se o cuidado de adaptar o caso de utilização e o contexto à tecnologia adequada.
Cathy Cobey
EY Global Trusted AI Advisory Leader

Os sistemas ANI tornaram-se populares entre empresas, governos e empresários que enfrentam um corpus crescente de dados digitais à espera de serem explorados. No entanto, ao procurar obter os benefícios da produtividade e da eficiência da ANI, estas partes interessadas devem ter em conta os riscos decorrentes das deficiências da ANI e o potencial de custos humanos não intencionais. 

As críticas mais comuns à ANI incluem a incapacidade do algoritmo para raciocinar para além dos seus dados de formação e a sua propensão para propagar preconceitos humanos inerentes à medida que aprende com os dados gerados pelo homem. Embora nenhuma tecnologia seja desprovida de falhas, o custo de um erro decorrente das desvantagens da ANI pode ter consequências graves, especialmente em situações em que a decisão do algoritmo pode influenciar substancialmente o destino de um indivíduo.

Em alguns casos, os erros algorítmicos são, na pior das hipóteses, inconvenientes. Por exemplo, embora os assistentes de voz digitais tenham feito um falso passe ou dois, resultando em momentos desconfortáveis ou inquietantes para os usuários, a adoção e o uso continuam a aumentar. Por outro lado, em contextos públicos de alto nível, os erros algorítmicos tiveram resultados catastróficos e corroeram a confiança do público. Por exemplo, as mortes recentes envolvendo carros automotores amorteceram o entusiasmo e levaram a uma erosão significativa da confiança dos consumidores – um estudo realizado em 2018 concluiu que 73% dos motoristas dos EUA não confiariam num veículo totalmente autônomo, em comparação com 63% em 2017.

À medida que a tomada de decisões impulsionada pela ANI entra em outros domínios críticos, como justiça criminal, educação e recrutamento de trabalho, o preço de um erro resultou em prisões falsas, preconceitos raciais e discriminação de gênero. Se a incidência de tais erros aumentar, isso poderia levar a uma perda de confiança na tecnologia por completo e deixar essa classe de aplicações ANI vulnerável a um potencial "inverno".

Isto não é para sugerir que todo o campo da ANI vai vacilar. Como Stefan Heck, co-fundador e CEO da Nauto e EYQ Fellow sugere, "Talvez precisemos de outra categoria entre a ANI e a AGI para explicar as circunstâncias em que as falhas poderiam resultar em retrocesso social".

As definições de AI e dos seus vários sabores têm-se centrado tradicionalmente na capacidade da tecnologia de imitar ou ultrapassar as capacidades físicas e cognitivas humanas. Embora essa estrutura tenha servido para comparar a evolução da tecnologia, ela não reflete adequadamente os perfis de risco dos algoritmos quando aplicada em diferentes contextos.

Quão arriscada é a tua AI?

A estrutura abaixo oferece às empresas e governos uma maneira de categorizar e classificar suas aplicações AI atuais e futuras.

Inteligência Artificial Estreita -

Transacional (ANI-T)

Inteligência Artificial Estreita -

Consequente (ANI-C)

Inteligência Geral Artificial

(AGI)

Artificial
Superinteligência

(ASI)

Definição Tarefa única em contexto limitado, tão boa ou melhor que a humana Tarefa única em contexto dinâmico tão bom ou melhor que o humano Múltiplas tarefas em contextos dinâmicos tão bons quanto humanos Superar todas as capacidades intelectuais humanas em contextos conhecidos e desconhecidos
Âmbito do impacto Limitada e de curto prazo Amplo e de longo prazo Tudo! Insondável!
Exemplos

Assistentes de voz digitais

Carros autónomos HAL 9000 Além da imaginação humana
Perfil de risco Baixo Alto Desconhecido Desconhecido

Fonte: Stefan Heck & EYQ

Usando esta rubrica, os líderes empresariais e governos podem avaliar o perfil de risco de seus casos de uso, estratégia e investimentos baseados na ANI. Abordar os riscos, particularmente com as aplicações ANI-C, não só será fundamental para o sucesso dos esforços de transformação digital, mas também para manter a credibilidade e a confiança das empresas e dos governos nos seus clientes e cidadãos. E, consequentemente, permitir-lhes-á realizar o significativo potencial que a ANI detém para melhorar a produtividade, a eficiência e a qualidade de vida em geral.

Estão em curso várias iniciativas para ultrapassar as limitações tecnológicas da ANI e mitigar as consequências indesejáveis dos erros algorítmicos: novas abordagens algorítmicas, quadros para a "AI ética" e a disponibilidade de ferramentas de código aberto para auditar algoritmos de viés, entre outras. A suíte C precisa ter um papel ativo nessas iniciativas e, junto com os governos, trabalhar para desenvolver algoritmos mais éticos, equitativos, precisos e transparentes. Construir confiança na tecnologia será essencial para evitar o risco de um "inverno" iminente para aplicações ANI-C.

Em última análise, o sucesso dependerá de os líderes empresariais e governos manterem os interesses humanos e os valores humanos no centro do desenvolvimento de todas as formas de soluções ANI e minimizarem ou anularem o preço de um erro algorítmico que possa ter consequências de longo alcance para o desempenho comercial ou o bem-estar humano.

 man ice bouldering iceberg St-Lawrence river Canadá
(Chapter breaker)
3

Capítulo 3

Reduza o seu entusiasmo: não é um cérebro humano (ainda)

O mito, as expectativas e a realidade

Talvez as nossas expectativas de uma Primavera AI sejam demasiado altas.
Susan Etlinger
Analista de indústria, grupo de altímetros

Os artefatos culturais, de Pigmalião a Frankenstein, construíram consciente ou subconscientemente a noção da humanidade do que constitui a AI – um ser artificial repleto de sentimentos, emoções, intelecto e comportamentos associados aos humanos.

Qualquer avanço tecnológico que implique um passo em direção à realização dessa visão da AI é ampliado e o potencial de falhas não é levado em conta nas expectativas do público. Quando surge um erro crítico, as esperanças são frustradas e a tecnologia é considerada não confiável. Na realidade, a tecnologia de AI hoje não é suficientemente robusta para ceder a tomada de decisões em consequentes contextos humanos. Como Ray Edwards, GM ICT Business Development and Venture Capitalist da Yamaha Ventures, sugere "Alguns casos de uso continuarão a exigir interação humana substancial e julgamento antes que possam ser comercialmente implantados em escala".

Cobrir a lacuna entre nossas expectativas e a realidade será fundamental para frustrar outro "inverno" para qualquer sabor de ANI (ANI-T ou ANI-C). No entanto, como observa Nigel Duffy, Líder de Inteligência Artificial de Inovação Global da EY, "Alinhar nossas expectativas com a realidade não ocorreu no passado e não há certeza de que seremos capazes de fazê-lo agora. Assim, o risco de outro 'AI Winter' permanece elevado".

Retendo o "inverno"

Para líderes empresariais e governos com investimentos significativos na ANI, a minimização do risco de um "inverno" envolverá:

  • Envolver-se num discurso público mais equilibrado
  • Reconhecendo as falhas da ANI
  • Gerir as expectativas dos seus clientes.
  • Desenvolver e implantar cuidadosamente aplicações ANI-C para promover resultados confiáveis, equitativos e éticos.

Mesmo com seus inconvenientes atuais, a ANI possui grande potencial para melhorar a qualidade de vida hoje. Ao projectar expectativas irrealistas na ANI, podemos ser impedidos de realizar a sua benefícios.

Como observou Roy Amara, ex-presidente do Instituto para o Futuro: "Tendemos a sobrestimar o efeito de uma tecnologia no curto prazo e a subestimar o efeito no longo prazo." Embora a ANI possa não se manifestar na AGI a curto prazo, um imperativo fundamental para os líderes empresariais e governos é alavancar a ANI de forma adequada e segura, levando a novas inovações que trarão um valor humano incalculável nas próximas décadas.

Explore a transformação digital de todos os ângulos

Os insights da EY sobre transformação digital podem ajudá-lo a desbloquear novos valores e criar a empresa do futuro. 

Descubra mais

Resumo

O passo mais poderoso em negar o futuro "AI Winters" pode ser harmonizar nossas expectativas com a realidade de onde as capacidades AI estão hoje.

Sobre este artigo

Por

EYQ

EYQ é o think tank da EY.

Ao explorar "O que vem depois do futuro?", o EYQ ajuda os líderes a antecipar as forças que moldam o nosso futuro — capacitando e ajudando a aproveitar o lado positivo da disrupção e a construindo um mundo de negócios melhor.