Artigo: Diga-me quem te programas e te direi quem és

Por Marcos Sêmola, sócio da EY para consultoria em cibersegurança

Tudo conectado. O tempo todo. Em qualquer lugar. Essa é a realidade que vivemos hoje e, sob muitos aspectos, é extremamente útil. Contudo, confesso, falar com máquinas, mesmo sendo um profissional e entusiasta da tecnologia, ainda não me é confortável. É verdade que essas inteligências artificiais têm ficado cada vez mais eficazes, mas estamos longe de chatbots que realmente entendam as demandas de cada ser (único) humano. Atire o primeiro mouse quem nunca ficou apertando a mesma tecla repetidas vezes para falar com pessoas e fugir das respostas pré-prontas do menu digital.

Falar em respostas previamente preparadas me lembra a febre do momento, o ChatGPT, que tem muitos concorrentes: Chatsonic, Jasper Chat, Replika, Character AI, Perplexity AI, You Chat, entre outros. Se você usa internet pelo menos uma vez por semana e acompanha notícias de inovação, com certeza ouviu falar dessa novidade, que gerou tantas previsões, que vão desde o fim de profissões até mudanças na educação e na sociedade como um todo.

A verdade é que os chatbots e inteligências artificiais de maneira geral são muito mais assertivos quando estão em um ambiente controlado, como um aplicativo de banco, por exemplo. Ou quando estão programados para responder a dúvidas dos clientes sobre pagamentos, transações, extratos, cartões de crédito e PIX. Agora, quando mergulhamos em mar aberto é que percebemos até onde a máquina consegue ir (ou não). Tudo depende da programação que ela recebe e os impactos disso podem ser tanto positivos quanto negativos.

Você já ouviu a frase “diga-me com quem andas que te direi quem és”? Pois é, em tempo de novas tecnologias, podemos adaptar para “diga-me quem te programas que te direi quem és”. E por que isso? Porque a máquina se torna inteligente conforme vai aprendendo conceitos e comportamentos de quem a manuseia. Ela não tem um crivo moral, ético, legal e social de saber o que é certo ou errado ou o que é verdade ou mentira.

Da mesma forma que podemos usar esses sistemas para nos ajudar com informações rápidas sobre previsão do tempo ou melhores rotas para chegar a um destino, também é possível disseminar notícias falsas ou reforçar posicionamentos e atitudes preconceituosas, desencadeando uma bola de neve difícil de conter.

Para você que curte essas novas tecnologias, fica o alerta! Cheque se você está no site correto, não divulgue seus dados pessoais desnecessariamente e sempre verifique a informação em mais de uma fonte (confiável). Há ainda dezenas de agências especialistas em checar dados.

Para finalizar, trago uma reflexão do gênio da física Stephen Hawking e que diz muito sobre o momento que vivemos hoje com tantas criações, robotizações e falta de humanidade – em diversos âmbitos da palavra: “A criação bem-sucedida de inteligência artificial seria o maior evento na história da humanidade. Infelizmente, pode também ser o último, a menos que aprendamos a evitar os riscos”.

*Este artigo foi publicado inicialmente na Época Negócios.