Não se apaixone por uma inteligência artificial

Vivaldo José Breternitz (*)

Como na ficção científica, há quem não consiga ter uma relação equilibrada com a inteligência artificial (IA).

Algumas pessoas chegam a trata-la como um amigo em quem confiam cegamente, seguindo seus conselhos, que às vezes podem levar essas pessoas até mesmo ao suicídio. Há registros também de pessoas que se apaixonaram por um software desse tipo.

Um artigo publicado na revista Trends in Cognitive Sciences, de autoria de um grupo de psicólogos da Missouri University of Science & Technology, liderado por Daniel Shank, alerta para o perigo de situações como essas.

Os psicólogos observam que, à medida que as IAs aprenderam a dialogar imitando a linguagem humana, podem ser estabelecidas relações sentimentais entre humanos e máquinas, às vezes com resultados desastrosos, como em dois casos recentes de suicídio induzidos por essas interações.

"A capacidade da IA de agir como um ser humano e de estabelecer comunicações de longo prazo realmente abre uma nova caixa de Pandora", observa Shank. Se as pessoas têm uma relação sentimental com as máquinas, há necessidade de envolvimento de psicólogos e cientistas sociais para minimizar os perigos dessas relações.

Com o tempo, as IAs podem gradualmente se transformar em companheiros confiáveis que parecem conhecer e cuidar de seus parceiros humanos e, como essas relações podem se estabelecer mais facilmente do que as entre humanos, as IAs podem interferir em algumas dinâmicas sociais.

Até agora, afirmam os autores do artigo, ainda não sabemos o quanto esse fenômeno poderá se difundir. Acreditar que um sistema de IA se importa com os seres humanos e seus interesses é um erro, observa o pesquisador, porque além de não serem dotadas de consciência ética, as IAs podem cometer erros e gerar respostas equivocadas, que são conhecidos no ambiente de IA como “alucinações”, gerando resultados desastrosos.

Os suicídios são um exemplo extremo dessa influência negativa, mas os psicólogos afirmam que essas relações estreitas entre seres humanos e IA também podem expor as pessoas a manipulação, exploração e fraude.

Por essa razão vale o que recomenda o título desta matéria: não se apaixone por uma inteligência artificial.

(*) Vivaldo José Breternitz, Doutor em Ciências pela Universidade de São Paulo, é professor e consultor – vjnitz@gmail.com.