Pesquisa indica que o lado afetivo pode ser mais significativo do que a competência quando falamos da interação com sistemas de inteligência artificial
Redator: Heitor Augusto Colli Trebien
Ciência e calor humano
Pesquisadores do Technion – Instituto Israelense de Tecnologia (Israel Institute of Technology) realizaram uma investigação para descobrir como as pessoas tomam decisões ao interagir com inteligências artificiais.
O estudo, conduzido através de seis experimentos diferentes em vários domínios como precificação de imóveis, seguros de carro e recomendações de filmes, revelou um padrão consistente: quando confrontados com a escolha entre um sistema de alta competência e outro de alto calor humano, a maioria dos participantes preferiu o sistema percebido como mais caloroso. Esse resultado é surpreendente, considerando que, em muitos casos, o sistema escolhido era explicitamente menos competente do que seu concorrente.
A Profundidade da Percepção Humana
O que torna um sistema de IA ‘caloroso’? O estudo sugere que os usuários percebem o calor humano em sistemas de IA através de características associadas à intenção percebida, como amabilidade e confiabilidade no discurso. Importante ressaltar que essa preferência pelo calor humano persistiu mesmo quando as deficiências de competência do sistema eram claras.
E claro, podemos estender essa informação para o tom de voz: quando o vídeo bot consegue ser mais expressivo, existe a chance de as pessoas se sentirem mais próximas. Quando a fala é muito “robotizada”, existe a possibilidade de causar um estranhamento no usuário, mesmo quando o robô apresenta alto nível de desempenho e competência.
Outro aspecto interessante é o efeito “halo”, isto é, que descreve a tendência de as percepções gerais sobre uma pessoa (ou, neste caso, um sistema de IA) influenciarem nossas opiniões sobre suas características específicas.
No caso da pesquisa, as pessoas consideraram as IAs calorosas como competentes também. Isso sugere que uma percepção positiva em uma dimensão (calor humano) levou os usuários a verem o sistema de maneira mais favorável em outra dimensão (competência).
A importância da descrição afetiva
Para exemplificar, as pessoas foram confrontadas com diferentes textos, como:
- Um sistema utilizando um algoritmo de rede neural artificial de última geração que foi treinado com dados de 1.000.000 de casas.
- Um sistema que foi desenvolvido para ajudar pessoas como você a encontrar melhores ofertas e alcançar seus objetivos.
Em seguida, foram questionadas sobre qual sistema elas mais gostariam de usar. De modo geral, os usuários preferiram a segunda opção e acreditaram que o segundo sistema também era competente, mesmo que o primeiro fosse mais treinado.
Projeções humanas
Os pesquisadores Gilad, Amir e Levontin (2021) indicaram na pesquisa que os entrevistados esperam que a linguagem mais profissional e técnica venha de empresas. Entretanto, quando se relacionam com outras pessoas, mesmo que sejam profissionais, esperam uma linguagem mais afetiva ou calorosa.
Ao conversarem com a IA, esperavam que ela fosse mais calorosa e afetiva, o que sugere que, atualmente, estamos tratando a IA como se fosse um ser humano. As pessoas estão projetando suas necessidades e criando expectativas humanas na interação com sistemas artificiais.
Implicações para o Design de IA
Estes achados têm implicações significativas para os designers de sistemas de IA. Tradicionalmente, o foco tem sido em aprimorar o desempenho e a eficiência. No entanto, esse estudo sugere que comunicar características de calor humano é igualmente importante. Isso implica em uma mudança no paradigma de design: os sistemas de IA devem ser projetados para serem percebidos não apenas como ferramentas eficientes, mas também como parceiros confiáveis e amigáveis.
Velip: comunicação humanizada
A Velip também segue o movimento da comunicação competente e calorosa. Com o Velip Engage, estamos desenvolvendo humanos digitais com o propósito de ajudar as empresas com o processo de engajamento com a marca.
Nossos vídeo bots e chatbots acolhem os usuários sem perder a ética, o posicionamento profissional e a competência. Assim, a informação que o cliente precisa chega na palma da mão de modo eficiente.
Reflexões futuras
À medida que avançamos para um futuro repleto de tecnologias de IA, é crucial reconhecer que a tecnologia não existe no vácuo. As preferências humanas e as percepções desempenham um papel vital na aceitação e no sucesso dos sistemas de IA.
Assim, ao equilibrar calor humano e competência, podemos criar sistemas de IA que não apenas executam tarefas eficientemente, mas que também são percebidos como aliadas confiáveis em nosso dia a dia.
Referência da imagem da capa
Fonte: imagem gerada por inteligência artificial com prompts do redator. Recurso utilizado: chatGPT e Dall-e
Referências
GILAD, Zohar; AMIR, Ofra, LEVONTIN, Liat. The Effects of Warmth and Competence Perceptions on Users’ Choice of an AI System. ACM Digital Library, 8 mai. 2021. Disponível em: https://dl.acm.org/doi/abs/10.1145/3411764.3446863. Acesso em: 24 nov. 2023.