No início de agosto, houve uma falha na programação dos bots (robôs) da agência de viagens on-line, Decolar.com, quando respostas automáticas foram disparadas com tom ofensivo no perfil do Twitter da empresa.
De acordo com o CEO da Ubots, startup especializada em atendimento via apps de mensagens e inteligência artificial, Rafael Souza, possivelmente a empresa utiliza de dados passados pelo canal de mensagens, no caso o username do usuário da rede social, para tornar a conversa mais amigável. Porém, com a falha técnica, as respostas dadas aos internautas foram compreendidas como grosseiras.
“Quando os seguidores observaram a falha, trocaram os nomes nos perfis pessoais por palavras ofensivas e começaram a enviar perguntas. Dessa maneira, assim que o bot respondia aquele seguidor, o início da mensagem era composto por um xingamento”, explica.
Em nota, a Decolar.com não detalhou o problema técnico. “A existência desse tipo de problema é comum, mas a exploração destas brechas ainda não. Duas formas poderiam minimizar o bug, por exemplo, a Decolar e o Twitter conseguiriam aplicar técnicas de processamento de linguagem natural, para identificar xingamentos nos nomes e outros dados do usuário. A outra forma seria o robô confiar somente em dados que possuem restrições e validações, antes de poderem ser modificados no canal de mensagens”, acrescenta Souza.
Cerca de 248 milhões de interações foram feitas por chatbots em 2019, isso representa um crescimento de 212% comparado a 2018, com 79,5 milhões de interações, segundo a pesquisa FEBRABAN (Federação Brasileira de Bancos) de Tecnologia Bancária 2020, por isso, segurança é essencial diante desse fato. “O que aconteceu com a empresa servirá de alerta para desenvolvedores de chatbots adicionarem mais camadas de validação sob os dados de usuário recebidos pelos bots”, reforça Souza.
Deixe um comentário