Início Noticias Tecnologia Falha nos bots: como funcionam os robôs?

Falha nos bots: como funcionam os robôs?

0

No início de agosto, houve uma falha na programação dos bots (robôs) da agência de viagens on-line, Decolar.com, quando respostas automáticas foram disparadas com tom ofensivo no perfil do Twitter da empresa.

De acordo com o CEO da Ubots, startup especializada em atendimento via apps de mensagens e inteligência artificial, Rafael Souza, possivelmente a empresa utiliza de dados passados pelo canal de mensagens, no caso o username do usuário da rede social, para tornar a conversa mais amigável. Porém, com a falha técnica, as respostas dadas aos internautas foram compreendidas como grosseiras.

“Quando os seguidores observaram a falha, trocaram os nomes nos perfis pessoais por palavras ofensivas e começaram a enviar perguntas. Dessa maneira, assim que o bot respondia aquele seguidor, o início da mensagem era composto por um xingamento”, explica.

Em nota, a Decolar.com não detalhou o problema técnico. “A existência desse tipo de problema é comum, mas a exploração destas brechas ainda não. Duas formas poderiam minimizar o bug, por exemplo, a Decolar e o Twitter conseguiriam aplicar técnicas de processamento de linguagem natural, para identificar xingamentos nos nomes e outros dados do usuário. A outra forma seria o robô confiar somente em dados que possuem restrições e validações, antes de poderem ser modificados no canal de mensagens”, acrescenta Souza.

Cerca de 248 milhões de interações foram feitas por chatbots em 2019, isso representa um crescimento de 212% comparado a 2018, com 79,5 milhões de interações, segundo a pesquisa FEBRABAN (Federação Brasileira de Bancos) de Tecnologia Bancária 2020, por isso, segurança é essencial diante desse fato. “O que aconteceu com a empresa servirá de alerta para desenvolvedores de chatbots adicionarem mais camadas de validação sob os dados de usuário recebidos pelos bots”, reforça Souza.

SEM COMENTÁRIOS

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui