App que atrai crianças contem sexo, palavrões e violência

O aplicativo SimSimi é alvo de acusações polêmicas no Brasil e no mundo. O app usa a tecnologia de inteligência artificial para conversar com os usuários e é suspeito de enviar mensagens impróprias, como conteúdo sexual, práticas de bullying e até mesmo ameaças de morte.

As conversas são conduzidas por um personagem amarelo carismático e, por isso, alcança popularidade entre crianças e adolescentes. O recurso está disponível em iPhone (iOS), Android e na versão web. A seguir, saiba o que é SimSimi e como funciona o serviço, além de descobrir como proteger crianças de conteúdos perigosos.

O que é e como funciona o SimSimi?

O app gratuito desenvolvido pela empresa SimSimi Inc. consiste em um chat robô (ou chatbot) capaz de conversar com as pessoas. Por meio da tecnologia de inteligência artificial, o programa consegue aprender com as respostas dos usuários e, assim, aumentar a base de dados. No entanto, esse fato promove um recurso de respostas com insultos e palavrões.

Personagem do SimiSimi acaba atraindo crianças para o app (Foto: Divulgação/ SimiSimi)Personagem do SimiSimi acaba atraindo crianças para o app (Foto: Divulgação/ SimiSimi)

Com um plano de fundo de céu azul cheio de nuvens, o chat é respondido por um simpático boneco amarelo, que pode servir como chamariz para as crianças e adolescentes. O personagem incentiva o bate-papo e, muitas vezes, leva a uma conversa com conteúdo sexual e com insultos.

O visual amigável engana também os responsáveis, pois não reparam que o programa tem indicação etária de 16 anos. Além disso, a ferramenta é especificada nas lojas de aplicativos como de “violência, conteúdo sexual e drogas”.

O SimSimi pode conter diálogos não apropriados para crianças (Foto: Reprodução/ Anna Kellen Bull)

Por causa do aprendizado nativo do sistema, o resultado apresentado não é apropriado para crianças. A figura é capaz de fazer propostas sexuais, usar palavrões e até mesmo fazer ameaças, que podem assustar os pequenos. O relato de uma mãe, viralizado no Facebook, afirma que a aplicação ameaçava sua família de morte e, por isso, a criança teria ficado apavorada.

Por ser uma plataforma na qual o usuário se mantém anônimo, ela pode ser usada para o bullying. Isso se dá pois, em algumas conversas, o programa cita o nome de uma pessoa associada a uma característica, como, por exemplo, “Fulano é feio”. Tal conteúdo, se replicado por dispositivos de bate-papo ou redes sociais, pode ser usado para atingir outras pessoas.

Mensagem alerta mães sobre o SimSimi (Foto: Reprodução/Facebook)Mensagem alerta mães sobre o SimSimi (Foto: Reprodução/Facebook)