Tinder muestra alertas cuando su IA detecta mensajes con lenguaje ofensivo

La aplicación de citas Tinder ha introducido una nueva función de alertas con la que avisa a sus usuarios cuando sus herramientas de Inteligencia Artificial (IA) detectan que van a enviar mensajes con lenguaje inapropiado, animándoles a reformular el contenido.

Las nuevas alertas 'Are you sure?' ('¿estás seguro?', en inglés), ya se han puesto a prueba en Tinder anteriormente, y han logrado que el número de mensajes con expresiones malsonantes se reduzca en más de un 10 por ciento.

 

   Ahora, esta función pasa a extenderse a todos los usuarios de Tinder, con el objetivo de "reducir el acoso en la aplicación", como ha anunciado la compañía en un comunicado.

 

   Este mecanismo funciona de forma proactiva y se basa en herramientas de IA con las que Tinder detecta lenguaje potencialmente ofensivo antes de enviar el mensaje, y advierte al emisor de que puede resultar ofensivo para la otra persona, pidiéndole que lo piense de nuevo antes de mandarlo.

 

   El uso de las notificaciones 'Are you sure?', según Tinder, hace que los usuarios que reciben una alerta tengan una menor probabilidad de ser reportados por otros durante el mes siguiente.

 

   Esta función usa las mismas tecnologías de IA presentes en la reciente característica 'Does this bother you?' ('¿esto te molesta?', en inglés), con la que Tinder pregunta a los usuarios que han recibido una conducta potencialmente ofensiva, y que ha hecho que las denuncias por mensajes inapropiados aumenten en un 46 por ciento.