Detector de estafadores románticos: las potencialidades de la IA en apps de citas para luchar contra perfiles falsos

Como informa Kaspersky, un porcentaje de peruanos (15%) ha señalado ser víctima de que su ‘match’ compartiera screenshots de su conversación sin consentimiento, amenazara con exponer información personal y filtrara sus fotografías íntimas.

En medio de este panorama, la plataformas de citas como Bumble recurren a la inteligencia artificial para luchar contra los riesgos de seguridad en línea.

Recientemente presentaron Deception Detector y para entender cómo funciona, El Comercio conversó con Javier Tuiran, director de Comunicaciones de América Latina de la app. Además desde Kaspersky nos brindan algunas recomendaciones para asegurar una buena experiencia en las apps de citas.

MIRA: San Valentín: estas son las aplicaciones para conocer gente y con las que puedes planificar una cita

Cómo funciona Deception Detector

Se trata de una herramienta impulsada por inteligencia artificial diseñada para identificar perfiles falsos, spam y estafas. Tiene como objetivo evitar que los usuarios se encuentren con contenidos maliciosos por lo que actúa de forma preventiva.

Gracias al aprendizaje automático, la IA de Bumble sabe identificar ciertos comportamientos y factores que están relacionados con perfiles engañosos. Ahora bien, esto es gracias a la data que la plataforma de citas ha recolectado desde 2014, año en el que se fundó.

“Hablamos de 10 años de analizar informes de cuentas fraudulentas, de realizar reportes de malos actores o malos comportamientos dentro de la aplicación. Y todo ese trabajo de vigilancia y de monitoreo durante los últimos años ha permitido alimentar el modelo de aprendizaje automático”, sostiene Javier Tuiran.

Algunos de los indicadores que revisa ‘Deception Detector’ y que ayuda a validar la veracidad de un perfil son el tipo de palabras usadas en una conversación, el cual parte de revisiones de chats reportados como perfiles falsos. Asimismo, toma en cuenta el comportamiento del usuario como la frecuencia que se desliza bien hacia la derecha (me gusta) o izquierda (no me gusta).

¿Qué sucede luego que la IA identifica un perfil falso? De acuerdo con Javier Tuiran, tras la detección por parte de la herramienta se procede a la revisión por un moderador humano para finalmente bloquear de forma permanente la cuenta en cuestión.

“En los tres meses que hemos realizado pruebas, hemos encontrado que Deception Detector ha logrado identificar hasta un 95% de perfiles falsos, engañosos y reportados como spam”, afirma.

En cuanto al impacto de esta tecnología, Bumble también asegura que se ha reducido en un 45% el número de reportes de cuentas falsas durante los meses de introducción.

La IA como aliada en la seguridad online

El objetivo de Bumble con el uso de IA en sus sistemas es garantizar conexiones reales y seguras con cuentas fidedignas que buscan lo mismo que el resto de usuarios, asegura el responsable de comunicaciones de la firma.

Él explica que son conscientes de las preocupaciones que tienen las personas al usar su aplicativo gracias a una encuesta global que realizaron a finales de 2023.

“Los datos nos reportaron que una de las principales preocupaciones de los usuarios de Bumble y en general de la categoría de aplicaciones distintas tiene que ver con la autenticidad de las conexiones que estaban generando”.

MIRA: Las ciberestafas pueden hacer que la búsqueda del amor online se convierta en una pesadilla

Y al mismo tiempo reconocen los avances de la inteligencia artificial y sus usos dentro de las apps de citas. Por ejemplo, los algoritmos que ayudan a hacer match con personas más compatibles según gustos compartidos (musicales, pasatiempos, etc).

“Entonces nos preguntamos por qué no utilizar este mismo potencial, este poder que viene detrás de la IA para ayudar a las personas a crear conexiones más seguras, conexiones más auténticas”, explica Tuiran.

Esta no es la primera vez que la aplicación de citas aprovecha la IA. En 2019 introdujeron la función ‘Private Detector’, la cual detecta fotos inapropiadas o íntimas para difuminarlas automáticamente. Y finalmente es el usuario quien decide ver la imagen o rechazarla y al mismo tiempo reportar la cuenta.

“Sin duda vamos a seguir innovando y a seguir tratando de apostar a cómo podemos seguir utilizando la inteligencia artificial para crear conexiones más seguras”, declara el vocero.

Los riesgos de app de citas

Ahora bien, los lanzamientos de herramientas con IA como los repasados en esta nota, se producen en un contexto de engaños y fraudes dentro de los aplicativos de citas. ¿Conoces cuáles son estos riesgos?

El Comercio conversó con Eduardo Chavarro, especialista en Respuesta a Incidentes en Kaspersky, quien aclara que en este tipo de plataformas “terminamos convirtiéndonos en un catálogo y ese catálogo requiere de información”. Es decir, si uno decide crearse un perfil para ser parte de la aplicación, es necesario entregar data personal como el número telefónico, correo electrónico, nombres completos y fotografías. También, si es que el usuario así lo decide, se vincula con las redes sociales.

“Incluso algunas aplicaciones habilitan la georreferenciación, básicamente significa tomar tus coordenadas exactas y estarlas publicando constantemente”, alerta el especialista.

Todos estos elementos representan un riesgo donde rápidamente desconocidos pueden saber de ti. Ello representa una oportunidad para que perfiles engañosos roben dinero, datos personales e incluso la identidad de inocentes.

De acuerdo con una encuentra global realizada por Kaspersky, 51% de los peruanos ha utilizado una app de citas en alguna ocasión y cerca del 23% ellos admitió haber sido estafados o engañados con un perfil falso.

Asimismo, dos de cada 10 de los encuestados (19%) confesó haber sido objeto de doxing, la práctica de hacer pública y subir a internet la información privada de una persona.

Además el informe añade que los tres principales riesgos que los peruanos se han topado en la app de citas son: enlaces o archivos adjuntos maliciosos, perfiles falsos y robo de identidad.

MIRA: Bard vs. ChatGPT: las diferencias y similitudes entre las IA más populares de la actualidad

Respecto a la utilización de herramientas con IA, el vocero de la empresa de seguridad señala que las apps con mayor presencia entre los usuarios son las que más desarrollan estrategias y esquemas de seguridad en beneficio del usuario. “Pero hay aplicaciones que siguen apareciendo y que todavía presentan algunos tipos de riesgos. En un análisis que hicimos sobre la seguridad de las aplicaciones de citas online, descubrimos que 6 de 9 aplicaciones presentan problemas de seguridad”, sostiene.

Ahora bien, el experto indica que si bien estos modelos son entrenados con una serie de conceptos para que ellos puedan decidir qué está bien y qué está mal, también pueden cometer errores. Por ello “la intervención humana sigue y seguirá siendo un factor determinante”.

Chavarro detalla que los sistemas de IA llevan a cabo todo el trabajo desgastante, pero que finalmente el personal humano evaluará un número menor y más especifico de situaciones reportadas.

MIRA: San Valetín: las canciones más románticas de Spotify

Consejos para estar seguros en apps de citas

Si bien las tecnologías son las encargadas de garantizar que sus plataformas sean seguras para quienes las usan, también los usuarios tienen que hacer el trabajo de prevención. El especialista de Kaspersky sugiere los siguientes puntos.

• Ser cautelosos con la información personal. No entregar datos que puedan identificarte y rastrearte como la georreferenciación.
• Verificar las configuraciones de privacidad de las aplicaciones y activar la verificación en 2 pasos.
• En casos de citas, reportarle a alguien de confianza con quién te vas a encontrar y dónde.
• Usar las plataformas de mensajes integradas de la app hasta que estés seguro de que puedes confiar en tal persona.
• Hacer caso al instinto. En caso la conversación se torne incomoda para ti, es mejor no seguir adelante con tal conexión.