Un guardián virtual detectará comportamientos maliciosos en el metaverso

La llegada del llamado metaverso a nuestras vidas es cuestión de tiempo. Sin embargo, muchas incógnitas siguen en el aire. Una de ellas tiene que ver con la seguridad del usuario. Para mejorarla, investigadores españoles tratan de proteger al individuo en este nuevo entorno que, sin las medidas necesarias, podría ser muy hostil.

Un equipo de la Universitat Politècnica de València (UPV) está desarrollando un guardián personal virtual con técnicas de Inteligencia Artificial (IA) para detectar comportamientos maliciosos y prácticas manipuladoras en entornos de realidades sociales híbridas como el metaverso. El equipo pertenece al Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN)

Su objetivo es garantizar una interacción social más segura y sofisticada en los futuros espacios sociales de realidad híbrida aprovechando las capacidades de la IA. El desarrollo, que se enmarca en el proyecto guardIA, se ha llevado a cabo con técnicas de IA y modelos computacionales del grupo de Investigación de Tecnología Informática e Inteligencia Artificial de VRAIN, con Vicent Botti como investigador principal.

Según explica la institución universitaria, el aumento del uso de los medios sociales y la tecnología en los que las personas van a poder interaccionar en entornos virtuales inmersivos con una relación sin precedentes ha sido lo que ha motivado el desarrollo de esta herramienta. 

Si bien ya existen sistemas de recomendación y publicidad, que se basan en el comportamiento en línea, los agentes que controlen las interacciones y los flujos de información en las futuras realidades sociales híbridas tendrán todavía mayores ventajas para explotar las debilidades de las personas que se encuentren en estos entornos.

A partir de ahí, este guardián personal virtual interaccionará con el usuario final y lo sensibilizará y concienciará sobre posibles intentos maliciosos y prácticas manipuladoras que mitigarán sus efectos.

El proyecto guardIA consta, en una primera fase de desarrollo, de un ejemplo teórico y tecnológico que anticipa cómo las redes sociales híbridas van a redefinir las relaciones sociales. También indica cuáles van a ser las nuevas formas de interacción social que surgirán en los entornos virtuales e identifica aquellas de mayor riesgo.

En segundo lugar, se desarrollará el asistente personalizado de código abierto, basado en técnicas de IA. Por último, se llevará a cabo un proceso de comprensión de esta herramienta a nivel público que podrá ser aplicable en diversos campos.

Riesgo de manipulación en RRSS

Según los responsables de la iniciativa, en los próximos 10-15 años existirán nuevas herramientas en las redes sociales del futuro a disposición de quienes quieran manipular a los usuarios con fines políticos, comerciales o de cualquier otro tipo.

Estas no solo se centrarán en la esencia de un mensaje, sino en su forma. Los expertos ponen como ejemplo, los bots, pequeños programas informáticos que actúan como un usuario de una red social. Estos constarán de Inteligencia Artificial y serán configurados con edad, género y voz similar al de las personas para desencadenar emociones e influir en su estado de ánimo y su capacidad de decisión. De esta forma, será mucho más dificil diferenciar usuarios reales de los informáticos.

"Pretendemos contribuir a una interacción social más segura en las redes sociales híbridas y facilitar el proceso de aceptación y adaptación de los usuarios a este nuevo entorno sociotecnológico", expone el director de VRAIN e investigador principal de guardIA, Vicent Botti.

El objetivo del proyecto coincide con la visión del instituto de mostrar una IA confiable y centrada en sus beneficios para las personas y la sociedad y para abordar un problema que, aunque todavía no exista, va a surgir en el futuro más cercano. 

Se trata de un proyecto Prometeo financiado por la Conselleria de Innovación y Universidades para grupos de investigación de excelencia, con una duración de cuatro años que en la actualidad se encuentra en su primer ejercicio.