Resumen
La Inteligencia Artificial Generativa (GenAI) se ha vuelto muy popular en los últimos años. Este uso generalizado ha generado
preocupaciones sobre los riesgos para la privacidad, incluido el intercambio de datos personales y/o confidenciales, y el posible uso
indebido de la información personal generada, entre otros. Hasta ahora, la investigación sobre la privacidad en GenAI se ha centrado en
la perspectiva del modelo, por ejemplo riesgos de memorización y extracción de modelos GenAI. Sin embargo, no existe una
investigación exhaustiva sobre la privacidad en GenAI desde el punto de vista de los usuarios finales de las aplicaciones GenAI.
PRI4GENAI está alineado con el Plan Estatal de Investigación Científica, Técnica y de Innovación 2021-2023, y en particular dentro de las
áreas temáticas: i) "Mundo digital, industria, espacio y defensa", concretamente a los desafíos dentro de esta área para La transformación
digital. : Plan España Digital 2025, que incluye Favorecer el tránsito hacia una economía del dato, garantizando la seguridad y privacidad
y aprovechando las oportunidades que ofrece la Inteligencia Artificial y Garantizar los derechos de la ciudadanía en el nuevo entorno
digital; y ii) Seguridad para la Sociedad, incluido el refuerzo de la ciberseguridad.
El proyecto PRI4GENAI tiene como objetivo estudiar los riesgos de privacidad que GenAI plantea para los usuarios, cómo los usuarios
perciben los riesgos de privacidad en GenAI y qué normas de privacidad creen que se deben seguir al utilizar GenAI. En base a esto,
PRI4GENAI propondrá novedosos asistentes de privacidad, así como intervenciones educativas y sociotécnicas para aumentar la
conciencia de los usuarios sobre los riesgos de privacidad en GenAI y ayudarlos a proteger su privacidad al usarlos.
PRI4GENAI mejorará la privacidad en GenAI considerando particularmente a niños y adolescentes además de los usuarios adultos. Los
niños y adolescentes están siendo de los primeros en adoptar GenAI y debemos asegurarnos, de acuerdo con estos dos puntos del área
temática prioritaria, de que puedan aprovechar al máximo GenAI y todos los beneficios y oportunidades que brinda mientras protegen su
privacidad. Para ello colaboraremos con la Cátedra de Infancia y Adolescencia de la UPV.
