Guía contra los contenidos ultrafalsos
La Dirección Nacional de Ciberseguridad de Bucarest ha lanzado una guía sobre la identificación de contenidos ultrafalsos (deepfake)
Roxana Vasile, 02.04.2024, 10:40
¿Informados o manipulados? El uso de la tecnología digital para crear sistemas capaces de realizar tareas consideradas, hasta hace poco, de naturaleza exclusivamente humana es, sin duda, una revolución histórica. Y, en muy poco tiempo, los avances en el desarrollo de lo que todo el mundo conoce como inteligencia artificial son enormes. Ya se está utilizando en muchas aplicaciones de la vida cotidiana: asistencia virtual, diagnósticos médicos, traducción automática, herramientas de navegación, control de calidad en la fabricación o anticipación de catástrofes naturales.
Por desgracia, las ventajas de la inteligencia artificial conllevan riesgos potenciales. Las técnicas avanzadas de inteligencia artificial pueden utilizarse para crear contenidos fotográficos o audiovisuales engañosos que pueden manipular fácilmente a una gran audiencia. Incluso en Rumanía ya hay casos de vídeos de personalidades públicas que ofrecen supuestos consejos financieros y recomiendan encarecidamente invertir en una determinada empresa o negocio con grandes beneficios y riesgos mínimos.
La calidad de imagen y sonido es alta, los personajes públicos en cuestión parecen sinceros y convincentes, utilizando un lenguaje accesible y argumentos persuasivos. Los vídeos se comparten en las redes sociales, los ven millones de personas y muchas de las que los ven pueden ser engañadas fácilmente para que inviertan en el negocio recomendado, en realidad ilícito, e incluso corren el riesgo de perder importantes cantidades de dinero a manos de los manipuladores que crearon los vídeos.
El lunes, la Dirección Nacional de Ciberseguridad de Bucarest lanzó una guía sobre cómo identificar material deepfake. El objetivo principal: concienciar sobre los riesgos de la ciberseguridad. La guía contiene información detallada sobre lo que significan los contenidos ultrafalsos (deepfake), el proceso de elaboración y cómo puede identificarse este tipo de material.
Disponible en el sitio web dnsc.ro, la guía también enseña a los rumanos qué hacer si son víctimas de un material ultrafalso. La Dirección de Ciberseguridad también advierte de que el fenómeno de la manipulación de la inteligencia artificial puede tener consecuencias perjudiciales no solo para un individuo, sino para la sociedad en su conjunto.
No olvidemos, por ejemplo, que este año se celebran en Rumanía los cuatro tipos de elecciones. En el ámbito digital, donde la frontera entre realidad y ficción se difumina constantemente, el proceso electoral va más allá de la simple confrontación de ideologías y promesas políticas y se convierte en un complejo campo de batalla ideológico. Las tecnologías de contenidos ultrafalsos, capaces de reproducir imágenes y voces casi a la perfección, pueden, entre otras cosas, influir significativamente en la opinión y el voto de los electores durante las campañas electorales. Así que ¡cuidado con estos contenidos!
Versión en español: Antonio Madrid
