El Ministerio del Interior y Seguridad y el Servicio Nacional Forense han desarrollado un modelo de detección y análisis de 'deepfakes' basado en inteligencia artificial para su uso en las elecciones locales del 3 de junio. | iclickart (La reproducción o redistribución no autorizada de esta imagen está prohibida por las leyes de derechos de autor.)
Por Yoo Yeon Gyeong
La tecnología de detección basada en inteligencia artificial (IA) se empleará en las elecciones locales del 3 de junio para prevenir la difusión de contenido falso mediante "deepfakes".
El modelo de detección y análisis de "deepfakes" basado en IA, desarrollado conjuntamente por el Ministerio del Interior y Seguridad y el Servicio Nacional Forense (SNF, por sus siglas en inglés), se utilizará en los comicios del próximo 3 de junio.
El objetivo es impedir que información falsa sobre los candidatos distorsione el juicio de los votantes, ante el auge reciente de contenidos "deepfake" que sintetizan de manera sofisticada rostros y voces de personas.
Este modelo se desarrolló a partir de los resultados de un concurso celebrado en diciembre del año pasado, orientado a crear modelos de detección de IA para combatir el delito de "deepfake", en el que participaron 1.077 concursantes organizados en 268 equipos.
El ministerio y el SNF pondrán a disposición de la Comisión Electoral Nacional (NEC) los cinco modelos más destacados. Además, otro sistema prestará apoyo a la evaluación y el análisis rápidos de contenidos de vídeo o audio sospechosos durante el período electoral.
El Ministerio del Interior y Seguridad y el Servicio Nacional Forense (SNF) ofrecen el 19 de marzo una sesión informativa para medios extranjeros sobre el modelo de detección y análisis de 'deepfakes' basado en IA en el KOCIS Center del distrito de Jung-gu, en Seúl. | Ministerio del Interior y Seguridad
El modelo mejora la precisión de detección al realizar simultáneamente un "análisis global" del flujo completo del vídeo y un "análisis local" para determinar qué elementos -como los rostros- han sido manipulados. Según el Gobierno, la tasa de precisión de detección ronda el 92 por ciento, frente al 76 por ciento del modelo anterior.
El ministerio y el SNF ampliarán gradualmente el alcance de los modelos de análisis de "deepfakes" y colaborarán con organismos como el Ministerio de Igualdad de Género y Familia, la Comisión de Medios y Comunicaciones de Corea (KMCC) y la Agencia Nacional de Policía de Corea (NPA) para articular una respuesta gubernamental integral ante los delitos digitales.
"La desinformación mediante 'deepfakes' de IA altamente sofisticados supone una grave amenaza para la democracia electoral", señaló Yun Ho Jung, ministro del Interior y Seguridad. "El Gobierno seguirá reforzando su capacidad de respuesta ante la información falsa y manipulada durante el proceso electoral, con el fin de proteger los derechos fundamentales de la ciudadanía y construir un gobierno democrático competente y fiable impulsado por la IA", agregó.
dusrud21@korea.kr