Fujitsu ha anunciado que ha iniciado un proyecto para desarrollar una plataforma de contramedidas contra la desinformación junto con un consorcio de destacadas organizaciones académicas y del sector privado. La multinacional japonesa fue seleccionada como operador principal para esta iniciativa en julio de 2024 a través de una convocatoria pública de propuestas de la Organización para el Desarrollo de Nuevas Energías y Tecnologías Industriales de Japón («NEDO») (1). El esfuerzo forma parte del Programa de I+D de Tecnología Clave y Avanzada a través de la Colaboración Intercomunitaria («K Programa») (2), que se estableció con la colaboración de la Oficina del Gabinete de Japón, el Ministerio japonés de Economía, Comercio e Industria (METI) y otros ministerios japoneses relacionados, para reforzar e impulsar la seguridad económica de Japón. El consorcio, reunido por Fujitsu, incluye al Instituto Nacional de Informática (NII), NEC Corporation, el Instituto de Investigación Keio del SFC, el Instituto de Ciencias de Tokio (antes Tokyo Tech), la Universidad de Tokio, la Universidad de Aizu, el Instituto Tecnológico de Nagoya y la Universidad de Osaka.
El objetivo del proyecto es desarrollar la primera plataforma integral de contramedidas contra la desinformación del mundo, capaz de procesar información falsa desde la detección inicial hasta la recopilación de pruebas, el análisis y la evaluación, y cuya finalización está prevista para finales del año fiscal 2025.
Vivek Mahajan, Vicepresidente Corporativo, CTO, CPO, Fujitsu Limited, comenta: "Estamos encantados de trabajar en esta iniciativa con un consorcio de primer nivel de organizaciones japonesas académicas y del sector privado que tienen un historial probado en la lucha contra la desinformación. Además de nuestros socios del consorcio, Fujitsu colaborará con las agencias gubernamentales pertinentes y otras organizaciones para desarrollar una solución de contramedidas robusta y contribuir a resolver este grave desafío social".
Como operador principal de este proyecto, Fujitsu dirigirá los esfuerzos de I+D, la integración tecnológica y la construcción de la plataforma global. Aprovechando las últimas tendencias en tácticas y tecnologías de desinformación, Fujitsu también creará casos de uso para organizaciones de los sectores público y privado, facilitando la aplicación práctica de los resultados de la investigación.
Tecnología para desarrollar y funciones del consorcio
1. Análisis de información por tipo de medio y detección de desinformación (Responsables: NII, NEC)
NII: Aprovechando su trayectoria en el campo de la detección de medios falsos, el NII desarrollará una tecnología para detectar deepfakes de imágenes, vídeo y audio a partir de publicaciones en redes sociales y otros contenidos. La tecnología identificará cómo se ha creado el contenido multimedia y las áreas que han sido manipuladas y asignará una puntuación de confianza que se proporcionará como prueba de apoyo.
NEC: NEC desarrollará una tecnología de comprensión de los medios de comunicación que extraiga el contenido incluyendo imágenes, vídeo y audio como texto y lo utilice para analizar las coincidencias con los posts de los medios sociales y para recopilar información de apoyo.
2. Gestión de pruebas/apoyos (Responsables: Instituto de Investigación Keio en SFC, Fujitsu, Universidad de Osaka)
Instituto de Investigación Keio del SFC y Fujitsu: El Instituto de Investigación Keio del SFC, que cuenta con una larga trayectoria en el campo de la arquitectura de confianza en Internet, y Fujitsu desarrollarán una tecnología para integrar las pruebas recogidas en Internet, incluidos los resultados de los análisis de la tecnología 1 anterior. Estas pruebas se estructurarán y almacenarán como un gráfico de pruebas/apoyos (3) para verificar la autenticidad y evaluar el impacto.
Universidad de Osaka: La Universidad de Osaka aprovechará su experiencia en el análisis de datos IoT para desarrollar una tecnología que permita recopilar datos de sensores como fuente de pruebas. En los casos en los que la información de la zona objetivo sea incompleta, el sistema deducirá las pruebas basándose en los datos disponibles de las zonas vecinas. Esta recopilación de pruebas proactiva e impulsada por IA, que imita la recopilación e inferencia de información humana, es una iniciativa muy avanzada.
3. Determinación exhaustiva de la autenticidad (Responsables: Fujitsu, Instituto Tecnológico de Nagoya)
Fujitsu: Fujitsu desarrollará una tecnología para analizar la coherencia de las pruebas vinculadas a la información objetivo utilizando los gráficos de pruebas/apoyos de la tecnología. Esta tecnología permite realizar un análisis exhaustivo de la autenticidad de la información, presentando los resultados y las pruebas de apoyo de forma sencilla para el usuario.
Además, también desarrollará un LLM japonés especializado en contramedidas contra la desinformación, utilizando su superordenador (Fugaku) y su experiencia en LLM (Takane). Este LLM especializado mejorará la comprensión de noticias y datos de redes sociales, mejorará las capacidades de razonamiento lógico y permitirá realizar inferencias de alta velocidad y precisión para verificar la autenticidad, mitigando al mismo tiempo las alucinaciones.
Instituto Tecnológico de Nagoya: Fujitsu colaborará con el Instituto Tecnológico de Nagoya para desarrollar una interfaz de usuario y una tecnología de suministro de información basadas en la ciencia cognitiva, teniendo en cuenta factores relacionados con la psicología humana (por ejemplo, el efecto de influencia continua). Esto ayudará a los usuarios a juzgar con precisión la veracidad de la información y fomentará las acciones apropiadas, incluyendo la realización de esfuerzos para evitar la difusión involuntaria de información falsa.
4. Evaluación del impacto de la desinformación (Responsables: Instituto de Ciencias de Tokio, Universidad de Tokio, Universidad de Aizu)
El Instituto de Ciencias de Tokio, la Universidad de Tokio y la Universidad de Aizu, con su experiencia en ciencias sociales computacionales relacionadas con los medios sociales, desarrollarán tecnología para evaluar el impacto de la desinformación. Mediante la ampliación de los LLM para construir un modelo de IA para la evaluación de la desinformación, las tres partes analizarán las características de la desinformación, como la similitud con desinformaciones anteriores y la velocidad de proliferación, centrándose en la fuente, el contenido y el contexto social de los mensajes a partir de los datos de las redes sociales. Esto permitirá evaluar parámetros como la escala de proliferación y el impacto social. Este desarrollo de tecnología para visualizar y evaluar cuantitativamente el impacto social de la desinformación representa un esfuerzo muy avanzado.
Planes de futuro
En el año fiscal 2024, el proyecto se centrará en analizar casos de uso para empresas privadas e instituciones públicas, definir los requisitos funcionales e iniciar la I+D de tecnologías individuales, con el desarrollo del sistema final previsto para finales del año fiscal 2025.
Con el desarrollo de esta plataforma, Fujitsu y sus socios del consorcio pretenden contribuir a la estabilidad económica ante el creciente riesgo de desinformación y, con el apoyo de NEDO, ayudar a incrementar el desarrollo de nuevas industrias, la competitividad internacional y reforzar la posición global de Japón.
Comentarios de las organizaciones académico-industriales asociadas
Prof. Junichi Yamagishi, Instituto Nacional de Informática, comenta: "Combatir la desinformación exige un arsenal sofisticado e integrado de tecnologías. Aprovechando años de investigación puntera en tecnología de detección de medios falsos, vamos a crear una base sólida para un potente sistema de defensa contra la desinformación".
Motoo Nishihara, Vicepresidente Ejecutivo Corporativo y Director Técnico de NEC Corporation, comenta: "Nos entusiasma unirnos a esta importante iniciativa. Como la IA está vinculada a la producción de desinformación cada vez más sofisticada, las contramedidas potenciadas por la IA son primordiales. Aprovechando las tecnologías de IA de vanguardia de NEC, pretendemos contribuir al desarrollo de soluciones verdaderamente eficaces".
El profesor Hiroyuki Kusumoto, de la Facultad de Medio Ambiente y Estudios de la Información de la Universidad de Keio, y el profesor del proyecto Shigeya Suzuki, de la Escuela de Posgrado de Medios de Comunicación y Gobernanza de la Universidad de Keio, comentan: "Hoy en día, la información en Internet no solo la transmiten las personas, sino también los sistemas de información que utilizan LLM. Aprovechando la tecnología de identidad digital más avanzada, crearemos una plataforma que rastree meticulosamente la identidad del remitente y las relaciones de la información, permitiendo un análisis polifacético para una toma de decisiones más informada y precisa por parte del usuario final".
El profesor Kazutoshi Sasahara, del Instituto de Ciencias de Tokio, comenta: "La creciente escala y sofisticación de la desinformación suponen una grave amenaza para nuestra vida cotidiana y nuestra democracia. Dado que la IA hace que la verdad sea cada vez más indistinguible de la falsedad, el desarrollo de tecnologías para evaluar la influencia de la desinformación es una tarea crítica y urgente. Nuestro objetivo es encabezar el desarrollo de herramientas ampliamente accesibles para combatir este creciente desafío".
El profesor Masashi Toyoda, de la Universidad de Tokio, comenta: "Estamos encantados de tener la oportunidad de colaborar con expertos de diversos campos para afrontar el reto de la desinformación. Aprovecharemos una amplia gama de conocimientos y tecnologías para construir una infraestructura fundacional que permita evaluar el impacto de la desinformación".
Yasuhiro Hashimoto, catedrático asociado de la Universidad Aizu, comenta: "La generación y propagación de la desinformación suponen una grave amenaza para la estabilidad social y la seguridad nacional, y exigen un planteamiento multidisciplinar basado en la informática, la ingeniería y las ciencias sociales, entre otras. Desarrollaremos tecnologías para visualizar las estructuras a gran escala y las complejas relaciones en las que circula la desinformación, y construiremos un entorno en el que la dinámica de la desinformación pueda verse y analizarse rápidamente".
La profesora Yuko Tanaka, del Instituto Tecnológico de Nagoya, comenta: "Me complace participar en este proyecto que integra tecnologías de vanguardia para hacer frente a la circulación cada vez más sofisticada y grave de la desinformación. Estoy contribuyendo al desarrollo de un diseño de interfaz que comunique eficazmente los resultados -desde la detección de la desinformación hasta su evaluación- teniendo en cuenta las características cognitivas humanas".
Shin'ichi Arakawa, profesor asociado de la Universidad de Osaka, comenta: "Nos entusiasma participar en un proyecto de I+D que aborda el creciente problema de la desinformación. Dentro del proyecto, nos centraremos en la investigación y el desarrollo prácticos, y en lograr un impacto en el mundo real, yendo más allá de la evaluación teórica".
