El Cliente
Google, Meta y OpenAI han anunciado en los últimos días distintas medidas para que sea más fácil identificar imágenes o archivos que han sido producidos o retocados con inteligencia artificial (IA). Estas iniciativas se enmarcan en el temor a que la difusión indiscriminada de mensajes falsos condicione los resultados de elecciones o tenga otras consecuencias inesperadas. Las tres compañías ya habían anunciado que tratarán de impedir el uso de la IA en los procesos electorales de 2024.
Contexto y Desafíos
Tras años de invertir miles de millones de euros en mejorar la capacidad de la inteligencia artificial generativa, las tres plataformas se han unido a la Coalición para la Procedencia y Autenticidad de Contenido (C2PA por las siglas en inglés), que propone un certificado estándar y reúne a buena parte de la industria digital, a medios de comunicación como la BBC o The New York Times a bancos y a fabricantes de cámaras. Las empresas admiten en sus comunicados que no hay por ahora una solución única, ni eficaz en todos los casos, para la identificación de contenido generado con IA.
Solución
Las iniciativas varían entre marcas visibles en las propias imágenes y mensajes disimulados en los metadatos del archivo o en los píxeles que han sido generados artificialmente. Con su herramienta aún en fase beta, SynthID, Google también dice haber encontrado un modo de identificar audios.