¿Por qué Meta no utilizó la tecnología de detección de IA de Google?

En marzo, la Mesa de Contraloría de Meta exigió a la empresa que cumpliera sus compromisos públicos y empleara sus propias herramientas para ayudar a reducir la propagación de contenido generativo de IA engañoso en las plataformas. Meta respondió en julio presentando el sello de contenido - una tecnología de marcado invisible que identifica imágenes generadas por el nuevo modelo de IA de la empresa. Pero fue básicamente un pie de nota enterrado en el anuncio de los herramientas de generación de imágenes y videos Muse de la empresa.

Para alguien que pasa mucho tiempo examinado sistemas de etiquetado de IA, el Sello de Contenido no me llena de confianza. Ya hay soluciones establecidas más, como los Credenciales de Contenido C2PA, que han demostrado ser más accesibles y fiables. El Sello de Contenido parece ser una versión menos accesible y fiable de SynthID.

La respuesta de Meta no fue convincente

En julio, Meta presentó el Sello de Contenido, una tecnología de marcado invisible que identifica imágenes generadas por su nuevo modelo de IA. Pero la respuesta de Meta no fue convincente. El Sello de Contenido no fue presentado como una solución integral para abordar el problema de la difusión de contenido generativo de IA engañoso. Más bien, fue un aditamento a la anunciada herramienta de generación de imágenes y videos Muse.

El Sello de Contenido no es solo una solución incompleta, sino que también es una copia de soluciones existentes. La tecnología de marcado invisible de C2PA Content Credentials ha demostrado ser más accesible y fiable que el Sello de Contenido. Esto plantea preguntas sobre por qué Meta no decidió usar la tecnología de detección de IA de Google, que es más establecida y confiable.

Meta debería haber utilizado la tecnología de detección de IA de Google

La Mesa de Contraloría de Meta exigió a la empresa que cumpliera sus compromisos públicos y empleara sus propias herramientas para ayudar a reducir la propagación de contenido generativo de IA engañoso en las plataformas. Meta debería haber utilizado la tecnología de detección de IA de Google, que es más establecida y confiable.

El Sello de Contenido no es solo una solución incompleta, sino que también es una copia de soluciones existentes. Meta debería haber invertido en la tecnología de detección de IA de Google, que es más accesible y fiable que el Sello de Contenido.

El contexto clave

La tecnología de detección de IA es un campo en constante evolución. Las empresas como Meta y Google están desarrollando soluciones para abordar el problema de la difusión de contenido generativo de IA engañoso. El Sello de Contenido es solo una de las muchas soluciones que están siendo desarrolladas en este campo.

La tecnología de detección de IA se basa en la idea de identificar patrones y características en el contenido generado por IA. Esto puede incluir la detección de imágenes o videos generados por IA, o la identificación de texto generado por IA. El Sello de Contenido utiliza una tecnología de marcado invisible para identificar imágenes generadas por IA.

La detección de IA es un campo en constante evolución. Las empresas como Meta y Google están desarrollando soluciones para abordar el problema de la difusión de contenido generativo de IA engañoso. El Sello de Contenido es solo una de las muchas soluciones que están siendo desarrolladas en este campo.

Para profundizar

• Tecnología de detección de IA — La tecnología de detección de IA es un campo en constante evolución. Las empresas como Meta y Google están desarrollando soluciones para abordar el problema de la difusión de contenido generativo de IA engañoso.
• C2PA Content Credentials — La tecnología de marcado invisible de C2PA Content Credentials ha demostrado ser más accesible y fiable que el Sello de Contenido.
• Meta y Google — Meta y Google están desarrollando soluciones para abordar el problema de la difusión de contenido generativo de IA engañoso. El Sello de Contenido es solo una de las muchas soluciones que están siendo desarrolladas en este campo.