Meta está lanzando una nueva herramienta que puede agregar una marca de agua invisible a los movies generados con inteligencia synthetic (IA). Apodada Video Seal, la nueva herramienta se une a las herramientas de marca de agua existentes de la compañía, Audio Seal y Watermark Something. La compañía sugirió que la herramienta será de código abierto, sin embargo, aún no ha publicado el código. Curiosamente, la compañía afirma que la técnica de marca de agua no afectará la calidad del video, pero será resistente a los métodos comunes para eliminarla de los movies.
Los deepfakes han inundado Web desde el surgimiento de la IA generativa. Los deepfakes son contenidos sintéticos, generalmente generados mediante inteligencia synthetic, que muestran objetos, personas o escenarios falsos y engañosos. Este tipo de contenido se utiliza a menudo para difundir información errónea sobre una figura pública, crear contenido sexual falso o llevar a cabo fraudes y estafas.
Además, a medida que los sistemas de inteligencia synthetic mejoren, el contenido deepfake será más difícil de reconocer, lo que hará aún más difícil diferenciarlo del contenido actual. Según McAfee encuestael 70 por ciento de las personas ya sienten que no tienen confianza para diferenciar entre una voz actual y una voz generada por IA.
según datos internos Según Sumsub, los fraudes deepfake aumentaron un 1.740 por ciento en América del Norte y un 1.530 por ciento en la región de Asia y el Pacífico en 2022. Se descubrió que el número se multiplicó por diez entre 2022 y 2023.
A medida que aumentan las preocupaciones sobre los deepfakes, muchas empresas que desarrollan modelos de IA han comenzado a lanzar herramientas de marcas de agua que pueden identificar contenido sintético de contenido actual. A principios de este año, Google lanzó SynthID para marcar con agua textos y movies generados por IA. Microsoft también ha lanzado herramientas similares. Además, la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) también está trabajando en nuevos estándares para identificar el contenido generado por IA.
Ahora Meta tiene liberado su propia herramienta Video Seal para marcar movies con IA. Los investigadores destacan que la herramienta puede marcar cada fotograma de un vídeo con una etiqueta imperceptible que no puede ser manipulada. Se cube que es resistente a técnicas como software program de desenfoque, recorte y compresión. Sin embargo, a pesar de añadir la marca de agua, los investigadores afirman que la calidad del vídeo no se verá comprometida.
Meta ha anunciado que Video Seal será de código abierto bajo una licencia permisiva; sin embargo, aún no ha lanzado la herramienta y su código base al dominio público.
