En todo el mundo, los deepfakes han recibido mucha atención. Dado que muchas empresas internacionales han surgido utilizando deepfakes generados por IA, existe un acuerdo general sobre el enfoque general de este problema. A principios de este año, Google en C2PA se convirtió en un comité directivo junto con otros como OpenAI, Adobe, Microsoft, AWS y miembros de la RIAA. Debido a los problemas de desinformación de la IA tradicional y los deepfakes, el personal de TI querrá aceptar el trabajo de esta agencia, haciendo referencias específicas a las credenciales del contenido.
Credenciales de contenido: el nuevo estándar
La industria está en proceso de regular un área específica de gestión de datos visuales y de video en todos los niveles, por lo que el equipo de TI tendrá especial cuidado en este sentido. Las credenciales de contenido son metadatos digitales de una manera que los creadores o titulares de contenido pueden utilizar para obtener el crédito adecuado e introducir la honestidad en un ecosistema. Estos metadatos irrecuperables consisten en el nombre y los detalles del artista y se escriben directamente en el contenido cuando se exporta o descarga.
Las etiquetas de contenido creadas bajo las mismas reglas y permisos tienen más posibilidades de implementar un etiquetado estandarizado en un mundo integral y tolerante debido a la influencia de las empresas detrás de la idea. Las credenciales de contenido representan una oportunidad única por diversas razones. Ayudará a fortalecer la credibilidad y la confiabilidad entre la audiencia, ya que proporciona información muy necesaria sobre el autor o el proceso creativo. Esto desarrolla la atmósfera de la sala, lo que ayuda a combatir la información errónea y la desinformación.
Adjunte cualquier información de contacto a su trabajo para reforzar la identidad de los artistas para que los usuarios puedan rastrearlos y vincularlos para reconocimiento y visibilidad. Además, habrá algunas medidas dirigidas al contenido de Internet no real, como contenido falso y diseñado para engañar a la gente. La historia de Australia refleja el mayor aumento en el fraude deepfake, similar al del otro mundo. Sumsub , en su tercer Informe sobre fraude de identidad, dijo que el número de deepfakes en Australia ha aumentado 15 veces en comparación con el año anterior y que la sofisticación de los medios falsificados en formas realistas avanza aún más.
Debido a que el ojo humano baja la guardia casi instantáneamente, los deepfakes se vuelven muy persuasivos. Las investigaciones indican que podría llevar hasta 13 milisegundos clasificar imágenes, mucho menos que el tiempo que tarda un humano en procesar la información y autentificarla o rechazarla. El Comisionado de eSafety de Australia señala que "el desarrollo de innovaciones para ayudar a identificar deepfakes aún no va a la par de la tecnología". Por su parte, el gobierno australiano se ha comprometido a luchar contra los deepfakes.
Luchando contra los deepfakes en Australia
Los deepfakes representan una amenaza muy real para la estabilidad y seguridad de todos los australianos. Cualquier campaña de prevención de deepfakes a largo plazo debe centrarse en campañas de concientización que ayuden a las personas a comprender cómo funcionan los deepfakes y las opciones disponibles para evitar ser víctimas de estos trucos.
Para que esta visión se haga realidad, será necesario que haya un consenso en toda la industria, en el que las partes interesadas clave del lado de la oferta proporcionen la tecnología y tengan el mayor impacto en la IA . Pero aquí es donde tienen lugar las credenciales de contenido. Si bien las credenciales de contenido son la mejor oportunidad para crear estándares que resuelvan el problema de los deepfakes, los problemas de detectar, regular y castigar el uso indebido persistirán. Esto significa que la prevención no se basa en la industria ni está respaldada por masas de líderes de los medios de comunicación. Estas implementaciones pueden extenderse a gran parte de Internet y, en esos momentos, la mayoría de los sitios web son notificados inmediatamente como sitios virales en el motor de búsqueda.
Las personas involucradas en TI e IA que trabajan en la creación de contenido lo querrán. Deben comprender las credenciales de contenido tal como los desarrolladores web han llegado al nivel de involucrarse con la seguridad, el SEO y todos los estándares que existen para proteger el contenido contra la prohibición. Los pasos que deben tomar incluyen:
Implementación de credenciales de contenido: en primer lugar, los expertos en TI deben asegurarse de que su empresa implemente e integre completamente las credenciales de contenido en los flujos de trabajo para mantener la autenticidad y la trazabilidad del contenido.
Apoyo a la transparencia: el fomento interno y externo con socios y clientes conduce a una promoción organizada para que las organizaciones sean transparentes sobre su uso de la IA y adopten prácticas éticas en la creación y distribución de contenido.
Legislación de apoyo: Considere la posibilidad de que los organismos de la industria y el gobierno orienten las políticas y la regulación para contrarrestar los desafíos inducidos por los deepfake. Esto no sólo implicará la participación en las numerosas consultas públicas que el gobierno llevará a cabo sobre la IA, sino que también ayudará a dar forma al trabajo político.
Colaboración: combine una mayor experiencia con otros profesionales y organizaciones mediante la creación de enfoques y herramientas compartidos y consistentes para identificar riesgos de deepfake.
Preparar estrategias de respuesta: Aborde los desafíos que plantean los deepfakes y prepare sus planes cuando se detecte esta tecnología, como la gestión de daños y las comunicaciones.
Aprovechar los recursos de la comunidad: la plataforma también debe utilizar recursos de las comunidades de ciberseguridad, como el Comisionado de eSafety, para tener avances recientes oportunos.
La formación en deepfake es la tarea más desafiante para los informáticos, que necesitan encontrar una solución aplicable. Las credenciales de contenido brindan al mundo una excelente organización inicial sobre la cual el resto de la industria puede construir.