YouTube y la CAA trabajan juntas para detener los deepfakes generados por IA.
Creative Artists Agency (CAA) y YouTube han anunciado una asociación pionera para crear herramientas de vanguardia para encontrar material generado por IA, especialmente deepfakes de personajes famosos. Esta es la primera vez que personas del sector trabajan juntas para intentar resolver los problemas que la IA está causando en la creación de contenido.
Un pequeño grupo de superestrellas contratadas por CAA, como Ariana Grande, Beyoncé y The Weeknd, tendrán acceso anticipado a la nueva tecnología de detección de IA de YouTube como parte de la iniciativa. La plataforma quiere utilizar sus comentarios para mejorar sus sistemas de detección y gestión de contenido.
Los planes prevén que los mejores jugadores de la NBA y la NFL se unan a la asociación a principios de 2025, por lo que no se limita solo al negocio de la música. Este variado grupo de probadores ayudará a garantizar que la tecnología funcione bien con una amplia gama de tipos de material y talento.
Según Neal Mohan, director ejecutivo de YouTube, la empresa se dedica a desarrollar IA de forma responsable: "Creemos que un enfoque responsable de la IA comienza con asociaciones sólidas". Esta asociación con CAA ayudará a garantizar que los creadores y artistas puedan utilizar la IA al máximo y, al mismo tiempo, mantener el control sobre su presencia en línea.
El hecho de que CAA esté involucrada demuestra que la tecnología y la gestión de talentos ahora están trabajando juntas de manera estratégica. El director ejecutivo y copresidente de CAA, Bryan Lourd, enfatizó la importancia de la ética: "Nuestras conversaciones sobre IA se centran en la ética y los derechos de los talentos". El esfuerzo de YouTube demuestra liderazgo al crear una solución que funciona para los talentos y se adapta a nuestros objetivos.
Este acuerdo se basa en lo que YouTube ya ha hecho en el área de gobernanza de la IA, como:
Trabajar con Universal Music Group y Warner Music Group en el pasado en herramientas de IA vinculadas a la música
Establecer un sistema para eliminar material que imita la voz o la semejanza
El material generado por inteligencia artificial (IA) debe tener etiquetas
YouTube planea incluir a creadores de contenido, trabajadores creativos y otros socios de la industria en el programa de prueba, que comienza con este proyecto. Con este método integral, el objetivo es crear herramientas que ayuden tanto a los YouTubers famosos como al resto de la comunidad. Los expertos en el campo consideran que esta alianza es un gran paso hacia el establecimiento de estándares para el control de contenido de IA en los medios digitales. El acuerdo demuestra que YouTube está tomando la iniciativa para abordar cuestiones relacionadas con la IA, al tiempo que defiende los derechos de los creadores y fomenta nuevas ideas.