Al igual que muchas otras empresas y nuevas empresas de Internet que lo precedieron, Amazon está introduciendo un generador de imágenes.
Amazon presentó Titan Image Generator durante el discurso de apertura de la conferencia re:Invent esta mañana. Los usuarios de AWS ahora pueden probar la herramienta en Bedrock, la plataforma de desarrollo de inteligencia artificial de la compañía. Titan Image Generator, uno de los modelos de IA generativa de la familia Titan de Amazon, puede alterar imágenes preexistentes o generar otras nuevas basadas en descripciones de texto.
El vicepresidente de servicios de datos y aprendizaje automático de AWS, Swami Sivasubramanian, hizo una declaración en el escenario sobre lo fácil que es aplicar el modelo para cambiar el fondo de una imagen a una selva tropical, por ejemplo. [Y usted] puede utilizar el modelo para cambiar fondos sin esfuerzo y producir fotografías de estilo de vida, manteniendo al mismo tiempo el enfoque principal de la imagen y agregando otras opciones.
Titan Image Generator, según Amazon, tiene mitigaciones integradas de toxicidad y sesgo, fue entrenado en un "conjunto diverso de conjuntos de datos" en una "amplia gama de dominios" y se puede ajustar en nuevos conjuntos de datos si se desea . (Obviamente, la efectividad de esas mitigaciones aún está en el aire, salvo que se realicen pruebas). Sin embargo, la empresa no revelaría las fuentes de los conjuntos de datos utilizados para entrenar Titan Image Generator, ni confirmaría si tiene permiso o no. pagar a todos los productores de imágenes cuyo trabajo se incluyó en los conjuntos de datos.
Stability AI y, más recientemente, OpenAI son dos empresas generadoras de imágenes que brindan a los autores la opción de no utilizar conjuntos de datos de entrenamiento. Algunos están estableciendo planes de compensación para artistas, como Getty Images y Adobe, aunque estos planes no son necesariamente transparentes o generosos.
De acuerdo con su política de indemnización por IA, Sivasubramanian afirmó en el escenario que Amazon defenderá a los clientes acusados de infracción de derechos de autor utilizando imágenes generadas por Titan Image Generator. La regurgitación ocurre cuando un modelo generativo produce una réplica exacta de un ejemplo de entrenamiento; Esta es una gran noticia para los clientes de AWS que están preocupados por esto.
Acrolinx encuestó recientemente a empresas Fortune 500 y descubrió que la propiedad intelectual era el principal problema para aproximadamente un tercio de ellas con respecto a la IA generativa. Según otra encuesta, nueve de cada diez desarrolladores "consideran seriamente" la protección de la propiedad intelectual cuando deciden utilizar IA generativa.
"Estamos seleccionando meticulosamente los datos que utilizamos para entrenar nuestros modelos", afirmó. "Al realizar estas inversiones, damos a nuestros clientes la libertad de elegir los modelos que mejor se adapten a sus necesidades, independientemente de cómo evolucionen esas necesidades con el tiempo".
Titan Image Generator utiliza por defecto una marca de agua invisible que es "resistente a manipulaciones", según Sivasubramanian. Se trata de un esfuerzo por frenar la difusión de información falsa e imágenes abusivas realizadas por la IA. (Los ejemplos más recientes de la creciente gravedad del problema son los deepfakes del conflicto de Gaza y las fotografías de abuso infantil creadas por inteligencia artificial). Nos hemos puesto en contacto con Amazon para pedirles aclaraciones sobre el enfoque de marca de agua que están utilizando y qué tecnologías pueden identificarlo. fuera de su API.
Las marcas de agua están incluidas en el acuerdo voluntario de IA que Amazon y la Casa Blanca acordaron en julio, como señaló Sivasubramanian. Google y Microsoft se encuentran entre los otros signatarios que han creado sus propios sistemas para determinar la autenticidad del contenido o han adoptado el sistema de Credenciales de Contenido de la Coalición para la Procedencia y Autenticidad del Contenido.