El avance de la inteligencia artificial es tan vertiginoso que se ha convertido en algo un tanto problemático. Hoy día son cada vez más las quejas de artistas, diseñadores, músicos y público en general sobre el tema de los derechos de autor y el empleo de sus obras para entrenar los algoritmos de inteligencias como MidJourney y DALL-E. Esto ha generado demandas, controversias legales y ahora, softwares para confundir a la IA, tal como Nightshade.
Un equipo de desarrolladores e investigadores de la Universidad de Chicago habían desarrollado en un inicio «Glaze» una aplicación diseñada para engañar a la inteligencia artificial con el firme propósito de defender los derechos de autor de los artistas. Pero, al paso al que avanza esta tecnología y la manera en que la perfeccionan, resultó insuficiente y decidieron redoblar esfuerzos para crear «NightShade» y la anunciaron en «X«.
Influencers creadas con inteligencia artificial, una tendencia en aumento
La forma de operar de «NightShade» consiste en clasificar erróneamente los conceptos que describen a la obra para que la inteligencia artificial aprende incorrectamente. Durante las pruebas realizadas, se consiguió alterar los conceptos de «perro y gato» mientras se empleaba Stable Diffusion (una IA generativa de buena reputación), es decir, cuando se le pedía dibujar un perro, dibujaba un gato y viceversa.
Durante las primeras 50 pruebas, se le solicitaba dibujar un perro y lo lograba, pero el resultado era perturbador, por llamarlo menos. Después de 100 imágenes, dibujaba gatos cuando la solicitud había sido caninos. Y al finalizar, en la prueba 300, generaba un perro cuando se le solicitaba un gato. La inteligencia artificial fue «envenenada» al grado de no poder crear imágenes pese a los conceptos e indicaciones concretas que se le brindaban.
Refik Anadol, el artista visual de inteligencia artificial y NFTs
La desventaja es que los mismos desarrolladores han declarado que se trata de aplicaciones que se ejecutan en el ordenador del hogar pero que consumen muchos recursos por lo que puedes perder información al hacerlas funcionar. Nightshade intenta contrarrestar el llamado «abuso» por parte de las inteligencias artificiales que han sido entrenadas con obras artísticas violando los derechos de autor y sin una regulación al respecto.
Stephanye Reyes
Periodista en deformación. Humana por imposición, bruja por elección. Ojos defectuosos pero talentosos. Hago fotografía de todo lo que mis miopes ojos ven: Ig:bruja_amapola
