El peligroso arte de la inteligencia artificial

Han pasado 10 años desde que Theodore, un escritor de treinta y tantos años con un trabajo sin futuro, se enamoró de su asistente de IA, Samantha, en la película de Spike Jonze "Her". La poco convencional historia de amor y sus estrellas, los actores Joaquin Phoenix y Scarlett Johansson, encantaron a los críticos e hicieron que un futuro no muy lejano e hiperconectado, donde la soledad extrema lleva a las personas a buscar el afecto de su tecnología, pareciera creíble. (En realidad, no es tan ficticio. Esto ya está sucediendo).

Donde la premisa de la película se vino abajo fue en la tecnología. Samantha era capaz de expresar o al menos imitar calidez, empatía y creatividad. Era exagerado pensar que la inteligencia artificial podría llegar a ser tan buena en el corto plazo.

Qué diferencia hace una década.

Considere que cuando “Her” se inauguró en 2013, Siri de Apple tenía solo dos años y Alexa y Google Assistant de Amazon ni siquiera habían llegado todavía. Pero pronto, los principales puntos de contacto del público con la IA vendrían a través de asistentes de voz imperfectos y chatbots de servicio al cliente que no podían hacer mucho, se molestaban fácilmente y producían más comedia o frustración involuntaria que la buena voluntad del cliente.

Como cuestión de experiencia directa, los consumidores buscarían formas de evitar los bots en lugar de interactuar con ellos. Luego, OpenAI presentó discretamente ChatGPT en octubre y permitió al público probarlo de forma gratuita. Una vez que se corrió la voz, la tecnología se convirtió en un éxito viral.

La diferencia entre este y los robots anteriores es un cambio generacional, especialmente con la IA generativa, una versión de la tecnología capaz de lograr una impresionante fluidez del lenguaje, una amplia comprensión y la capacidad creativa para generar arte, música y obras escritas. Desarrollados con grandes modelos de aprendizaje, que bombean volúmenes masivos de datos para impulsar el entrenamiento y eliminar las asperezas, los bots como ChatGPT parecen reducir sustancialmente la brecha entre el esfuerzo humano y de la máquina.

Aunque parece que este tipo de avance tardó mucho en llegar, no podría haber ocurrido en ningún otro momento.

Los avances en el modelado, un mejor hardware y una capacidad de procesamiento más potente, junto con la disponibilidad de conjuntos de datos gigantescos y de alta calidad, se unieron para elevar y acelerar lo que es posible. No son perfectos: como tecnologías emergentes, esta nueva clase de bot puede llegar a conclusiones extrañas o erróneas, quedarse perplejo o cometer errores. Pero en comparación con las generaciones anteriores, la diferencia es tan marcada como un Ferrari 2040 junto a un Kia 2001 usado.

Es tentador pensar en esto como otra moda tecnológica más, pero los expertos han sido claros: la IA llegó para quedarse, y las empresas que no se suman ahora corren el riesgo de quedarse atrás. Analistas, científicos, líderes empresariales, funcionarios electos y muchos otros esperan que prácticamente no habrá ningún aspecto de la vida moderna que esta tecnología no toque, desde la atención médica, los productos farmacéuticos, la manufactura, la agricultura, las compras, las relaciones personales, la productividad en el lugar de trabajo y más. . Se trata de una tecnología transformadora, afirman, y está lista para impulsar un cambio tectónico a la par de la Revolución Industrial.

Pero es precisamente por eso que los críticos están haciendo sonar la alarma. La tecnología se volvió tan avanzada y tan rápida que existen pocas barreras de seguridad, si es que hay alguna. Esto es escalofriante, considerando que la IA está lista para llegar a todas partes. Si hay sesgo en los datos de capacitación (o en las personas que brindan refuerzo humano, una parte necesaria del proceso de desarrollo), si los datos privados y los derechos de propiedad no están protegidos, si las herramientas se distribuyen libremente sin investigación, corregir eso más tarde podría ser casi imposible.

Los peligros ya están a la vista. Tomemos como ejemplo las falsificaciones profundas. Estas fotografías, vídeos y audio creados por IA pueden imitar digitalmente la imagen o la voz de una persona real con un realismo cada vez mayor. Una cosa es maravillarse con el Papa vistiendo Balenciaga, el yo más joven de Robert Downey Jr. en un comercial o las voces de IA de Drake y The Weeknd en una canción viral. Otra es darse cuenta de lo fácil que es clonar digitalmente a un político para avivar la desinformación o la violencia. Chatee con una herramienta generadora de imágenes como Midjourney o DALL-E de OpenAI, y generará imágenes de apariencia realista de casi cualquier cosa, como las fotografías falsas del arresto de Donald Trump y Vladimir Putin, que se volvieron virales en marzo. Estas herramientas están disponibles públicamente para cualquier persona, incluidos los delincuentes.

Jennifer DeStefano, una madre de Arizona, lo descubrió cuando unos estafadores falsificaron la voz de su adolescente para exigir un rescate. “Es la voz de mi hija llorando y sollozando, eh, diciendo: 'Mamá'”, relató DeStefano a ABC News. “Y yo dije: 'Está bien, ¿qué pasó?' Ella dice: 'Mamá, estos hombres malos me tienen'. Ayúdame Ayúdame.'"

Escenarios como ese son desconcertantes, y ahí es cuando la tecnología funciona según lo diseñado. Obviamente los defectos también tienen consecuencias. La IA que saca conclusiones erróneas debido a sesgos o datos desactualizados puede causar un daño real a individuos, grupos específicos y regiones enteras. (Una versión anterior de ChatGPT no tenía información sobre eventos posteriores a 2021).

En mayo, la administración Biden se reunió con los directores ejecutivos de Google, Microsoft, OpenAI, creador de ChatGPT, y Anthropic para insistir en la cuestión de la ética y la responsabilidad, y, según se informa, el Reino Unido está planeando una cumbre sobre IA este otoño. Pero hasta que existan regulaciones, el rápido desarrollo de la IA será una especie de salvaje oeste.

Las marcas deben sopesar cuidadosamente a los socios potenciales y aprender cómo se entrenaron sus modelos, de dónde provienen los datos y su calidad, el enfoque de la plataforma para evitar sesgos y si la tecnología se está desarrollando de manera intencional y éticamente sólida. Un poco de debida diligencia ahora podría salvaguardar a las empresas frente a futuras decisiones judiciales, leyes y regulaciones que podrían forzar cambios más adelante.

También es necesario considerar cuidadosamente las decisiones comerciales en torno a proyectos relacionados con la IA. La reacción violenta contra Levi Strauss & Co. esta primavera es un ejemplo perfecto. En marzo, la icónica marca de mezclilla reveló una asociación con Lalaland.ai para probar modelos de moda generados por IA como una forma de agregar más diversidad a sus campañas de marketing.

"Si bien es probable que la IA nunca reemplace completamente los modelos humanos para nosotros, estamos entusiasmados con las capacidades potenciales que esto puede brindarnos para la experiencia del consumidor", explicó en un comunicado la Dra. Amy Gershkoff Bolles, líder de tecnología emergente en Levi's. Tiene sentido sobre el papel, dado el enfoque de la marca en las nuevas tecnologías, su inclinación por ir más allá y su cultura basada en causas. Pero no para todos.

Modelos, artistas, defensores de la diversidad y otros rápidamente se lanzaron a criticar a la marca por optar por una “diversidad falsa” en lugar de contratar modelos humanos diversos de la vida real. La analista de datos Tulsa Rice, que se hace llamar @FlyIngenuity en Twitter, no se contuvo en un tweet que lo llamó "cara negra digital".

Las nuevas tecnologías también tienden a traer obstáculos imprevistos. Tomemos el metaverso, por ejemplo. La moda puso a prueba los límites de la ley de propiedad intelectual a principios de este año, cuando Hermés demandó al diseñador de la Web 3.0 Mason Rothschild por sus NFT MetaBirkins. El jurado no aceptó el argumento de la defensa, que enmarcaba los productos digitales como obras de arte y, por tanto, como una clase de expresión protegida. Así que en febrero, cuando la marca de lujo prevaleció, terminó extendiendo las protecciones de propiedad intelectual del mundo real al mundo virtual.

Con la IA generativa y su habilidad para el trabajo creativo, las cosas parecen aún más complicadas. Ya está provocando temores y debates en todas las industrias.

La llamada de atención de la industria musical se produjo en abril, cuando la canción falsa “Heart on My Sleeve” con Drake y The Weeknd se volvió viral. Sacudió la industria de la música, principalmente porque ninguno de los artistas actuó en esa canción. Las voces eran falsas, pero el pánico era real, lo que hizo que Universal Music Group, el sello de los cantantes, se apresurara a sacar la canción de todas las plataformas de redes sociales que pudiera encontrar.

La IA generativa también cobra importancia en Hollywood, incluso teniendo en cuenta la huelga de escritores que comenzó en mayo.

El Writers Guild of America considera que la tecnología es una herramienta útil para sus miembros, pero quiere directrices sobre cómo los estudios pueden utilizarla, además de garantías de que el uso de la IA no comprometerá los derechos de los escritores ni la propiedad de su trabajo. La Alianza de Productores de Cine y Televisión, que representa a los estudios, no quiere obstaculizar un medio potencialmente poderoso de reducción de costos.

Como dijo el grupo a la publicación hermana de WWD, The Hollywood Reporter, "los escritores quieren poder utilizar esta tecnología como parte de su proceso creativo, sin cambiar la forma en que se determinan los créditos, lo cual es complicado dado que el material de IA no puede tener derechos de autor".

Pero la realidad no es tan definitiva. Según Harvard Business Review, la propiedad legítima de las obras generadas por IA aún no se ha decidido y no es una cuestión sencilla ni directa.

La revista citó Andersen contra Stability AI et al. desde finales de 2022, cuando los artistas demandaron “múltiples plataformas de IA generativa sobre la base de que la IA utiliza sus obras originales sin licencia para entrenar su IA en sus estilos, lo que permite a los usuarios generar obras que pueden no ser lo suficientemente transformadoras a partir de sus obras protegidas existentes, y , como resultado, serían trabajos derivados no autorizados”.

En otras palabras, el caso sostiene que usar datos o imágenes de otra persona para entrenar un modelo de IA esencialmente le enseña a imitar el estilo de otra persona y puede conducir a imitaciones. Eso podría suceder, incluso si copiar no es la intención. Las plataformas de inteligencia artificial que extraen datos de entrenamiento de la web (y muchas de ellas lo hacen) podrían fácilmente recopilar material protegido por derechos de autor que afecte el producto final.

¿Quién es responsable en ese caso? ¿Es la plataforma tecnológica la que creó y entrenó el modelo de IA? ¿La marca que permitió la infracción? Quizás un comprador utilizó una herramienta de inteligencia artificial generativa para personalizar una prenda problemática. ¿Está el cliente en apuros?

Profundice y las preguntas se complicarán. Tomemos como ejemplo la herramienta de personalización: ¿quién es el propietario del diseño final, el comprador que impulsó la IA o la marca? ¿Qué pasa con las instrucciones dadas al robot? ¿Puede alguien poseer los derechos, incluso la marca registrada, según las indicaciones de la IA? Si un bot termina creando un diseño similar al aspecto característico de otro diseñador, ¿la culpa es del bot o del usuario?

Se trata de cuestiones espinosas que pueden señalar una nueva realidad en la era de la IA. Cuando sea posible, incluso fácil, crear casi cualquier cosa, entonces se creará casi todo. Como imitaciones.

El aprendizaje automático, con su impresionante capacidad para reconocer e identificar patrones, está demostrando ser un arma eficaz en la batalla contra las falsificaciones. Es por eso que los gigantes del comercio electrónico como Amazon utilizan el aprendizaje automático en su lucha contra las falsificaciones. Pero eso puede ser en ambos sentidos: centrarse en imitadores en algunos escenarios y crearlos en otros.

Todo apunta a un hecho simple: todas las tecnologías son fundamentalmente herramientas, sin alma ni agenda propia. A medida que la IA generativa evoluciona aún más, puede resultar más difícil recordarlo, porque ya puede actuar de manera impresionantemente humana en gran parte de su discurso y creatividad. Pero el valor real, o el perjuicio, de los bots como ChatGPT se reduce a la voluntad de las personas que los crean o los manejan. Por ahora.

Al igual que Samantha de Scarlett Johansson alcanzando la autoconciencia en “Her”, la sensibilidad de las máquinas podría estar en el menú de la vida real algún día. Al menos Demis Hassabis, director ejecutivo del laboratorio de investigación de inteligencia artificial DeepMind Technologies, no lo descarta.

"Los filósofos aún no se han decidido por una definición de conciencia, pero si nos referimos a la autoconciencia... Creo que existe la posibilidad de que algún día la IA pueda serlo", dijo en una entrevista con "60 Minutes". En 2014, Google adquirió DeepMind como parte de sus años de investigación e inversión en IA. El gigante tecnológico incluso creó un robot de Google que tenía una capacidad sorprendente para transmitir, o más bien, imitar, emociones. Fue lo suficientemente bueno como para engañar a un ingeniero de Google. Ahora, desde que ChatGPT explotó y aceleró el espacio, se ha visto atrapado en una carrera armamentista de IA con Microsoft, que es un importante patrocinador de OpenAI.

Uno de estos gigantes podría incluso ser el primero en alcanzar la Singularidad, el umbral crítico cuando la inteligencia de las máquinas supera la inteligencia humana. Johansson finalmente llegó ahí en la película. Algunos científicos y expertos en datos dicen que esto también puede suceder en la vida real y, con la vertiginosa velocidad del desarrollo actual, creen que podría ocurrir en los próximos siete años.

Traducción: Hay mucho trabajo por hacer y poco tiempo.

Regístrese para recibir noticias del Día Mundial del Agua directamente en su bandeja de entrada todos los días