Inteligencia alucinatoria

La IA (inteligencia alucinatoria) es la burbuja tecnológica actual. Es una cosa mágica en la que tú le preguntas una cosa y te contesta con una respuesta directa y exacta. Sobre el papel parece muy bonito pero la cosa es diferente en la realidad. Aunque puede tener una base de código abierto, el punto clave del funcionamiento de la IA no es la aplicación que gestiona la información sino los datos que la forman. Por ejemplo, puedes entrenar una IA para que clasifique vehículos a partir de unos parámetros (realmente es una red neuronal). Te va a dar la clasificación del vehículo después de haberla entrenado con datos reales. Si ahora usamos ese conjunto de datos, también llamado dataset, para clasificar otra cosa como frutas, nos puede decir que un tomate es un autobús de la empresa de transporte. En este ejemplo es evidente que es un error pero, ¿qué pasaría si preguntamos sobre cosas que no conocemos?

Ocultación de la información

Hasta hace poco, cuando queríamos buscar información sobre un tema usábamos un buscador Web. En el pasado aparecieron incluso aplicaciones que actuaban como meta-buscadores, es decir, buscaban en diferentes páginas el texto que queríamos y nos daban un resultado unificado. Ahora con la IA, le preguntamos, nos responde y con suerte añade unos enlaces al final. Si a un usuario le cuesta leer un texto aunque sea corto (por eso abundan tanto los vídeos sobre cualquier tema), ¿qué hace pensar que irá a la página Web al leer el contenido completo en lugar de quedarse con el resumen?

Puede parecer que si ésto afecta a Webs grandes es un problema para ellos. La diferencia es que hay muchas Webs pequeñas como InnerZaurus que pierden aún más la visibilidad. Por ejemplo, en InnerZaurus he escrito muchas veces sobre Android. Mis artículos, por visibilidad, contenido o la razón que sea, tienen un número reducido de visitas. No importa el tiempo que le haya dedicado, al final el retorno en número de lecturas es pequeño. Como ésta Web es un proyecto personal que no tiene publicidad, no es muy molesto. Ahora, en una Web de las grandes que tratan sobre Android, una nota de prensa de un fabricante que sólo está traducida tiene muchas más visitas. No es por la calidad del contenido, de hecho muchas veces encuentras el mismo texto íntegro en diferentes webs. Es por la visibilidad. Si escribes mucho, tienes más visibilidad en los buscadores y eso se traduce en visitas.

Si sustituimos ahora los buscadores por una Inteligencia alucinatoria, ya eliminamos un elemento de la ecuación. La IA actúa como una especie de buscador. En lugar de indexar título o la entrada del artículo, indexa todo el contenido, lo proceso y lo prepara para cuando le pregunten. El resultado es que el usuario tiene su respuesta y ya se olvida de la página que tenía la información. Antes veías un artículo que te interesaba y, con un poco de suerte, podías consultar otras entradas de la Web.

Lo tuyo es mio y lo mio es mio

Para que una Inteligencia alucinatoria sea útil tiene que estar entrenada con muchos datos. Ésto se consigue recorriendo las páginas Web y almacenando su contenido para procesarlo. Técnicamente no guardan una copia de la información pero la analizan y a efectos prácticos, guardan el contenido. Si un particular quisiera entrenar su IA con contenido de terceros, tendría que pedir permisos y pagar cuantiosas comisiones. Las grandes empresas dicen que ésto no sería viable y que prefieren entrenar su IA usando contenido sin permisos.

Han entrenado los modelos con películas, vídeos y Webs de terceros sin pedir ningún permiso. Naturalmente, la justicia ha intervenido y les ha dicho que no es ningún problema. Sólo en algunos casos les ha obligado a pagar una multa. Meta, la dueña de Facebook, WhatsApp o Instagram ha sido condenada por usar contenido pirateado. No sólo no pagaban derechos de autor sino que eliminaban cualquier referencia al copyright del contenido. Después de hacer ésto, lo compartían con otras personas. Es algo que han hecho todas las compañías.

Consumo de recursos

A los recursos que usan para entrenar la IA (la Wikipedia ha tenido un aumento en su ancho de banda sólo por los bots de entrenamiento), se le suman los recursos necesarios para las aplicaciones. La moda ahora es tener Inteligencia alucinatoria en el teléfono. Te permite consultar cualquier información, modificar fotos o hacer una imagen con el estilo Ghibli (aunque al estudio Ghibli le parezca mal). Aquí pasa una cosa muy curiosa: todo depende de servidores en la nube. Ni en los teléfonos más potentes podemos tener de forma local una IA. Si la tenemos, su funcionamiento estará muy limitado. Por esta razón es necesario conectar la aplicación con la nube. Cómo se gastan muchos recursos en gestionar todo, los fabricantes están ofreciendo cómodas suscripciones para sufragar los gastos.

OpenAI es una de las empresas que más recursos está usando con la IA. Según su CEO, la suscripción de 200 € mensual hace perder dinero a la empresa. El problema que se han encontrado es simple. Si la gente paga bastante dinero por un servicio, lo usa mucho. Otro ejemplo lo encontramos con las imágenes estilo Ghibli. Cada imagen generada gasta 3,45 litros de agua (en refrigeración). Con el boom que ha habido con esta función, se han gastado en 5 días un total de 216 millones de litros de agua. Lógicamente no consume los mismos recursos una generación de texto que una imagen pero las cifras hay que tenerlas en cuenta.

Manipulación de la Inteligencia alucinatoria

Por último quería comentar algo que no se ve tanto y son las alucinaciones. Como he comentado, la IA necesita un dataset muy grande de datos para dar respuestas. Si el dataset es grande no hay muchos problemas, la pega aparece cuando es pequeño y se inventa cosas. Personalmente utilizo un framework para programar aplicaciones de escritorio con Java. Cuando le he preguntado cosas muy específicas me ha dado respuestas que no tienen ningún sentido porque conozco las limitaciones del framework. Cuando las preguntas están relacionadas con cosas generales sí que contesta bien. La cuestión es, si detecto los errores en las cosas que conozco, ¿quién me asegura que no se invente cosas en los temas que no domino?

Supongamos que entrenamos la IA con un dataset sacado de Webs violentas. Cuando un usuario le pregunte a la IA sobre un tema, le acabará contestando con información de esas Webs violentas. Es posible crear artículos en Webs y redes sociales sobre una temática, que la IA los analice y luego difunda cierto tipo de ideas. Un particular no va a poder hacerlo pero una gran empresa o un gobierno no tendría muchos problemas. El resultado es que el usuario se queda en una burbuja en la que sólo escucha lo que otros quieren que escuche. Si una noticia viene de un determinado medio, y sabes que es un generador de bulos, te pones en guardia y no te crees ni la fecha del día. Esa misma información te viene de la IA y la crees porque te han dicho que la Inteligencia alucinatoria es mágica.

Conclusiones

Espero no haberos aburrido con esta entrada. La IA tiene cosas buenas aunque muchas veces es más un tema de marketing que otra cosa. Te venden como IA cosas como redes neuronales o circuitos electrónicos. Por ejemplo, puedes encontrar IA en dispositivos de ayuda a la audición. Es un aparato que no tiene ninguna conexión con el exterior. Lo máximo que puede hacer es ajustar el volumen del sonido de forma automática. Eso lo consigues con un circuito electrónico, no con IA.

Con el paso del tiempo mejorará el hardware y se gastarán menos recursos. Lo que no podemos olvidar es que necesita una gran cantidad de datos para funcionar. Llegará un momento que no tendrá datos creados por humanos y se entrenará con datos creados con IA. Es curioso ver cómo se puede corromper el modelo con un par de iteraciones de datos generados por IA. Otro detalle es que no tienes un control directo sobre los resultados. Por ejemplo, Grok, la IA de Twitter, ha asociado a Elon Musk con el fascismo. No han podido bloquear ese comportamiento.