(MAX VON THUN. PROJET SYNDICATE. EL ECONOMISTA)
BRUSELAS. En mayo, Google lanzó una actualización largamente esperada que incorporaba inteligencia artificial (IA) generativa a su motor de búsqueda dominante. A los usuarios que buscan información en Estados Unidos se les muestra a veces una descripción general generada por IA que resume los resultados, seguida de la lista habitual de sitios web clasificados por relevancia. En cuestión de días, la gente estaba reportando respuestas extrañas, inexactas y francamente peligrosas de la nueva función de descripción general de IA. El modelo sugería usar pegamento para ayudar a que el queso se pegara a la pizza, promocionaba los beneficios cardiovasculares de correr con tijeras y afirmaba que el expresidente estadounidense Barack Obama es musulmán. Google se apresuró a corregir estos errores, pero muchos expertos sostienen que son intrínsecos a la tecnología. El propio CEO de Google, Sundar Pichai, describió estas “alucinaciones” como un “problema sin resolver” y una “característica inherente” de la tecnología. Google, que admitió tácitamente el fracaso, parece haber reducido la proporción de usuarios a los que se les muestran las descripciones generales.
Google ha sido ampliamente criticado –y con razón– por lanzar una tecnología que claramente no es apta para su uso y podría perjudicar a los usuarios. Pero pocos se han planteado por qué el gigante tecnológico pudo actuar con tanto descaro en primer lugar. La respuesta es sencilla: en palabras de la presidenta de la Comisión Federal de Comercio, Lina Khan, “es demasiado grande para preocuparse”. Google controla alrededor del 90% del mercado mundial de búsquedas web y enfrenta poca presión competitiva. Puede lanzar un producto poco fiable o inseguro sin temor a perder clientes ante sus rivales.
De manera similar, el poder de mercado de Google no le da ningún incentivo para mantener la calidad. Su motor de búsqueda se ha ido deteriorando rápidamente en los últimos años, y los resultados orgánicos se ven cada vez más desplazados por anuncios y contenido basura. Cory Doctorow acuñó el término “enshittificación” para describir la práctica de las empresas tecnológicas de proporcionar a los consumidores servicios útiles y asequibles (o gratuitos) y luego aumentar los precios y reducir la calidad una vez que acaparan el mercado. Los ejemplos abundan: Amazon ha aumentado gradualmente las tarifas de los vendedores mientras inunda a los compradores con más resultados patrocinados, mientras que Instagram y Facebook, propiedad de Meta, cada vez más promueven anuncios, videos y otros cebos de clic en lugar de noticias y actualizaciones confiables de amigos y familiares.
La misma lógica se aplica a las “actualizaciones”, como las AI Overviews de Google. Estos cambios intencionales y a veces drásticos del producto se venden bajo la bandera de “innovación” que suena progresista, pero a menudo empeoran mucho la experiencia del usuario. Para continuar con el punto de Doctorow, uno podría incluso llamarlo “shitovation”. Google está lejos de ser el único monopolista que ha lanzado un producto de IA a medio hacer. Meta ha impuesto sus nuevos agentes de IA a millones de usuarios de Instagram y Facebook, a pesar de que inventan hechos y se hacen pasar por humanos. En febrero, el chatbot ChatGPT de OpenAI comenzó a arrojar galimatías, incluyendo diferentes idiomas mezclados. Y los propios ingenieros de Microsoft han criticado a la empresa por lanzar un generador de imágenes, basado en la tecnología OpenAI, que crea contenido violento, sexualizado y políticamente sesgado. Cada empresa ha introducido soluciones específicas, pero este enfoque de golpear al topo es inadecuado para lo que cada vez parece ser más una tecnología fundamentalmente poco fiable.
Si bien la apresurada implementación de la IA generativa está impulsada en parte por la complacencia monopolista, también consolida el poder de mercado de las grandes empresas tecnológicas, que les proporcionó las enormes cantidades de datos, potencia informática, experiencia y capital que les permitieron desarrollar grandes modelos de lenguaje en primer lugar. Google y Meta están utilizando la IA generativa para reforzar su duopolio de publicidad digital, mientras que la demanda de potencia informática impulsada por la IA está consolidando el dominio de Microsoft y Amazon sobre la computación en la nube. Las herramientas de IA también alimentan las máquinas de vigilancia y manipulación ávidas de datos de estas empresas. Si los usuarios se benefician de la tecnología es una cuestión de último momento.
La rivalidad entre las empresas tecnológicas, especialmente la lucha por la IA generativa, a veces se cita como evidencia de las fuerzas competitivas en la industria. Pero este argumento no distingue entre la competencia “por el mercado” y la competencia “en el mercado”. Puede parecer que los gigantes tecnológicos compiten entre sí, pero casi siempre es un espejismo. De hecho, cada empresa está tratando de profundizar el foso en torno a su propia esfera de influencia, lo que da como resultado una coexistencia tensa, pero en gran medida estática. Y en esos raros casos de competencia directa, como entre Microsoft y Google en la búsqueda web, la cuota de mercado se mantiene en gran medida sin cambios.
Lo que es más preocupante, el ecosistema de IA actual está plagado de comportamientos colusorios: los gigantes tecnológicos están formando cada vez más asociaciones similares a los lucrativos acuerdos que Google hizo para mantener su dominio en las búsquedas. Entre ellos se incluyen el acuerdo de computación en la nube de Microsoft con Meta, una asociación recientemente anunciada entre Apple y OpenAI y los planes de Google de integrar sus tecnologías de IA en los teléfonos Samsung, varios de los cuales ya están siendo objeto de escrutinio. de las autoridades antimonopolio.
Los gigantes tecnológicos compiten en un ámbito: cada uno quiere ganar la aprobación de los inversores y evitar dar la impresión de que se está quedando atrás en la carrera armamentista de la IA. Pero la combinación tóxica de competir imprudentemente por el crecimiento y suprimir la competencia está alimentando el despliegue peligroso y derrochador de tecnologías no probadas.
Fomentar marginalmente más competencia entre los monopolistas tecnológicos, con la esperanza de que se vean obligados a centrarse más en la seguridad y la fiabilidad, no será suficiente. Una regulación vinculante, como la Ley de Inteligencia Artificial de la Unión Europea, es un primer paso necesario para exigir cuentas a estas empresas. Pero los responsables políticos también deben ser más imaginativos a la hora de utilizar las herramientas a su disposición para fomentar alternativas genuinas a los gigantes tecnológicos y garantizar que los usuarios ya no sirvan como conejillos de indias involuntarios. Eso podría significar utilizar la política antimonopolio o invertir en empresas que puedan desafiar a los monopolios actuales de la computación en la nube y la fabricación de chips. Igualmente importante es que ya es hora de dejar de tratar la innovación como un fin en sí misma.
El autor, Max von Thun es director de Europa y Asociaciones Transatlánticas en el Open Markets Institute.
Copyright: Project Syndicate, 2024
