Traduccion de un Articulo de Cory Doctorow
https://pluralistic.net/2025/05/02/kpis-off/
¿Has notado que todos los botones que pulsas con más frecuencia para invocar funciones rutinarias y útiles en tu dispositivo han sido movidos, y su antiguo lugar ahora está ocupado por un icono curiosamente parecido a un ano que invoca una IA no deseada? https://velvetshark.com/ai-company-logos-that-look-like-buttholes Estas trampas para los incautos no son accidentales, pero tampoco están colocadas allí únicamente porque las empresas tecnológicas piensen que, si pueden engañarte para que uses su IA, quedarás tan impresionado que te convertirás en un usuario habitual. Para entender por qué te encuentras repetidamente pulsando torpemente un botón que te lleva a una interacción no deseada con una IA –y por qué esas interacciones son tan difíciles de abandonar– tienes que entender algo sobre la macro y la microeconomía de las empresas tecnológicas de alto crecimiento.
El crecimiento es una ventaja embriagadora para las empresas tecnológicas, y no por un compromiso ideológico con el «crecimiento a toda costa», sino porque las empresas con acciones de crecimiento disfrutan de beneficios sustanciales y materiales. Una acción de crecimiento se cotiza con una relación «precio/beneficio» («P:E») más alta que una acción «madura». Debido a esto, hay muchos actores en la economía que aceptarán acciones de una empresa en crecimiento como si fueran efectivo (de hecho, algunos podrían preferir las acciones al efectivo). Esto significa que una empresa en crecimiento puede superar a sus rivales al adquirir otras empresas y/o contratar personal clave, porque pueden ofertar con acciones (que obtienen tecleando ceros en una hoja de cálculo), mientras que sus rivales necesitan efectivo (que solo pueden obtener vendiendo cosas o pidiendo dinero prestado).
El problema es que todo crecimiento termina. Google tiene una cuota del 90% del mercado de búsquedas. Google no va a aumentar apreciablemente el número de usuarios de búsqueda, a menos que recurra a gambitos desesperados como criar mil millones de nuevos humanos hasta la madurez y convencerlos de que se conviertan en usuarios de Google (esta es la estrategia detrás de Google Classroom, por supuesto). Para seguir mostrando crecimiento, Google necesita trucos. Por ejemplo, en 2019, Google intencionalmente hizo que la Búsqueda fuera menos precisa para que los usuarios tuvieran que ejecutar múltiples consultas (y ver múltiples rondas de anuncios) para encontrar las respuestas a sus preguntas: https://www.wheresyoured.at/the-men-who-killed-google/ Gracias al monopolio de Google, el empeoramiento de la búsqueda resultó perversamente en un aumento de las ganancias, y Wall Street recompensó a Google continuando cotizando sus acciones con esa preciada alta relación P:E. Pero para Google –y otros gigantes tecnológicos– las historias de crecimiento más duraderas y convincentes provienen de la incursión en líneas de negocio adyacentes, razón por la cual hemos vivido tantas burbujas de exageración: metaverso, web3, criptomonedas y ahora, por supuesto, la IA.
Para una empresa como Google, la promesa de estas burbujas es que podrá duplicar o triplicar su tamaño, dominando un sector completamente nuevo. Con esa promesa viene el peligro: el crecimiento eventualmente debe detenerse («cualquier cosa que no pueda continuar para siempre eventualmente se detiene»). Cuando eso sucede, las acciones de la compañía instantáneamente pasan de ser una «acción de crecimiento» a ser una «acción madura», lo que significa que su relación P:E es demasiado alta. Cualquiera que posea acciones de crecimiento sabe que llegará un día en que esas acciones pasarán, en un abrir y cerrar de ojos, de estar subvaloradas a estar groseramente sobrevaloradas, y que cuando llegue ese día, habrá una venta masiva. Si todavía tienes las acciones cuando eso sucede, puedes perder mucho dinero: https://pluralistic.net/2025/03/06/privacy-last/#exceptionally-american Así que todos los que poseen acciones de crecimiento duermen con un ojo abierto y los puños listos sobre el botón de «vender». Los gerentes de las empresas de crecimiento saben lo nerviosos que están sus inversores, y hacen todo lo posible para mantener viva la historia del crecimiento, como una cuestión de vida o muerte.
Pero las ventas masivas no solo son malas para la empresa, también son muy malas para los empleados clave de la empresa, es decir, cualquiera que haya recibido acciones además de su salario. Las carteras de esas personas están extremadamente cargadas de acciones de su empleador, y tienen mucho que perder en caso de una venta masiva. Así que están personalmente motivados para mantener viva la historia del crecimiento.
De ahí vienen estas maniobras de crecimiento a toda costa, empeñadas en capturar un sector adyacente. Si recuerdas los días de Google Plus, recordarás que a cada servicio de Google con el que interactuabas se le arrancaba alguna funcionalidad importante y se reemplazaba con un servicio basado en G+. Para asegurarse de que eso sucediera, los jefes de Google decretaron que las bonificaciones de la empresa estarían ligadas a la cantidad de actividad de G+ que generara cada división. En empresas donde las bonificaciones pueden ascender al 90% o más de tu salario anual, este era un poderoso motivador. Significaba que cada equipo de producto en Google estaba totalmente alineado en un proyecto para meter botones de G+ en el diseño de sus productos. Independientemente de si esto tenía sentido para los usuarios, siempre tenía sentido para el equipo de producto, cuya capacidad para tomarse unas lujosas vacaciones de Navidad, comprar un coche nuevo o pagar la matrícula de la escuela privada de sus hijos dependía de que tú usaras G+.
Una vez que entiendes cómo las historias de crecimiento corporativo se convierten en «indicadores clave de rendimiento» que impulsan el diseño de productos, muchas de las molestias de los servicios digitales de repente tienen mucho sentido. ¿Sabes cómo es casi imposible ver un programa en un servicio de streaming de vídeo sin tocar accidentalmente una parte de la pantalla que te lleva a un vídeo completamente diferente?
La razón por la que tienes que manejar tu teléfono como un negativo fotográfico mientras ves una película –la razón por la que cada milímetro de la pantalla ha sido sembrado de trampas con un icono que te lleva a otra parte– es que los servicios de streaming creen que sus clientes son propensos a irse cuando sienten que no hay nada nuevo que ver. Estos jefes han hecho que las bonificaciones de sus equipos de producto dependan de que «recomienden» con éxito un programa que nunca has visto ni has mostrado ningún interés en ver: https://pluralistic.net/2022/05/15/the-fatfinger-economy/ Por supuesto, los jefes entienden que sus trabajadores se sentirán tentados a manipular esta métrica. Quieren distinguir entre los clics «reales» que conducen a un interés en un nuevo vídeo y los clics accidentales que lamentas instantáneamente. La forma más fácil de distinguir entre estos dos tipos de clics es medir cuánto tiempo ves el nuevo programa antes de hacer clic para salir.
Por supuesto, esto también es completamente manipulable: todo lo que tiene que hacer el gerente de producto es quitar el botón de «atrás», de modo que un clic accidental a un nuevo vídeo sea extremadamente difícil de cancelar. Los cinco segundos que pasas averiguando cómo volver a tu programa son suficientes para contar como una recomendación exitosa, y el equipo de producto está mucho más cerca de unas vacaciones de esquí de lujo la próxima Navidad.
Así que esta es la razón por la que sigues invocando la IA por accidente, y por la que la IA que es tan fácil de invocar es tan difícil de disipar. Como un demonio, un chatbot es mucho más fácil de invocar que de deshacerse de él.
Google es un infractor especialmente grave en este caso. Los botones familiares en Gmail, Gdocs y las aplicaciones de mensajería de Android han sido reemplazados por trampas de pulsación accidental que invocan la IA. Android está lleno de estas trampas –por ejemplo, el gesto de deslizar desde la parte inferior de la pantalla que solía cambiar entre las aplicaciones abiertas ahora invoca una IA, mientras que deshacerse de esa IA requiere múltiples clics.
Este es un fenómeno enteramente material. Google no cree necesariamente que alguna vez quieras usar la IA, pero debe convencer a los inversores de que sus ofertas de IA están «ganando tracción». Google –al igual que otras empresas tecnológicas– puede inventar métricas para probar esta proposición, como «¿cuántas veces hizo clic un usuario en el botón de la IA?» y «¿cuánto tiempo pasó el usuario con la IA después de hacer clic?». El hecho de que todo tu «uso de la IA» consistiera en buscar una manera de deshacerte de la IA no importa –al menos, no para mantener viva la historia de crecimiento de Google.
La Ley de Goodhart sostiene que «Cuando una medida se convierte en un objetivo, deja de ser una buena medida». Para Google y otros promotores de la narrativa de la IA, cada medida está diseñada para ser un objetivo, una línea que se puede hacer subir, a medida que los gerentes y los equipos de producto se alinean para vender la historia de crecimiento de la empresa, para que no vendamos todos las acciones de la empresa.
