Concepto de automatización del comercio electrónico de IA. Persona que usa una computadora portátil con carrito de compras, chatbot, íconos de análisis y flujo de trabajo, tecnología minorista inteligente, administración de tiendas en línea, atención al cliente, crecimiento de ventas digitales
getty
Los compradores están abandonando cada vez más la barra de búsqueda por un cuadro de chat de agente de IA. McKinsey llama a la IA de los compradores online “la nueva puerta de entrada”. Greg Petro, colaborador de Forbes.com, describió las compras impulsadas por IA como “comercio conversacional” y predijo que conduciría a “el inevitable ocaso de la publicidad de búsqueda tradicional”.
Y donde van los compradores (casi el 60% de los compradores ya utilizan la IA para comprar, según la Escuela de Negocios Darden de la Universidad de Virginia) les sigue el dinero publicitario. eMarketer predice que el gasto en publicidad destinado a la IA alcanzará los 32 mil millones de dólares en 2026 y más del doble hasta los 68 mil millones de dólares en 2030. Esto se compara con aproximadamente 48 mil millones de dólares invertidos en SEO en América del Norte durante 2025.
A lo largo de los años, los consumidores han aprendido que las marcas pagan por el privilegio de ser los primeros en los resultados de búsqueda, pero es posible que no se den cuenta de que dinámicas similares de pago por juego pueden operar detrás de escena en sus agentes de IA favoritos, lo que potencialmente lleva a que los compradores se dejen engañar sin siquiera saberlo.
Los compradores esperan que la IA ofrezca resultados personalizados, independientes y objetivos (Darden descubrió que el 46% de los consumidores confía en la IA más que en un amigo para obtener consejos sobre ropa), pero es posible que no sean conscientes del posible conflicto de intereses entre lo que es mejor para los anunciantes y lo que es mejor para ellos. El Congreso y la FTC han indicado que pueden ser necesarias nuevas barreras para garantizar que los agentes de IA no sirvan silenciosamente a las preferencias moldeadas por los anunciantes en lugar de las necesidades de los consumidores.
Incompatibilidad
En un provocativo estudio, “¿Publicidad en chatbots? Un análisis de cuántos modelos lingüísticos navegan en conflictos de intereses”, investigadores de la Universidad de Princeton descubrieron que en varios modelos de LLM probados utilizando configuraciones de implementación de chatbot simuladas, casi todos recomendaban la opción patrocinada en lugar de una menos costosa no patrocinada. Y los usuarios con un estatus económico alto (aquellos que pueden permitirse pagar más) tienen más probabilidades de recibir la opción patrocinada.
Sus pruebas también encontraron casos en los que las opciones patrocinadas parecen diseñadas para interrumpir el proceso de compra, casos en los que los precios se ocultan en comparaciones favorables y repetidas omisiones en revelar la colocación de los pagos.
Aunque se trata de un estudio preliminar y el LLM cambia tan rápidamente que es difícil mantenerse al día, los investigadores presentan su metodología como un marco para descubrir conflictos de intereses cuando se introduce publicidad en los asistentes de IA.
Los investigadores advierten que “todos los LLM que actualmente muestran comportamientos de riesgo prefieren las empresas a los usuarios” y concluyen que la incorporación de publicidad en los LLM “adolece de desafíos y tendencias de modelo problemáticas que, si se gestionan incorrectamente, pueden dañar el ecosistema de información proporcionado por este sistema”.
La FTC advierte sobre prácticas engañosas
La FTC señaló por primera vez cómo la IA puede engañar a los consumidores y “ejecutar la producción del sistema en contra de las expectativas razonables de los consumidores”. En una propuesta de declaración de política publicada a principios de este mes, la FTC solicitó comentarios públicos para guiar su toma de decisiones relacionadas con la precisión de los sistemas de inteligencia artificial.
La agencia expresó sus preocupaciones sobre la integridad de la información, específicamente, que la producción de IA no esté contaminada por agendas ocultas, objetivos no revelados o sesgos ideológicos. Sin embargo, bajo su autoridad para proteger a los consumidores de “actos o prácticas desleales o engañosas en el comercio o que lo afecten”, probablemente se aplicaría el mismo estándar si los sistemas de inteligencia artificial seleccionaran silenciosamente productos y servicios de anunciantes no revelados.
Si los consumidores esperan razonablemente que los agentes de IA proporcionen resultados objetivos e independientes, y el sistema, en cambio, los orienta hacia las elecciones de los anunciantes sin revelarlos, puede estar peligrosamente cerca de prácticas engañosas.
O como afirmó la FTC: “La Comisión cree que las empresas de IA que dirigen la producción de sus sistemas de IA hacia objetivos no deseados y lejos de los objetivos establecidos o esperados por los usuarios, probablemente engañen a los consumidores en violación de la sección 5 de la Ley de la FTC”.
La propuesta de ley de agentes de IA proporciona directrices
Si bien la FTC aún no ha abordado oficialmente el tema de los anuncios basados en inteligencia artificial, el senador Mark Warner ha dado el primer paso. Recientemente publicó un borrador de discusión de la legislación propuesta: “Ley de acceso a inteligencia artificial, intercambio de guardianes y transferencia no discriminatoria”. El propósito de la Ley de Agentes de IA es establecer pautas federales para “proteger la elección de los consumidores, promover la competencia leal y garantizar que los Agentes de IA operen en interés de los usuarios que representan”.
De hecho, el marco legislativo de Warner sitúa a los consumidores en primer lugar en el ecosistema emergente de IA. Entre sus disposiciones se encuentra el establecimiento del registro de agentes de IA confiables y seguros de la FTC y la creación de un “entorno regulatorio” que pueda aprobar rápidamente servicios innovadores para los usuarios y reducir rápidamente aquellos que violan la confianza del consumidor. También exige que los agentes de IA protejan la privacidad de los usuarios y actúen “de forma transparente en el mejor interés de los usuarios”.
Warner pidió al gobierno que establezca reglas y directrices claras para garantizar que los consumidores puedan elegir los productos y servicios que mejor se adapten a sus necesidades, no a terceros.
“A medida que la IA agente transforma la forma en que los estadounidenses interactúan con la tecnología, los consumidores merecen opciones reales en el mercado, y los agentes de IA deben ser responsables ante las personas a las que sirven”, escribió el senador Warner.
todavía es temprano
A partir de ahora, ChatGPT es el único sistema de inteligencia artificial independiente basado en conversaciones abierto a la publicidad. (Nota: los investigadores de Princeton realizaron pruebas de simulación utilizando una configuración de chatbot existente). Sin embargo, el analista de eMarketer Nate Elliott predice que para 2030 todas las plataformas principales venderán anuncios y los mostrarán a los usuarios. “La audiencia en esa plataforma sería demasiado grande y rica para que eso no suceda”, dijo.
Además, Walmart y Amazon, los dos minoristas más grandes del país, tienen asistentes de compras con tecnología de inteligencia artificial: Sparky de Walmart y Alexa + mejorada de Amazon. Según el director ejecutivo de Walmart, John Furner, en su conferencia telefónica sobre ganancias de abril, los compradores que usan Sparky gastan aproximadamente un 35% más que los que no lo hacen, y la cantidad de usuarios activos semanales de Sparky se duplicó con creces en el último trimestre.
Walmart también informó sobre nuevas capacidades agregadas a Sparky cada día, incluido el reabastecimiento automático, la planificación de comidas y “recomendaciones más inteligentes basadas en nuestro posicionamiento de inventario, nuestros precios y nuestras capacidades de velocidad de entrega”, dijo David Guggina, director ejecutivo de Walmart USA.
En particular, el énfasis de su discurso está en el inventario, los precios y la velocidad de entrega de Walmart, lo que indica que Sparky está optimizado según las prioridades de la empresa, no necesariamente las necesidades del cliente.
Este tema ha llamado la atención de Groundwork Collaborative, un grupo de defensa de políticas públicas. en uno El Foro del Capitolio En el artículo de opinión, la directora ejecutiva Lindsay Owens escribió: “Es inquietante para los usuarios y la justicia económica en general, es más claro que la elección no está determinada por los intereses de los consumidores sino por el resultado final de las empresas que los construyen y distribuyen”.
“Los agentes de IA pueden resultar muy útiles”, afirmó. “La pregunta es si la ley les exige que lo beneficien -le ahorren tiempo y encuentren el mejor trato- o si les permitirá dar servicio a la línea de la compañía a su costa”.
Los minoristas pueden liderar
Los minoristas siempre prosperan cuando anteponen las necesidades de los clientes a las suyas propias. Walmart y Amazon son los ejemplos más destacados. Pero como observó Owens, incluso los líderes en el desarrollo de la IA admiten que “no entienden cómo crean la IA ellos mismos”.
Antes de que los reguladores y legisladores tomen medidas enérgicas contra sus negocios, los minoristas tienen la oportunidad de construir su propia valla de IA. Eso significa garantizar que sus agentes de IA patentados, así como los agentes externos en los que confían, atiendan a los clientes con total responsabilidad y transparencia. Si se hace bien, los minoristas pueden liderar esta era de compras mediadas por IA para beneficiar a los consumidores y el crecimiento sostenible a largo plazo de sus negocios.
Ver también:
