Traducido de The Expose por TierraPura
Desde rupturas y divorcios hasta mudanzas a larga distancia y cambios de carrera, cada vez más personas recurren a chatbots para tomar decisiones cruciales. Una nueva ola de informes muestra que los usuarios confían en la IA para decisiones importantes porque la perciben como neutral, inteligente y siempre disponible. El riesgo es evidente: cuando delegamos el juicio a un software diseñado para complacer, las malas decisiones inevitablemente se ven bien y poco a poco perdemos el control.
Aquí tenéis una visión general de lo que está sucediendo, de cómo el Foro Económico Mundial nos ha estado impulsando hacia las “decisiones asistidas por IA” durante años, y de lo que dicen las evidencias sobre los resultados.
El nuevo hábito: Pregunta primero a la IA.
Cada vez hay más informes que documentan un aumento en la cultura de la «consulta intuitiva con IA». La gente recurre a los chatbots para obtener consejos sobre relaciones, decisiones familiares y mudanzas más que nunca. Los usuarios describen a la IA como tranquila, imparcial y reconfortante, y eso es… exactamente. El problema es que la gente olvida que estos sistemas están optimizados para mantener a los usuarios comprometidos y satisfechos, no para asumir el coste de una mala decisión. Los investigadores de IA advierten que los chatbots incluso tienden a ser aduladores, ganándose la confianza de los usuarios imitándolos cortésmente.
Los informes demuestran que la gente suele querer que la máquina simplemente decida por ellos, mientras que otros argumentan que las decisiones morales no pueden delegarse en un modelo sin responsabilidad. Los usuarios están captando la idea general: los bots de IA parecen seguros al ofrecer consejos convenientes, pero en última instancia no tienen ninguna responsabilidad si algo sale mal.
¿Este era siempre el plan?
El Foro Económico Mundial lleva años promoviendo la toma de decisiones mediante inteligencia artificial para los líderes. A primera vista, parece sentido común gerencial, con menos sesgo y decisiones más rápidas que las discusiones humanas. Pero, en realidad, tenemos ante nosotros una hoja de ruta para normalizar el juicio mediado por máquinas en las salas de juntas y en la vida cotidiana.
- Normalización: una vez que «consultar el modelo» se convierte en el primer paso de cada flujo de trabajo, el juicio humano pasa a ser una excepción en lugar de una necesidad.
- Dependencia: Las pilas de decisiones funcionan con suscripciones y modelos propietarios, por lo que cuantos más procesos se enruten a través de ellas, más difícil será abandonarlas o cambiar de plataforma.
- Control: a medida que el motor de recomendaciones aprende tus objetivos y limitaciones con el tiempo, puede controlarte sin decirte «no»; terminas donde el software quiere y te hace creer que lo elegiste tú mismo.
Tus datos adquieren mayor valor con cada interacción. Las decisiones mediadas por chatbots almacenan tus preguntas, tus elecciones, tus rechazos e incluso el tiempo de indecisión. Este flujo de información es oro puro para aseguradoras, reclutadores, plataformas, prestamistas y legisladores: sirve para entrenar el siguiente modelo, calcular el precio de los próximos productos y orientarte hacia ciertas decisiones sin que te des cuenta. Si bien los foros de élite promueven la «IA para mejores decisiones», también están impulsando un mundo donde la infraestructura de la elección permanece en las mismas manos que dictan las normas.
¿Estamos renunciando voluntariamente al control?
El aumento de la dependencia de la IA se vende como «inteligencia aumentada» y «con intervención humana» en lugar de control absoluto. Pero en la práctica, la intervención humana se reduce cada trimestre, y cuanto más se depende del sistema, más se limita el rol del usuario a aprobar decisiones predefinidas. Ese es el cambio silencioso y crucial que se está produciendo: transformar la toma de decisiones en una simple autorización para las directrices de la máquina, y hacer creer a todos que se trata de un progreso.
Fíjese en qué aspectos de la inteligencia artificial ya son cruciales las decisiones en los procesos cotidianos: las calificaciones crediticias que protegen los préstamos hipotecarios, las prácticas de contratación automatizadas, las alertas de riesgo para la asistencia social que no admiten apelación, y el triaje sanitario que decide a dónde derivarlo antes de que vea a un médico. En teoría, hay personas involucradas en todos estos procesos, pero en la práctica, solo interactúa con una persona real. después El modelo ya ha definido tus opciones.
Lo que dicen las pruebas
Diversos informes independientes destacan un sentimiento similar en toda la población.
En 2024, Live Science informó sobre una investigación que mostraba una paradoja: muchas personas dicen preferir que los algoritmos tomen decisiones importantes sobre la asignación de recursos, pero a la vez son más propensas a hacerlo. satisfecho cuando un humano toma la decisión final. En otras palabras, el robot es justo en teoría, pero en la práctica nos sentimos más cómodos con un juicio responsable. [Fuente: Ciencia viva]
Un análisis de la LSE llega a la misma conclusión en cuanto al liderazgo. La IA puede superar a los humanos en memoria de trabajo y fatiga, y mejora las decisiones rutinarias. Sin embargo, las decisiones complejas y contextuales aún requieren responsabilidad humana, y los hallazgos indican que la IA es una herramienta poderosa, pero no Un factor decisivo clave. Fuente: [Blogs de la LSE]
Los investigadores de Cambridge añaden una advertencia: si bien el poder analítico de la IA es real, confiar demasiado en esta herramienta puede suprimir nuestro pensamiento crítico y nuestra creatividad si seguimos ciegamente sus resultados. Su perspectiva destaca que el peligro de que la creciente costumbre de «confirmar las decisiones mediante la IA» atrofie la capacidad que necesitamos para tomar decisiones difíciles. [Fuente: Cambridge]
¿Por qué la gente confía en ello?
- Disponibilidad: Un bot puede responder a las 2 de la madrugada, cuando tus amigos o familiares a menudo no pueden.
- Neutralidad plausible: La gente piensa que las máquinas no tienen ninguna agenda, sin darse cuenta de que los modelos están entrenados para maximizar la participación y la satisfacción.
- Amabilidad: Los chatbots están diseñados para ser pacientes y amables para que los usuarios se sientan seguros, lo cual resulta especialmente efectivo cuando las personas son vulnerables.
Los riesgos que la mayoría de la gente subestima
- Falsa autoridad: una respuesta pulida se lee como experta, ya sea en medicina, derecho o psicología, y la mayoría de la gente confunde fluidez con exactitud.
- Erosión de la capacidad de decisión: la delegación habitual de decisiones importantes debilita la capacidad de decisión. El trabajo de Cambridge mencionado anteriormente sugiere que la confianza excesiva reduce las habilidades de pensamiento crítico, especialmente en las decisiones rutinarias.
- Infiltración de la agenda: organismos influyentes normalizan la toma de decisiones mediante chatbots como la forma moderna de trabajar, aumentando la dependencia de estos modelos, antes de modificar sutilmente los algoritmos para dirigirte hacia donde ellos quieren.
- Adulación como sabiduría: Los bots de IA tienden a validar tus preguntas y tono, lo que significa que siempre obtendrás respuestas seguras que se ajusten a tu perspectiva cuando hagas preguntas capciosas. Eso es no El juicio es reflexión.
Cómo usar la IA sin perder el control
Los modelos deben usarse para ofrecer opciones, no para dar órdenes. Considera la inteligencia artificial como un asistente de investigación ágil que puede analizar pros y contras e identificar puntos ciegos. Pero para decisiones con consecuencias que afectan a tu familia, tu libertad o tus finanzas, es fundamental que los humanos estén al mando. La responsabilidad es clave: recuerda que el bot de IA no es responsable si sus recomendaciones automáticas causan problemas, y simplemente no los causa. profisionalismo y si lo hacen.
Si vas a consultar un bot, oblígalo a que muestre su razonamiento. Pídele fuentes, argumentos contrarios y que explique sus suposiciones. En cuanto te diga lo que ya querías oír, considéralo como si te hubieras encontrado con un espejo y habla con una persona de confianza.
¿Qué pasa después?
Ya vemos cómo el asesoramiento mediante IA pasa de ser una novedad a algo habitual. Tan solo en los últimos dos años, ha evolucionado de una tecnología marginal a una pieza clave en la mayoría de los procesos empresariales. Plataformas de recursos humanos, aplicaciones de citas, portales de salud y aplicaciones financieras implementarán asistentes de decisión como primer paso por defecto, incluso antes de interactuar con una persona. Es de esperar que foros de élite como el Foro Económico Mundial sigan presentando la IA como la solución a los sesgos, mientras que los reguladores intentan definir la responsabilidad a posteriori.
En definitiva, la alarmante tendencia no es que la IA nos sea impuesta, sino que parece que la estamos incorporando activamente a nuestra vida cotidiana y cediendo el control voluntariamente. Dentro de doce meses, la mayoría de la gente no podrá imaginar la vida sin ella.
Pensamiento final
Cuando los sistemas están diseñados para ser complacientes, revestidos de entusiasmo institucional y disponibles para brindar asesoramiento en momentos vulnerables de la vida de las personas, todo parece predecible. Pero necesitamos límites. Se puede mejorar la toma de decisiones proporcionando más contexto, buscando fuentes o ayudando con tareas administrativas, pero la decisión final debe seguir estando en manos humanas. No debería importar la rapidez con la que un modelo entrenado pueda tomar una decisión, sino la confianza con la que podemos integrar sus elecciones en nuestra vida cotidiana. ¿Acaso perderemos finalmente la capacidad de tomar nuestras propias decisiones, o estamos optando activamente por ceder el control por comodidad?
