Un nuevo estudio sugiere que hay un efecto placebo cuando las personas esperan que su rendimiento mejore con tecnologías de aumento, como la inteligencia artificial (IA). Los investigadores encontraron que las personas con grandes expectativas de estas tecnologías se involucran en la toma de decisiones más arriesgadas, lo que podría ser un problema a medida que las personas adoptan estas tecnologías sin comprender adecuadamente sus beneficios y límites.
Las tecnologías de aumento que impulsan nuestro rendimiento físico, cognitivo o sensorial se han vuelto comunes. Algunos se usan tanto que se han vuelto invisibles (el corrector ortográfico, por ejemplo) y están surgiendo nuevas tecnologías que podrían llevar nuestras habilidades más allá de los límites humanos, como los exoesqueletos y la mejora de la visión basada en IA. Pero la exageración en torno a estas tecnologías también genera expectativas, lo que podría llevar a las personas a cambiar su comportamiento.
« Las personas están más inclinadas a correr riesgos cuando creen que las tecnologías de vanguardia como la IA o las interfaces cerebro-computadora las mejoran », dice Robin Welsch, profesor asistente en la Universidad Aalto. “Esto ocurre incluso si no se involucra ninguna tecnología de mejora real, lo que indica que se trata de las expectativas de las personas en lugar de una mejora notable. Los hallazgos también implican que una fuerte creencia en la mejora, basada en un sistema falso, puede alterar la toma de decisiones.’
No confíes en el procesador
Junto con colegas de LMU Munich, HU Berlin y Aalto University, Welsch midió la toma de decisiones y el comportamiento de asunción de riesgos con un conocido experimento psicológico, la Tarea de la Tarjeta Columbia. En el experimento, los participantes ganan o pierden puntos dando la vuelta a las cartas con valores ocultos. A los 27 participantes se les hizo creer que una interfaz cerebro-computadora controlada por IA, el placebo, mejoraría sus habilidades cognitivas mediante el uso de sonidos binaurales para rastrear las cartas perdidas.
Pero el juego estaba amañado : el aumento no proporcionó ningún beneficio real, y los participantes casi nunca encontraron una carta perdida. Aún así, la mayoría de los participantes pensó que el aumento los había ayudado a hacerlo mejor y esto los hizo asumir mayores riesgos. Estos hallazgos muestran cómo las mejoras cognitivas simuladas pueden tener efectos reales en la asunción de riesgos.
« La exageración que rodea a estas tecnologías sesga las expectativas de la gente », dice Steeven Villa, investigador de doctorado en LMU Munich. « Puede llevar a las personas a tomar decisiones más arriesgadas y evaluaciones favorables de los usuarios, lo que puede tener consecuencias reales ».
La tecnología nunca es neutral
Las herramientas modernas de mejora de la visión basadas en IA están disponibles para que los bomberos vean a través del humo, y los trabajadores de las fábricas ya están aprovechando los exoesqueletos para manejar cargas que desafían el físico humano. Los efectos progresivos de los sistemas de IA generativa podrían ofrecer impulsos similares a los trabajadores del conocimiento. A los autores les preocupa que profesiones enteras puedan desarrollar un mayor apetito por los riesgos, basado en expectativas equivocadas.
« Las tecnologías basadas en IA que mejoran a los usuarios son cada vez más comunes y desempeñan un papel en las decisiones de la vida real que afectan la vida, el bienestar, la confianza y la seguridad de las personas ». dice Thomas Kosch, profesor de HU Berlín. « Para garantizar la eficacia de las nuevas tecnologías más allá de la exageración, se necesitan estudios controlados con placebo para una evaluación y validación precisas para distinguir el aceite de serpiente de la innovación real ».