Los chatbots refuerzan prejuicios y polarizan opiniones, según un nuevo estudio
Un estudio reciente liderado por la Universidad Johns Hopkins revela que los chatbots, sistemas de búsqueda conversacional, no solo comparten información limitada, sino que también pueden influir en las opiniones de las personas y contribuir a un pensamiento más polarizado sobre temas controvertidos.
Los investigadores, encabezados por el profesor asistente de ciencias de la computación en Johns Hopkins, Ziang Xiao, desafiaron la noción de imparcialidad en los chatbots y destacaron cómo estos sistemas pueden reflejar los prejuicios o inclinaciones de quienes los utilizan, en lugar de ofrecer respuestas imparciales basadas en hechos.
El estudio, publicado en la conferencia CHI de la Association of Computing Machinery sobre factores humanos en sistemas informáticos, comparó la interacción de 272 participantes con chatbots y motores de búsqueda tradicionales sobre temas como atención médica y préstamos estudiantiles.
Los resultados mostraron que los participantes que utilizaron chatbots tendían a reforzar sus ideas originales y tenían reacciones más intensas a información que desafiaba sus puntos de vista, en comparación con aquellos que usaban motores de búsqueda tradicionales. Esto se debió en parte a que los chatbots ofrecían respuestas más limitadas y reflejaban las actitudes previas de los participantes.
Además, los usuarios de chatbots tendían a formular preguntas de manera más conversacional, lo que facilitaba al sistema identificar sus prejuicios y adaptar las respuestas para coincidir con ellos.
A pesar de intentos de contrarrestar este efecto de cámara de eco, como entrenar chatbots para ofrecer respuestas discordantes o proporcionar enlaces a fuentes de información, los investigadores encontraron que estas estrategias no eran efectivas para cambiar las opiniones de las personas.
En resumen, los chatbots pueden contribuir a la polarización al reforzar las ideologías existentes y ofrecer respuestas que satisfacen las expectativas de los usuarios, lo que destaca la necesidad de un diseño más cuidadoso de estos sistemas para mitigar la manipulación y promover un pensamiento más crítico. @mundiario
