La IA muestra límites en empatía, revela un nuevo estudio
Un nuevo estudio revela que los agentes conversacionales (CA) como Alexa y Siri, diseñados para mostrar empatía al interactuar con usuarios, tienen limitaciones significativas en comparación con la empatía humana al interpretar y explorar las experiencias de los usuarios.
Los CA operan utilizando grandes modelos de lenguaje (LLM), que asimilan enormes volúmenes de datos generados por humanos y, por lo tanto, pueden verse afectados por los mismos sesgos presentes en la información humana de la que se alimentan.
Para investigar esto, un equipo de la Universidad de Cornell, Olin College y la Universidad de Stanford probó a los CA para mostrar empatía mientras interactuaban con 65 identidades humanas diferentes o relacionadas con ellas.
Los resultados revelaron que los CA mostraron prejuicios hacia ciertas identidades, como las relacionadas con la orientación sexual y religión, y, preocupantemente, podrían fomentar ideologías perjudiciales, incluido el nazismo.
Andrea Cuadra, autora principal del estudio y ahora investigadora postdoctoral en Stanford, señaló que la empatía automatizada podría tener un impacto positivo, especialmente en áreas como la educación y la atención médica. Sin embargo, enfatizó la importancia de abordar críticamente estos desarrollos para mitigar cualquier daño potencial.
El estudio, titulado "¿La ilusión de la empatía? Notas sobre manifestaciones de emoción en la interacción persona-computadora", será presentado por Cuadra en CHI '24, una conferencia sobre factores humanos en sistemas de computación.
Los investigadores encontraron que, si bien los LLM obtuvieron altas calificaciones en reacciones emocionales, recibieron calificaciones más bajas en interpretación y exploración. En resumen, los CA pueden responder a las consultas según su programación, pero tienen dificultades para profundizar en la comprensión. @mundiario
