Cuando se le atribuye moral a máquinas

En una encuesta transversal con 758 participantes, se encontró que la percepción de agencia de los asesores morales basados en modelos de lenguaje se asocia positivamente con la percepción de su moralidad. El antropomorfismo y la animacidad percibida aumentan la agencia percibida, la cual mediaba totalmente su efecto sobre la moralidad atribuida; la simpatía y la inteligencia percibida influyen directamente en la moralidad sin afectar la agencia.

Los equipos que evalúan incorporar chatbots como consejeros éticos se encuentran ante la duda de si los usuarios los verán como auténticos agentes morales o simplemente como herramientas persuasivas. Esa incertidumbre afecta decisiones de adopción, gobernanza y comunicación interna, porque sobreestimar la capacidad moral de un modelo puede llevar a delegar juicios complejos sin la supervisión adecuada.

Para esclarecer esa cuestión, el artículo publicado en Frontiers in Artificial Intelligence realizó una encuesta transversal con 758 participantes válidos, quienes leyeron dilemas morales breves relacionados con situaciones cotidianas de jóvenes adultos e imaginaron buscar consejo en un asesor basado en un modelo de lenguaje grande. Los autores midieron, mediante escalas de Likert, la percepción de agencia (autonomía, intencionalidad y dirección propia) y de moralidad, además de cuatro atributos del modelo: antropomorfismo, animacidad percibida, simpatía e inteligencia. Utilizaron modelos de ecuaciones estructurales para examinar cómo esos atributos se relacionaban con las dos percepciones principales.

Los responsables de producto pueden usar estos insights para diseñar asesores que eviten inflar la percepción de agencia: limitar señales de antropomorfismo y animacidad en la interfaz, enfatizar la transparencia sobre el funcionamiento estadístico del modelo y complementar la interacción con recordatorios de que el sistema no posee intenciones ni responsabilidad moral. Asimismo, trabajar en la simpatía y la claridad cognitiva mejora la aceptación sin generar una falsa sensación de autoridad ética.

Conclusiones

• Los usuarios tienden a juzgar más moralmente capaces a los sistemas cuando les atribuyen autonomía e intención.
• La apariencia humana y la vitalidad percibida son los principales impulsores de esa atribución de agencia.
• La simpatía y la competencia cognitiva pueden mejorar la percepción de moralidad sin que se le reconozca autonomía al sistema.
• Para diseñadores, es crucial calibrar las señales sociales y cognitivas para evitar que se sobreestime la autoridad moral de los asesores.