Inteligencia artificial responsable en decisiones organizacionales: implicaciones éticas, transparencia y confianza de los usuarios
DOI:
https://doi.org/10.71068/ss000054Palabras clave:
inteligencia artificial responsable, ética de la IA, transparencia, explicabilidad, confianzaResumen
Introducción: La inteligencia artificial interviene cada vez más en selección, priorización, evaluación de riesgos y asignación de recursos. Esta expansión ofrece beneficios potenciales, pero también genera riesgos de opacidad, sesgo, pérdida de autonomía y dilución de responsabilidades que pueden afectar la confianza de los usuarios. Objetivo general: Analizar cómo los principios éticos, la transparencia y explicabilidad, la supervisión humana y los mecanismos de rendición de cuentas influyen en la confianza hacia decisiones organizacionales apoyadas por inteligencia artificial. Metodología: Se realizó una revisión narrativa de literatura indexada en Scopus publicada entre 2021 y 2026. La búsqueda consideró responsible AI, AI ethics, explainable AI, transparency, accountability, trust y organizational decision making. Se seleccionaron artículos con DOI que aportaran evidencia conceptual o empírica sobre legitimidad, confianza, equidad, explicaciones y gobernanza. Resultados: La literatura indicó que la confianza mejora cuando los usuarios reciben explicaciones comprensibles, información sobre desempeño e incertidumbre, salvaguardas de equidad y vías de apelación. La transparencia aislada no garantiza comprensión ni confianza calibrada. La supervisión humana solo resulta significativa cuando las personas pueden cuestionar o revertir recomendaciones algorítmicas. La claridad sobre responsabilidades y auditoría fortalece la legitimidad organizacional. Conclusiones: La inteligencia artificial responsable exige integrar ética, transparencia y confianza durante todo el ciclo de decisión. Las organizaciones deben establecer controles proporcionales al riesgo, supervisión efectiva y responsabilidades identificables para evitar sobredependencia y rechazo indiscriminado de los sistemas algorítmicos.
Descargas
Referencias
1. Shin D. The effects of explainability and causability on perception, trust, and acceptance: implications for explainable AI. Int J Hum Comput Stud. 2021;146:102551. https://doi.org/10.1016/j.ijhcs.2020.102551.
2. Zerilli J, Bhatt U, Weller A. How transparency modulates trust in artificial intelligence. Patterns. 2022;3(4):100455. https://doi.org/10.1016/j.patter.2022.100455.
3. de Bruijn H, Warnier M, Janssen M. The perils and pitfalls of explainable AI: strategies for explaining algorithmic decision-making. Gov Inf Q. 2022;39(2):101666. https://doi.org/10.1016/j.giq.2021.101666.
4. Bankins S, Formosa P, Griep Y, Richards D. AI decision making with dignity? Contrasting workers’ justice perceptions of human and AI decision making in a human resource management context. Inf Syst Front. 2022;24(3):857-875. https://doi.org/10.1007/s10796-021-10223-8.
5. Reinhardt K. Trust and trustworthiness in AI ethics. AI Ethics. 2023;3:735-744. https://doi.org/10.1007/s43681-022-00200-5.
6. Leichtmann B, Humer C, Hinterreiter A, Streit M, Mara M. Effects of explainable artificial intelligence on trust and human behavior in a high-risk decision task. Comput Human Behav. 2023;139:107539. https://doi.org/10.1016/j.chb.2022.107539.
7. Naiseh M, Al-Thani D, Jiang N, Ali R. How the different explanation classes impact trust calibration: the case of clinical decision support systems. Int J Hum Comput Stud. 2023;169:102941. https://doi.org/10.1016/j.ijhcs.2022.102941.
8. Wysocki O, Davies JK, Vigo M, Armstrong AC, Landers D, Lee R, et al. Assessing the communication gap between AI models and healthcare professionals: explainability, utility and trust in AI-driven clinical decision-making. Artif Intell. 2023;316:103839. https://doi.org/10.1016/j.artint.2022.103839.
9. Ali S, Abuhmed T, El-Sappagh S, Muhammad K, Alonso-Moral JM, Confalonieri R, et al. Explainable artificial intelligence (XAI): what we know and what is left to attain trustworthy artificial intelligence. Inf Fusion. 2023;99:101805. https://doi.org/10.1016/j.inffus.2023.101805.
10. Papagni G, de Pagter J, Zafari S, Filzmoser M, Koeszegi ST. Artificial agents’ explainability to support trust: considerations on timing and context. AI Soc. 2023;38:947-960. https://doi.org/10.1007/s00146-022-01462-7.
11. Martin K, Waldman A. Are algorithmic decisions legitimate? The effect of process and outcomes on perceptions of legitimacy of AI decisions. J Bus Ethics. 2023;183:653-670. https://doi.org/10.1007/s10551-021-05032-7.
12. Corrêa NK, Galvão C, Santos JW, Del Pino C, Pinto EP, Barbosa C, et al. Worldwide AI ethics: a review of 200 guidelines and recommendations for AI governance. Patterns. 2023;4(10):100857. https://doi.org/10.1016/j.patter.2023.100857.
13. Ha T, Kim S. Improving trust in AI with mitigating confirmation bias: effects of explanation type and debiasing strategy for decision-making with explainable AI. Int J Hum Comput Interact. 2024;40(24):8562-8573. https://doi.org/10.1080/10447318.2023.2285640.
14. Wang P, Ding H. The rationality of explanation or human capacity? Understanding the impact of explainable artificial intelligence on human-AI trust and decision performance. Inf Process Manag. 2024;61(4):103732. https://doi.org/10.1016/j.ipm.2024.103732.
15. How transparency affects algorithmic advice utilization: the mediating roles of trusting beliefs. Decis Support Syst. 2024;183:114273. https://doi.org/10.1016/j.dss.2024.114273
16. Breidbach CF. Responsible algorithmic decision-making. Organ Dyn. 2024;53(2):101031. https://doi.org/10.1016/j.orgdyn.2024.101031.
17. Cheong BC. Transparency and accountability in AI systems: safeguarding wellbeing in the age of algorithmic decision-making. Front Hum Dyn. 2024;6:1421273. https://doi.org/10.3389/fhumd.2024.1421273.
18. Goktas P. Ethics, transparency, and explainability in generative AI decision-making systems: a comprehensive bibliometric study. J Decis Syst. 2024. https://doi.org/10.1080/12460125.2024.2410042
19. Transparency and explainability of AI systems: from ethical guidelines to requirements. Inf Softw Technol. 2023;159:107197. https://doi.org/10.1016/j.infsof.2023.107197
20. Cao G, Duan Y, Edwards JS. AI trustworthiness in managerial decision-making: ethics, transparency, and explainability as key drivers. J Bus Ethics. 2026. https://doi.org/10.1007/s10551-026-06400-x
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2025 Giovanni Juan Maldonado Aguirre
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Los artículos publicados en esta revista están disponibles bajo la licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0). Esta licencia autoriza a terceros a descargar, copiar, distribuir, adaptar y reutilizar los contenidos, incluso con fines comerciales, siempre que se otorgue el crédito correspondiente al autor original de la obra.
