Inteligencia artificial y derechos humanos: aportes desde la teoría al caso ROMA

Juan Esteban Yanguas Ramón; Isabella Narváez Peña

doi:10.22490/26655489.8466

Vol. 7 Núm. 13 (2025): Enero - Junio

Publicado 11-01-2025

Licencia

Derechos de autor 2025 Análisis Jurídico - Político

Artículos de reflexión

Inteligencia artificial y derechos humanos

DOI: https://doi.org/10.22490/26655489.8466

Juan Esteban Yanguas Ramón Universidad Libre de Colombia

Isabella Narváez Peña Rama Judicial de Colombia

PDF

Resumen
Referencias

El presente artículo examina la obligación constitucional y convencional de las entidades estatales de respetar y proteger los derechos humanos, especialmente en el contexto del diseño de algoritmos impulsados por Inteligencia Artificial (IA). El artículo explora, desde la teoría, diversos conceptos, pasando por el machine learning y la analítica de datos, así como los derechos humanos desde definiciones informales hasta formales, analizando sus elementos y los sistemas de protección de estos derechos. Se centra en el Sistema Interamericano y el control de convencionalidad, destacando la obligación estatal de integrar un enfoque de derechos humanos en el diseño y supervisión de sus acciones, incluyendo el desarrollo de IA, y la necesidad de consolidar un marco ético basado en derechos humanos para la creación de IA. Finalmente, se analiza, desde una perspectiva constitucional y convencional, el caso del sistema ROMA, creado por la Fiscalía General de la Nación de Colombia, diseñado para identificar factores de reincidencia delictiva, dejando algunas recomendaciones a manera de conclusión.

Palabras clave: control de convencionalidad, Derecho constitucional, Derecho penal, ROMA

Amador Hidalgo, L. (1996). Inteligencia artificial y sistemas expertos. Universidad de Córdoba, Servicio de Publicaciones.

Ardila, R. (2011). Inteligencia. ¿Qué sabemos y qué nos falta por investigar? Revista de la Academia Colombiana de Ciencias Exactas Físicas y Naturales, 35(134), 97-103. 10.18257/raccefyn.35(134).2011.2491

Benda, E. (2001). Manual de derecho constitucional. Marcial Pons.

Benítez, R., Escudero, G., Kanaan, S. y Cencerrado, A. (2014). Inteligencia Artificial Avanzada. UOC.

Berbell, C. (2022, 3 de enero). Confilegal. China inventa «un fiscal» de Inteligencia Artificial capaz de presentar cargos con un 97 % de precisión: https://bit.ly/3Wo5Wqh

British Broadcasting Corporation (BBC). (2018, 31 de diciembre). “AlphaZero nos supera de manera profunda”: la computadora que genera su propio conocimiento y juega como un “superhumano”. BBC News. https://bbc.in/3Tc-PPcW

Corte Constitucional de Colombia (2017, 13 de septiembre). Sentencia T-572, T-5.877.618 (Antonio José Lizarazo Ocampo, M. P.). https://tinyurl.com/mpfwn9j4

Corte Constitucional de Colombia (2024, 2 de agosto). Sentencia T-323, T-9.301.656 (Juan Carlos Cortés González, M. P.). https://tinyurl.com/mw9szyfh

Corte Constitucional de Colombia (2015, 21 de agosto). Sentencia T-544, T-4.895.508, (Mauricio González Cuervo, M. P.). https://tinyurl.com/nhjfy9pa

Corte Constitucional de Colombia. (2006, 8 de febrero). Sentencia C-077, D-5915 (Jaime Araujo Renteria, M. P.). https://tinyurl.com/44eptz6f

Corvalán, J. G. (2018). Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia. Revista De Investigações Constitucionais, 5(1), 295-316. https://doi.org/10.5380/rinc.v5i1.55334

Chen, S. (2021, 26 de diciembre). South China Morning Post. Chinese scientists develop AI ‘prosecutor’ that can press its own charges. https://bit.ly/49WdjIH

Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters.

Estevez, E., Linares, S. y Fillottrani, P. (2020). PROMETEA: Transformando la administración de justicia con herrramientas de inteligencia artificial. Banco Interamericano de Desarrollo.

Evangelista, M. C. (2015). A 800 años de la Carta Magna inglesa de 1215. Pensamiento Penal, pp.1-20.

Ferrante, E. (2021). Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? Nueva Sociedad, pp. 27-36.

Fiscalía General de la Nación. (2018). Fiscalía General de la Nación. Herramienta PRiSMA: perfil de riesgo de reincidencia para la solicitud de medidas de aseguramiento. https://bit.ly/49W2d6w

Flórez Ruiz, J. F. y Díaz Benito, C. O. (2021). Videovigilancia con reconocimiento facial, inteligencia artificial y derechos humanos: ni apocalipsis ni utopía. CETyS y LATAM Digital.

Forbes. (2023, 18 de julio). How does China’s Approach to AI regulation differ from the US and EU? https://tinyurl.com/585j7ppw

Galton, F. (1869). Hereditary genius. Macmillan and co.

García Serrano, A. (2016). Inteligencia artificial: Fundamentos, práctica y aplicaciones. RC Libros.

Gates, B. (2023, 19 de diciembre). Bill Gates: Por qué soy optimista sobre el futuro de la IA. CNN: https://cnn.it/3yK3NMv

Guío Español, A. (2020). Marco ético para la inteligencia artificial en Colombia. Consejería Presidencial para asuntos económicos y transformación digital.

Harari, Y. N. (2023, 14 de septiembre). Yuval Noah Harari and Mustafa Suleyman on the future of AI, The Economist. https://econ.st/47gItuQ

Lara Gálvez, J. C. (2020). Perspectivas de derechos humanos en la implementación de marcos éticos para la inteligencia artificial. En C. Aguerre ed.), Inteligencia Artificial en América Latina y el Caribe. Ética, gobernanza y políticas públicas (pp.34-66). CETyS.

Logically. (2019). 5 examples of biased artificial intelligence. Logically.

Lowry, S. y Macpherson, G. (1988). A blot on the profession. British medical journal (Clinical research ed.), 296(6623), 657–658. https://doi.org/10.1136/bmj.296.6623.657

Martínez Garay, L. (2018). Peligrosidad, algoritmos y due process: el caso State v. Loomis. Revista de Derecho Penal y Criminología, 3(20), 485-502.

Minaggia, M. (2023). La inteligencia artificial en el derecho penal: la utilización de algoritmos predictivos. Estudios sobre jurisprudencia (pp. 278-298).

MIT Technology Review. (2019). Facebook has been charged over housing ads that discriminate on race, color, and religion. Technology review.

Morales, L., Agudelo, S., Montoya, M. y Montoya, A. (2021). Inteligencia artificial en el proceso pena: análisis a la luz del Fiscal Watson. Pensamiento Jurídico, (54), 147-164.

Notaro, L. (2023). Algoritmos predictivos’ y justicia penal desde una perspectiva italiana y europea. En J. Peris y A. Massaro (eds.), Derecho penal, inteligencia artificial y neurociencias (pp. 191-214). Universita degli Studi Roma Tre.

ONU. (2011). Guiding principles on business and human rights. Office of the High Commissioner for Human Rights of the United Nations.

Osuna, N. (2017). Derechos humanos y libertades. En M. Correa Henao, Lecciones de derecho constitucional, Tomo I (pp. 343-384). Universidad Externado de Colombia.

Paine, T. (1791). El derecho del hombre Penney, J., McKune, S., Gill, L. y Deibert, R. (2017). Advancing human-rights-by-design in the dual-use technology industry. Journal of International Affairs, 71(2), 103-110.

Pérez Luño, A. (2003). Derechos Humanos. Estado de derecho y constitución. Tecnos.

Raso, F., Hilligoss, H., Krishnamurthy, V., Bavitz, C. y Kim, L. (2018). Artificial intelligence & human rights: opportunities and risks. Harvard Law School.

Recent Cases. (2017). Criminal Law - Sentencing guidelines - Wisconsin Supreme Court requieres warning before use of algorithmic risk assessments in sentencing - State v. Loomis, 881 N.W.2d 749 (Wis. 2016). Harvard Law Review, 1530-1537.

Romero, J., Dafonte, C., Gómez, A. y Penousal, F. (2007). Inteligencia artificial y computación avanzada. Santiago de Compostela.

Roxin, C. (1997). Derecho Penal. Parte General. Civitas.

Sánchez, E. (2011). La dogmática de la teoría del delito. Evolución científica del sistema del delito. Universidad Externado de Colombia.

Silberg, J. y Manyika, J. (2019). Trackling Bias in Artificial Intelligence (and in humans). Mckinsey Global Institute.

Sunstein, C. y Holmes, S. (2011). El costo de los derechos. Por qué la libertad depende de los impuestos. Altuna Impresores.

Universidad de Chile. (2023, 24 de marzo). Sistema basado en Inteligencia Artificial será aplicado por Fiscalía de Chile para detectar estructuras criminales, Universidad de Chile. https://bit.ly/4aUPbHK

Velásquez, F. (2013). Manual de Derecho Penal. Parte General. Ediciones Jurídicas Andrés Morales.

Yanguas Ramón, J. E. (2019). Ius constitucionale commune interamericano: desafío necesario para una protección más amplia de los derechos humanos. En E. Velandia (ed.), Derecho procesal constitucional. Litigio ante la jurisdicción constitucional (pp. 139-157). VC Editores.

Licencia

Derechos de autor 2025 Análisis Jurídico - Político

Cómo citar

Yanguas Ramón, J. E., & Narváez Peña, I. (2025). Inteligencia artificial y derechos humanos: aportes desde la teoría al caso ROMA. Análisis Jurídico - Político, 7(13), 65-96. https://doi.org/10.22490/26655489.8466

Descargar cita

Almétricas

Métricas

Archivos descargados