Published 2025-01-11

Versions

2025-10-29 (2)
2025-01-11 (1)

license

This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

Los autores aceptan que la publicación de sus trabajos se hace a título gratuito y que, por lo tanto, se excluye cualquier posibilidad de retribución económica, en especie o de cualquier índole, por la publicación, distribución o cualquier otro uso que se haga de ellos. Todo el contenido de esta revista, a excepción de donde está identificado, está bajo una Licencia Creative Commons.

Artículos de reflexión

Artificial intelligence and human rights

DOI: https://doi.org/10.22490/26655489.8466

Juan Esteban Yanguas Ramón Universidad Libre de Colombia

Isabella Narváez Peña Rama Judicial de Colombia

PDF (Spanish)

Abstract
References

The article examines the constitutional and conventional obligationof state entities to respect and protect human rights, especially in the context of designing algorithms driven by Artificial Intelligence. The article explores various concepts from a theoretical perspective, including machine learning, data analytics, and human rights, from informal to formal definitions, analyzing their elements and the systems for protecting these rights. It focuses on the Inter-American System and the control of conventionality, highlighting the state’s obligation to integrate a human rights approach in the design and supervision of its actions, including the development of AI, and the need to establish an ethical framework based on human rights for the creation of AI. Finally, it analyzes, from a constitutional andconventional perspective, the case of the ROMA system, created by the General Attorney’s Office of Colombia, designed to identify factors of criminal recidivism, and offers some recommendations as conclusions.

keywords: Constitutional Law, Conventionality control, Criminal Law, ROMA

Amador Hidalgo, L. (1996). Inteligencia artificial y sistemas expertos. Universidad de Córdoba, Servicio de Publicaciones.

Ardila, R. (2011). Inteligencia. ¿Qué sabemos y qué nos falta por investigar? Revista de la Academia Colombiana de Ciencias Exactas Físicas y Naturales, 35(134), 97-103. 10.18257/raccefyn.35(134).2011.2491

Benda, E. (2001). Manual de derecho constitucional. Marcial Pons.

Benítez, R., Escudero, G., Kanaan, S. y Cencerrado, A. (2014). Inteligencia Artificial Avanzada. UOC.

Berbell, C. (2022, 3 de enero). Confilegal. China inventa «un fiscal» de Inteligencia Artificial capaz de presentar cargos con un 97 % de precisión: https://bit.ly/3Wo5Wqh

British Broadcasting Corporation (BBC). (2018, 31 de diciembre). “AlphaZero nos supera de manera profunda”: la computadora que genera su propio conocimiento y juega como un “superhumano”. BBC News. https://bbc.in/3Tc-PPcW

Corte Constitucional de Colombia (2017, 13 de septiembre). Sentencia T-572, T-5.877.618 (Antonio José Lizarazo Ocampo, M. P.). https://tinyurl.com/mpfwn9j4

Corte Constitucional de Colombia (2024, 2 de agosto). Sentencia T-323, T-9.301.656 (Juan Carlos Cortés González, M. P.). https://tinyurl.com/mw9szyfh

Corte Constitucional de Colombia (2015, 21 de agosto). Sentencia T-544, T-4.895.508, (Mauricio González Cuervo, M. P.). https://tinyurl.com/nhjfy9pa

Corte Constitucional de Colombia. (2006, 8 de febrero). Sentencia C-077, D-5915 (Jaime Araujo Renteria, M. P.). https://tinyurl.com/44eptz6f

Corvalán, J. G. (2018). Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia. Revista De Investigações Constitucionais, 5(1), 295-316. https://doi.org/10.5380/rinc.v5i1.55334

Chen, S. (2021, 26 de diciembre). South China Morning Post. Chinese scientists develop AI ‘prosecutor’ that can press its own charges. https://bit.ly/49WdjIH

Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters.

Estevez, E., Linares, S. y Fillottrani, P. (2020). PROMETEA: Transformando la administración de justicia con herrramientas de inteligencia artificial. Banco Interamericano de Desarrollo.

Evangelista, M. C. (2015). A 800 años de la Carta Magna inglesa de 1215. Pensamiento Penal, pp.1-20.

Ferrante, E. (2021). Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? Nueva Sociedad, pp. 27-36.

Fiscalía General de la Nación. (2018). Fiscalía General de la Nación. Herramienta PRiSMA: perfil de riesgo de reincidencia para la solicitud de medidas de aseguramiento. https://bit.ly/49W2d6w

Flórez Ruiz, J. F. y Díaz Benito, C. O. (2021). Videovigilancia con reconocimiento facial, inteligencia artificial y derechos humanos: ni apocalipsis ni utopía. CETyS y LATAM Digital.

Forbes. (2023, 18 de julio). How does China’s Approach to AI regulation differ from the US and EU? https://tinyurl.com/585j7ppw

Galton, F. (1869). Hereditary genius. Macmillan and co.

García Serrano, A. (2016). Inteligencia artificial: Fundamentos, práctica y aplicaciones. RC Libros.

Gates, B. (2023, 19 de diciembre). Bill Gates: Por qué soy optimista sobre el futuro de la IA. CNN: https://cnn.it/3yK3NMv

Guío Español, A. (2020). Marco ético para la inteligencia artificial en Colombia. Consejería Presidencial para asuntos económicos y transformación digital.

Harari, Y. N. (2023, 14 de septiembre). Yuval Noah Harari and Mustafa Suleyman on the future of AI, The Economist. https://econ.st/47gItuQ

Lara Gálvez, J. C. (2020). Perspectivas de derechos humanos en la implementación de marcos éticos para la inteligencia artificial. En C. Aguerre ed.), Inteligencia Artificial en América Latina y el Caribe. Ética, gobernanza y políticas públicas (pp.34-66). CETyS.

Logically. (2019). 5 examples of biased artificial intelligence. Logically.

Lowry, S. y Macpherson, G. (1988). A blot on the profession. British medical journal (Clinical research ed.), 296(6623), 657–658. https://doi.org/10.1136/bmj.296.6623.657

Martínez Garay, L. (2018). Peligrosidad, algoritmos y due process: el caso State v. Loomis. Revista de Derecho Penal y Criminología, 3(20), 485-502.

Minaggia, M. (2023). La inteligencia artificial en el derecho penal: la utilización de algoritmos predictivos. Estudios sobre jurisprudencia (pp. 278-298).

MIT Technology Review. (2019). Facebook has been charged over housing ads that discriminate on race, color, and religion. Technology review.

Morales, L., Agudelo, S., Montoya, M. y Montoya, A. (2021). Inteligencia artificial en el proceso pena: análisis a la luz del Fiscal Watson. Pensamiento Jurídico, (54), 147-164.

Notaro, L. (2023). Algoritmos predictivos’ y justicia penal desde una perspectiva italiana y europea. En J. Peris y A. Massaro (eds.), Derecho penal, inteligencia artificial y neurociencias (pp. 191-214). Universita degli Studi Roma Tre.

ONU. (2011). Guiding principles on business and human rights. Office of the High Commissioner for Human Rights of the United Nations.

Osuna, N. (2017). Derechos humanos y libertades. En M. Correa Henao, Lecciones de derecho constitucional, Tomo I (pp. 343-384). Universidad Externado de Colombia.

Paine, T. (1791). El derecho del hombre Penney, J., McKune, S., Gill, L. y Deibert, R. (2017). Advancing human-rights-by-design in the dual-use technology industry. Journal of International Affairs, 71(2), 103-110.

Pérez Luño, A. (2003). Derechos Humanos. Estado de derecho y constitución. Tecnos.

Raso, F., Hilligoss, H., Krishnamurthy, V., Bavitz, C. y Kim, L. (2018). Artificial intelligence & human rights: opportunities and risks. Harvard Law School.

Recent Cases. (2017). Criminal Law - Sentencing guidelines - Wisconsin Supreme Court requieres warning before use of algorithmic risk assessments in sentencing - State v. Loomis, 881 N.W.2d 749 (Wis. 2016). Harvard Law Review, 1530-1537.

Romero, J., Dafonte, C., Gómez, A. y Penousal, F. (2007). Inteligencia artificial y computación avanzada. Santiago de Compostela.

Roxin, C. (1997). Derecho Penal. Parte General. Civitas.

Sánchez, E. (2011). La dogmática de la teoría del delito. Evolución científica del sistema del delito. Universidad Externado de Colombia.

Silberg, J. y Manyika, J. (2019). Trackling Bias in Artificial Intelligence (and in humans). Mckinsey Global Institute.

Sunstein, C. y Holmes, S. (2011). El costo de los derechos. Por qué la libertad depende de los impuestos. Altuna Impresores.

Universidad de Chile. (2023, 24 de marzo). Sistema basado en Inteligencia Artificial será aplicado por Fiscalía de Chile para detectar estructuras criminales, Universidad de Chile. https://bit.ly/4aUPbHK

Velásquez, F. (2013). Manual de Derecho Penal. Parte General. Ediciones Jurídicas Andrés Morales.

Yanguas Ramón, J. E. (2019). Ius constitucionale commune interamericano: desafío necesario para una protección más amplia de los derechos humanos. En E. Velandia (ed.), Derecho procesal constitucional. Litigio ante la jurisdicción constitucional (pp. 139-157). VC Editores.

license

How to Cite

Yanguas Ramón, J. E., & Narváez Peña, I. (2025). Artificial intelligence and human rights: contributions from theory tothe ROMA case. Análisis Jurídico Político, 7(13), 65-96. https://doi.org/10.22490/26655489.8466

Download Citation

Almétricas

Metrics

Metrics Loading ...