Resumen

El funcionamiento de robots con inteligencia artificial (IA) trae retos para la institución jurídica de la responsabilidad civil como se ha concebido hasta ahora; la capacidad de aprendizaje de la máquina y cierta autonomía que puede adquirir en su desempeño pareciera, en ciertas circunstancias, alejarse del control de un ser humano determinado, lo cual genera dudas sobre quién debe asumir en su patrimonio los daños que eventualmente se causen a terceros. Algunos conceptos tradicionales de la imputación de responsabilidad civil y del Estado reportan utilidad como instrumentos o caminos de análisis para las situaciones que pueden presentarse, según se pretende evidenciar en este trabajo; es decir, el conocimiento actual es útil y no hay que partir de cero. Pero quedan ciertos vacíos que se identifican, para los cuales se necesitarán nuevos planteamientos y otras alternativas de regulación.

Palabras clave: Responsabilidad civil, daños, inteligencia artificial, robot, imputación, Estado.

 

*Docentes de la Universidad EAFIT, Medellín.

**El presente texto constituye una síntesis inédita del informe de investigación llevada a cabo en alianza entre EAFIT- Suramericana, entre los años 2020 y 2021, cuyo objetivo general era analizar la imputación de la responsabilidad extracontractual, tanto en el ámbito civil como estatal, cuando el daño se causa a través de robots con inteligencia artificial. Ninguna persona sin consentimiento de los autores está autorizada para la divulgación o publicación de este material.

1. Introducción

Desde hace varias décadas la sociedad viene experimentado el auge de nuevas tecnologías en diferentes ámbitos de la vida humana, las cuales han traído consigo cambios significativos en la manera como las personas nos relacionamos con el entorno, nos comunicamos y enfrentamos los retos cotidianos. Los avances tecnológicos han impactado la producción en masa, el transporte, la prestación de servicios, la transmisión de la información, la educación, la salud, el deporte, los procesos políticos y, en general, la vida de los seres humanos.

En particular, se plantea en las últimas décadas un cambio de paradigma con los avances de lo que se ha denominado “inteligencia artificial”: los sistemas informáticos superan los comandos a través de símbolos y de reglas lógicas como “si, entonces” y empiezan desarrollos de “sistemas conexionistas” y “redes neuronales artificiales”, que no se programan con una estructura de datos predefinida, sino que se “entrenan” y tienen capacidad de ganar experiencia con el mundo físico y la interacción, al punto de que sus respuestas no son todas predefinidas ni previstas por el programador (Ebers, 2016, pp. 4-5).

Estos desarrollos suponen como desafío repensar la aptitud de las disposiciones normativas relativas a la responsabilidad extracontractual para regular los supuestos de daños que se generen con el funcionamiento de estos sistemas, pues las nociones tradicionales sobre elementos como la imputación al agente responsable y la causalidad no se han desarrollado a la medida de escenarios en los que estos sistemas produzcan respuestas dañinas que no obedezcan a su programación inicial o sean imprevistas para el usuario.

Con este objetivo, el trabajo parte de un marco conceptual sobre la responsabilidad civil y la responsabilidad del Estado, con sus presupuestos generales, para, posteriormente, explicar las nociones de inteligencia artificial (en adelante IA) y de robots. Luego, se examinan las particularidades de los instrumentos conceptuales que tiene actualmente la responsabilidad civil y del Estado para los daños causados por robots con IA, con la idea de evidenciar que el estado actual del conocimiento en la materia reporta cierta utilidad para el análisis de las situaciones que pueden presentarse, pero también quedan algunos vacíos que se pretenden identificar, para los cuales se necesitarán otras alternativas de regulación.

En ese orden de ideas, finalmente, se exponen algunas alternativas para la regulación que se están planteando en otros ámbitos, como el europeo, sin perder de vista nuestro sistema y nuestro entorno ^([1]). Este texto es resultado de una investigación de tipo cualitativo y documental con selección de doctrina nacional y extranjera, textos normativos como el Código Civil, el Código de Procedimiento Administrativo y de lo Contencioso Administrativo y el Estatuto del Consumidor colombiano, normas y proyectos internacionales como la Resolución del Parlamento Europeo de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103[INL]), como un insumo para decisiones futuras de aplicación o regulación por los operadores jurídicos.

^([1]) Sobre la traslación de ideas o contextos diferentes de donde se producen, véase López Medina (2004).

2. Marco conceptual

2.1. Los presupuestos de la responsabilidad civil con énfasis en la imputación

La institución jurídica de la responsabilidad civil es un mecanismo, entre otros, para tratar los daños que se causan los sujetos en la sociedad. A partir de una larga evolución histórica ^([1]), con contribuciones de ideas desde el código Hammurabi (antigua Mesopotamia, 1755-1750 a. C.), ley de las XXII Tablas (Roma, siglo v a. C.), ideas de libertad y causalidad desde la filosofía en la Grecia clásica; nociones de obligación, culpa y dolo del derecho romano; el cristianismo también con contenidos morales sobre la culpa, la expiación de los “pecados”, el deber de no dañar a otros y la reparación del daño causado, se llega con Hugo Grocio ^([2]), integrante de la escuela de derecho natural, al principio de responsabilidad moderno referido al deber de reparar todos los daños que las personas causen con “culpa”.

[…] pudiendo apreciarse a simple vista la relación existente entre el concepto de culpa y el dogma de la autonomía de la voluntad, que no es otro que el culto de la libertad del individuo y su responsabilidad sólo por sus actos deliberados (Trigo y López, 2004, t. i, p. 87).

En Francia, Pothier (1824) acogió las ideas de la escuela del derecho natural –como también lo hizo Domat (1644)–, y sistematizó las fuentes de las obligaciones que incluían tanto el delito como el cuasidelito, y sentó el principio recogido en el Código Civil napoleónico (1804), en el Código Civil chileno por Andrés Bello –y por ende, en el Código Civil colombiano– de que “el que ha cometido delito o culpa que ha inferido daño a otro es obligado a la indemnización” (C. C., art. 2341).

Del ordenamiento jurídico analizado sistemáticamente se pueden enunciar hoy como presupuestos de la responsabilidad civil: el hecho generador “imputable” a un sujeto, el daño o perjuicio para otra persona (víctima) y la relación de causalidad entre el hecho imputable y el daño a la víctima. Sin embargo, respecto de cada uno de ellos hay todo un universo conceptual que excede el objetivo de este estudio; nos concentraremos por un momento en el concepto de imputación, el cual luego se irá complementando con otras nociones que se requerirán para analizar situaciones concretas de daños causados con robots con IA.

Entonces, en los sistemas de nuestra tradición jurídica, desde el Código napoleónico, se ha exigido cierta “calificación” respecto de la conducta del sujeto, activa u omisiva, para que se le pueda “atribuir” la responsabilidad civil con la consecuente obligación indemnizatoria de perjuicios. Denominamos este elemento la “imputación jurídica”, pese a la ambigüedad con la que suele utilizarse el término. Imputar viene del latín imputare, verbo que hace referencia al acto de asignar o atribuir algo a alguien o atribuir un efecto a su causa.

En cierto sentido del término, la categoría de “imputable” la daría la valoración de una culpa del sujeto y de allí la terminología referida a la “imputación subjetiva”, que viene con el principio general de responsabilidad desde el código napoleónico y aparentemente superaba la simple iniuria objetiva: pas de responsabilité sans faute, no debía atribuirse responsabilidad sin culpa ^([3]).

Pero también es conocido cómo se introdujo luego, de manera paralela, la responsabilidad con imputación objetiva, a partir de la teoría del riesgo ^([4]). Sin embargo, esto no es lo único que se analiza en la atribución o imputación de responsabilidad a un sujeto. La calificación de imputable también exige que no exista una excusa jurídica para la conducta del sujeto divergente de la debida, como los hechos justificativos ^([5]) o la causa extraña.

La noción de causa extraña viene de la expresión francesa cause étrangère y consiste en un hecho imprevisible, irresistible y externo al control del agente. En ella quedan comprendidos la fuerza mayor o caso fortuito, que ya se consideraban desde el derecho romano, el hecho exclusivo de la víctima y el hecho exclusivo de un tercero, siempre que cumplan con las tres cualidades. El artículo 64 del Código Civil define la fuerza mayor y el caso fortuito; múltiples sentencias ^([6]) de la Corte Suprema de Justicia y del Consejo de Estado se han ocupado de caracterizar sus requisitos. Es particular porque rompe la imputación, pero también desvirtúa el presupuesto del “nexo de causalidad” cuando resulta ser la verdadera causa del daño relevante para el derecho, incluso, aunque exista intervención material del agente; la causa extraña entra a ocupar el lugar del hecho generador del daño.

Con la idea que acaba de exponerse, anticipamos que a veces resulta difícil deslindar el elemento imputación respecto al nexo de causalidad ^([7]). Cuando se distingue la causalidad en sentido fáctico respecto a la causalidad en sentido jurídico (Baena, 2021, pp. 11-12) se suele concebir esta última como una atribución normativa del efecto al responsable y entonces pareciera que el asunto de la causalidad en un sentido normativo es también del campo de la imputación.

La causa extraña, al igual que los hechos justificativos, puede impedir la calificación jurídica de “culpa” respecto al hecho del agente, pues aunque haya una aparente desviación de la conducta en relación con el modelo de conducta, según algún criterio particular (por ejemplo, no se siguió un reglamento,) si se mira el modelo de comportamiento en conjunto se encuentra que “a lo imposible nadie está obligado” o que la desviación está justificada (no es antijurídica) y, en consecuencia, no habría reproche para el agente del ordenamiento analizado en conjunto ^([8]).

Con la idea de acción humana libre y consciente, como presupuesto de la responsabilidad desde el pensamiento griego ^([9]), encontramos otra acepción, en la ambigüedad del término imputación, referida al análisis de las circunstancias que le impidan al agente determinarse libre y conscientemente, como las circunstancias de “inimputabilidad” bien desarrolladas en el derecho penal ^([10]).

En nuestro derecho privado se ha considerado inconveniente la aceptación general de la valoración de la imputabilidad al modo penal y, por consiguiente, de circunstancias o debilidades concretas del sujeto para la atribución de responsabilidad en materia civil ^([11]). Se ha optado, entonces, por un modelo de valoración de la culpa generalmente abstracto, el cual solo tiene en cuenta lo dispuesto en el artículo 2346 del Código Civil según el cual, al actualizarse con la Ley 1996 de 2019, solo son incapaces para cometer culpa los menores de doce años.

Se puede observar entonces cómo dentro del mismo elemento “imputación” se contienen diversos aspectos de análisis para establecer la responsabilidad civil de un sujeto.

Finalmente, se recuerda que la responsabilidad civil se suele separar en dos grandes regímenes, la responsabilidad civil contractual y responsabilidad civil extracontractual, en consideración a si el hecho generador del daño es o no el incumplimiento de una obligación contractual. División no pacífica, sin embargo, de difícil demarcación en ciertos casos, además de que van apareciendo supuestos que parecen no encajar en ninguno de los dos ámbitos ^([12]). La responsabilidad civil contractual tiene algunas particularidades respecto a los presupuestos enunciados hasta aquí, como el incumplimiento de la obligación y los tipos de daño indemnizable, pero esto no se desarrolla en este trabajo por exceder su objetivo.

^([1]) Sobre la evolución histórica, véase Viney (2007).

^([2]) En De iure belli ac pacis (Del derecho de la guerra y la paz, 1625).

^([3]) En los primitivos pueblos orientales (Babilonia, Israel, Egipto, China, Persia e india) e incluso en el derecho romano arcaico, la responsabilidad era objetiva y resultaba de la simple circunstancia de haberse producido el daño; lo cual acarreaba por sí solo, sin discriminación sobre los factores que podían haberlo causado, la imposición de la o las penas al autor del hecho, a veces al jefe del grupo, e incluso de manera colectiva a toda la tribu o familia a la que el primero pudiera pertenecer (Trigo y López, 2004, t. i, p. 19).

^([4]) Bajo la denominación de teoría del riesgo se pueden “englobar aquellas doctrinas que, en formato tal o parcial quieren prescindir de concepto de culpa como elemento integral de la responsabilidad civil… la teoría del riesgo trata de prescindir de la idea de culpa, pero se acude al correctivo del riesgo creado o del riesgo- provecho” (Tamayo, 2007, t. i, p. 822).

^([5]) Velásquez expresa que las causales de justificación penal, algunas de las cuales rompen igualmente la imputación de responsabilidad civil, implican que pese a que el agente despliegue una conducta típica, “ello no significa que su actuar sea antijurídico, pues, a más de las prohibiciones y los mandatos, existen normas permisivas (causales de justificación del hecho) que posibilitan la realización conforme a derecho de la conducta”; así, se entiende que la conducta no contraría el ordenamiento jurídico “en conjunto”, (Velásquez, 1994, p. 407). En estas causales se pueden encontrar la legítima defensa, el cumplimiento de un deber legal, el ejercicio de un derecho, la orden de autoridad competente, y el estado de necesidad. No todas ellas excluyen la indemnización de los perjuicios causados.

^([6]) Verbigracia, CSJ, Cas. Civil: Sent. jun. 23/2000, Exp. 5475, M. P. Carlos Ignacio Jaramillo; Sent. mar. 3/2004, Exp. C-7623, M. P. José Fernando Ramírez Gómez; Sent. abr. 29/2005, Exp. 0829-92 y Sent. jul. 26/2005, Exp. 050013103011-1998-6569-02, M. P. Carlos Ignacio Jaramillo. También el Consejo de Estado, sobre la responsabilidad patrimonial del Estado, ha reconocido que la imputación se rompe por las causas extrañas admitidas en el derecho civil (C. E., Sec. Tercera, Sent. 46030, feb. 10/2021, C. P. Ramiro Pazos Guerrero).

^([7]) El nexo de causalidad se refiere a relación de causa-efecto que debe existir entre el hecho generador y el daño sufrido por la víctima. Sobre los diferentes problemas que representa la causalidad, tanto en su análisis fáctico como jurídico y las teorías y test que se han propuesto para analizarlos, véase Baena (2021).

^([8])Sobre cómo la causa extraña es incompatible con la culpa del agente que tenga relevancia causal, cfr. CSJ, Cas. Civil, Sent. feb. 27/1998, Exp. 4901, M. P. Rafael Romero Sierra.

^([9]) La responsabilidad civil y del Estado fueron subsistemas jurídicos estructurados bajo una concepción humanista de la conducta y a partir de la premisa del libre albedrío, que es consustancial a la autonomía personal (Kant, 1997 [1787)].

^([10]) Ley 599 de 2000, Art. 31: “Es inimputable quien en el momento de ejecutar el hecho legalmente descrito, no tuviere la capacidad de comprender su ilicitud o de determinarse de acuerdo con esa comprensión […]”.

^([11]) Cfr. CSJ, Cas. Civil, Sent. jun. 2/1958, Exp. 2198, M. P. Arturo Valencia Zea.

^([12]) Sobre las obligaciones de seguridad, cfr. CSJ, Cas. Civil, Sent. mar. 10/2020, Exp. SC780-2020, M. P. Ariel Salazar Ramírez.

2.2. La responsabilidad patrimonial del Estado en el ordenamiento jurídico colombiano

La responsabilidad del Estado para los ordenamientos de nuestra tradición jurídica tiene una historia más reciente, de la cual deriva sus particularidades; sus desarrollos han sido principalmente casuísticos y jurisprudenciales. La consagración normativa de la responsabilidad patrimonial del Estado es el producto de una evolución durante la cual se han ido modificando permanentemente los supuestos que dan lugar a reparar el daño, esto ha sucedido en el ordenamiento jurídico colombiano y, en general, en aquellos que hacen parte del sistema continental o romano-germánico.

Particularmente, se discute si el Estado debe asumir las consecuencias pecuniarias de los daños que se produzcan así su conducta no haya sido reprochable en términos normativos; es decir, aun cuando no haya actuado con “falla en el servicio”. También se examina si los particulares deben soportar las consecuencias de ciertos riesgos inherentes a la sociedad contemporánea, sin que su materialización pueda atribuirse al Estado (Mir Puigpelat, 2002), pero se cuestiona que por esta vía las autoridades se desprendan de su responsabilidad o del deber de desplegar un comportamiento que no cause daño y que, de la misma manera, algunas víctimas no obtengan una reparación justa por parte del Estado (Gil Botero, 2020), aún más en un país con altos niveles de inequidad social y violencia como Colombia, con necesidades de justicia distributiva.

Una de las dificultades que entraña la responsabilidad patrimonial del Estado en Colombia, con su carácter casuístico, cambiante e ideológico, es que, a diferencia de la responsabilidad civil, aquella no se encuentra codificada, sino que ha sido principalmente desarrollada por la jurisprudencia contencioso-administrativa, de modo que los elementos de la responsabilidad patrimonial del Estado no son categorías pétreas sino siempre dinámicas.

A continuación se esbozan los presupuestos básicos constitutivos de la responsabilidad del Estado; si bien autores como Saavedra (2018) sostienen que se deben reunir tres aspectos –daño antijurídico, actuación administrativa y nexo causal–, la Corte Constitucional y el Consejo de Estado, a partir del artículo 90 de la Constitución, han sintetizado los presupuestos en dos: el daño antijurídico y la imputación del mismo al Estado ^([1]).

^([1]) V. gr. C. Const.: Sent. C-333, agto. 1/1996, M. P. Alejandro Martínez Caballero y Sent. C-038, feb. 1/2006, M. P. Humberto Antonio Sierra Porto; C. E., Sec. Tercera, Sent. 50545, feb. 19/2021, C. P. José Roberto Sáchica Méndez, y nota de relatoría “Sobre el daño como primer elemento que se debe analizar para establecer la responsabilidad patrimonial del Estado” en C. E., Sec. Tercera, Sent. 63892, feb. 19/2021, C. P. Marta Nubia Velásquez Rico.

2.2.1. Daño antijurídico

El artículo 90 de la Constitución Política de Colombia es el fundamento normativo principal de la responsabilidad patrimonial del Estado y allí se consagra el “daño antijurídico” como el elemento axial del sistema. Como se observa en el primer inciso de la norma constitucional, el deber de responder a cargo del Estado surge cuando ha producido daños antijurídicos, por lo cual la jurisprudencia ^([1]) y la doctrina nacional señalan que el daño antijurídico es la categoría central sobre la cual se construye el sistema de responsabilidad patrimonial del Estado a partir de la entrada en vigencia de la Constitución Política de 1991. Sin embargo, no se trata de un concepto de aceptación pacífica.

Siguiendo la influencia de la doctrina española (García y Fernández, 2008), en el ordenamiento jurídico colombiano el daño antijurídico se ha entendido como la merma patrimonial padecida por alguien sin que esté obligado a soportarla. En otras palabras, es una afectación de los derechos de una persona por la conducta activa u omisiva del Estado, que genera una ruptura de la igualdad ante las cargas públicas. La categoría del daño antijurídico que se ha adoptado en nuestro país lleva intrínseco un juicio de reproche respecto a la afectación, que supone diferenciarla de la limitación legítima de derechos, como sucede con el test de proporcionalidad ^([2]).

Bajo esta óptica, el daño antijurídico es una limitación o vulneración arbitraria de derechos, dado que no existe un factor que la justifique. La jurisprudencia del Consejo de Estado ha sostenido que “ha de corresponder al juez determinar si el daño va más allá de lo que, normalmente y sin compensación alguna, debe soportar una persona por el hecho de vivir en una comunidad jurídicamente organizada y comportarse como un sujeto solidario” ^([3]). También ha definido el concepto como “la lesión de un interés legítimo, patrimonial o extrapatrimonial, que la víctima no está en la obligación de soportar, que no está justificado por la ley o el derecho” ^([4]).

Este elemento parece confundirse en cierto modo con la imputación, porque allí se analiza si se puede atribuir un daño al Estado a partir de la ausencia de una “justificación” normativa. Nótese que en el campo de la responsabilidad civil no se suele emplear este término de la “antijuridicidad del daño”, pero varios de los aspectos de análisis se hacen desde la imputación; allí se revisa, por ejemplo, que no haya operado una “causal de justificación” que impida la atribución de responsabilidad.

También se suele mencionar como requisito del daño la “licitud”, pero referido a que el interés afectado de la víctima no puede ser ilícito para ser indemnizable. Cuando la noción de daño antijurídico de la responsabilidad del Estado, en sus variaciones, se ha dirigido a esta otra consideración sobre la licitud del interés lesionado, es el mismo análisis que se da en el campo civil.

Por contraste, en nuestro país tanto la Corte Constitucional como el Consejo de Estado consideran que en la noción de daño antijurídico quedan comprendidas tanto la responsabilidad subjetiva como la objetiva ya que “en el fondo el daño antijurídico es aquel que se subsume en cualquiera de los regímenes tradicionales de responsabilidad del Estado. El resultado es que el daño antijurídico pierde su especificidad y queda, en el mejor de los casos, identificado con el concepto de “interés jurídicamente protegido” […] quien reclama ser indemnizado debe demostrar que el daño gravitó sobre una “situación jurídicamente protegida” o bien que su pretensión se ampara en un “título legítimo”, y es por ello que tiene derecho al reconocimiento compensatorio (Saavedra, 2008, p. 601).

^([1]) C. E., Sec. Tercera, Sent. 63892, feb. 19/2021, C. P. Marta Nubia Velásquez Rico y Sent. 50545, feb. 19/2021, C. P. José Roberto Sáchica Méndez.

^([2]) En virtud del cual se restringe el alcance de ciertos derechos fundamentales para garantizar la eficacia de otros en la mayor medida posible.

^([3]) C. E., Sec. Tercera, Sent. 13168, dic. 4/2006, C. P. Mauricio Fajardo Gómez.

^([4])C. E., Sec. Tercera, Sent. 11945, mar. 2/2000, C. P. María Elena Giraldo Gómez. Véase, además, la aclaración de voto de Enrique Gil Botero, C. E., Sec. Tercera, Sent. 15726, jul. 30/2008, C. P. Myriam Guerrero de Escobar.

2.2.2. Imputación del daño antijurídico al Estado

En el análisis de la Jurisdicción Contencioso- administrativa para atribuir las consecuencias del daño al Estado suele evaluar la imputación una vez encuentra acreditado el daño antijurídico. Así, solo después de constatar que se ha producido una ruptura de la igualdad ante las cargas públicas que ha afectado el patrimonio jurídico de una persona, se revisa si el Estado fue la fuente de dicho daño y si está obligado a responder ^([1]).

La imputación es entonces el juicio de atribución jurídica de un resultado dañoso al Estado; se refiere como un juicio de atribución jurídica porque la responsabilidad patrimonial del Estado se estructura sobre la base de que es el deber normativo subyacente el que genera la obligación de responder, más allá de la causalidad material entre la conducta de la autoridad y la víctima ^([2]).

La jurisprudencia contencioso-administrativa ha preferido emplear el concepto de imputación en un sentido normativo (deontológico) más que el de causalidad en un sentido físico, porque considera que fue el usado por el constituyente en el artículo 90 de la Carta Política, al decir que “el Estado responderá patrimonialmente por los daños antijurídicos que le sean imputables […]”. Por otro lado, sostiene que se trata de un concepto más omnicomprensivo de los factores que permiten atribuir un daño antijurídico al Estado, ya que se basa no solo en razones materiales sino también eminentemente normativas ^([3]).

De lo anterior no se sigue que en la responsabilidad patrimonial del Estado no rija el principio de causalidad fáctica o que no sea importante para determinar el surgimiento del deber de reparar a cargo de aquel ^([4]), pero pueden presentarse supuestos en los que no sea posible explicar el daño por la conducta material del Estado, como sucede en los casos de responsabilidad por omisión del deber de garante cuando, por ejemplo, una población padece el ataque armado de un grupo al margen de la ley, sin intervención de las autoridades ^([5]); en situaciones como esta, la jurisprudencia contencioso-administrativa ha dicho que la ausencia de causalidad física positiva no obsta para la atribución jurídica del daño al Estado. Es “menester que además de constatar la antijuridicidad del [daño], el juzgador elabore un juicio de imputabilidad que le permita encontrar un título jurídico distinto de la simple causalidad material que legitime la decisión; vale decir, ‘la imputatio juris’ además de la ‘imputatio facti’” ^([6]).

La imputación en la responsabilidad patrimonial del Estado se estructura a partir de dos sistemas: (1) el de responsabilidad objetiva (compuesto por los títulos de imputación del «daño especial» y «riesgo excepcional») y (2) el de responsabilidad subjetiva, cuyo título es la «falla en el servicio». En el régimen objetivo de responsabilidad no es necesario acreditar la culpa o la violación de un deber normativo para radicar en el Estado la obligación de reparar el daño, basta con que se pruebe el daño antijurídico y su relación con una conducta del Estado, que podría ser incluso acorde con el ordenamiento, para que surja la consecuencia de la reparación. En cambio, en el régimen de responsabilidad subjetiva quien demanda la reparación debe probar que el daño se debió a una conducta contraria a derecho por parte del Estado.

Sobre estos títulos de imputación, en primer lugar, el daño especial se materializa cuando el Estado actúa de manera lícita, pero aun así produce una lesión que el particular no está obligado a soportar y que le ocasiona un desequilibrio significativo frente a las cargas públicas ^([7]).

El título de imputación del daño especial, que hace parte del régimen de responsabilidad objetiva en la responsabilidad patrimonial del Estado, constituye una institución jurídica que puede resultar relevante para pensar en la atribución del daño ocasionado por robots dotados de IA, bien sea que estos sean empleados por entidades públicas o por particulares, pues podría contribuir a resolver los problemas prácticos sobre la determinación del responsable, ante la cadena, generalmente difusa, de actores que participan en el diseño, fabricación, programación, distribución y utilización del agente electrónico.

La categoría del daño especial implica admitir que independientemente de la licitud de la conducta si se produce una afectación a los derechos de una persona, que no se encuentra obligada jurídicamente a soportar, que se pone en un desequilibrio injustificado, debe ser reparada integralmente por todos aquellos que se han beneficiado de la actividad dañina.

Se denomina riesgo excepcional el título de imputación que se emplea para atribuir responsabilidad al Estado por la realización de actividades consideradas “peligrosas”. Esta implica imputación de índole objetiva y se ha nutrido de las ideas de la teoría del riesgo desarrolladas en la responsabilidad civil ^([8]). Este título de imputación por riesgo se analizará más adelante para el funcionamiento de los robots.

La falla en el servicio, como 1l, supone una valoración negativa de la actuación del Estado, cuando este no presta los servicios públicos a su cargo, los presta mal o lo hace de manera extemporánea ^([9]). En su similitud con la culpa civil, este título de imputación también se revisa más adelante para el funcionamiento de los robots.

En general todo nexo de imputación dentro de la responsabilidad patrimonial del Estado queda desvirtuado con las causas extrañas admitidas en el derecho civil: el hecho exclusivo y determinante de un tercero, hecho exclusivo de la víctima, la fuerza mayor o el caso fortuito ^([10]).

^([1]) C. E., Sec. Tercera, Sent. 50545, feb. 19/2021, C. P. José Roberto Sáchica Méndez.

^([2]) Ya se advertía sobre la responsabilidad civil las dificultades para deslindar los elementos de causalidad e imputación. Se debe considerar en este punto la distinción realizada por Kelsen (2010) entre causalidad e imputación, según la cual la causalidad es la explicación que se realiza de fenómenos de la naturaleza en virtud de relaciones de causa y efecto, mientras que la imputación es el examen de cómo debe desarrollarse la conducta humana y qué consecuencias deben endilgársele, a partir de una valoración moral, religiosa o jurídica; de allí su carácter deóntico. Pero se oscurece la distinción cuando se habla de “causalidad jurídica”, como valoración normativa.

^([3]) C. E., Sec. Tercera, Sent. 29337, jul. 9/2014, C. P. Enrique de Jesús Gil Botero.

^([4]) C. E., Sec. Tercera, Sent. 39354, oct. 12/2017, C. P. Marta Nubia Velásquez Rico.

^([5]) En los casos de omisión aplica una teoría de imputación objetiva construida sobre la posición de garante: “determinar si un comportamiento fue realizado mediante un curso causal dañoso o mediante la abstención de una acción salvadora, pierde toda relevancia porque lo importante no es la configuración fáctica del hecho, sino la demostración de sí una persona ha cumplido con los deberes que surgen de su posición de garante” (C. Const., Sent. SU-1184, nov. 13/2001, M. P. Eduardo Montealegre Lynett).

^([6]) C. E., Sec. Tercera, Sent. 8163, jul. 13/1993, C. P. Juan de Dios Montes Hernández.

^([7]) Sobre el daño especial, véase: C. E., Sec. Tercera, Sent. 16205, agt. 10/2005, C. P. María Elena Giraldo Gómez.

^([8]) Sobre el riesgo excepcional, véase: C. E., Sec. Tercera, Sent. 15445, abr. 28/2005, C. P. María Elena Giraldo Gómez.

^([9]) Sobre la falla del servicio, véase: C. E., Sec. Tercera, Sent. 14170, feb. 24/2005, C. P. Ramiro Saavedra Becerra y Sent. 16626, nov. 30/2006, C. P. Alier Hernández Enríquez.

^([10]) C. E., Sec. Tercera, Sent. 46030, feb. 10/2021, C. P. Ramiro Pazos Guerrero.

 

2.2.3. Sobre la liquidación de los perjuicios extrapatrimoniales.

Finalmente, conviene señalar que la Jurisdicción de lo Contencioso administrativo suele calcular el monto de la indemnización de los perjuicios patrimoniales (daño emergente y lucro cesante) de manera similar a como lo hace la Jurisdicción Ordinaria. Sin embargo, en lo concerniente a los perjuicios extrapatrimoniales, el 28 de agosto de 2014 el Consejo de Estado unificó mediante un acta los criterios de tasación de los ítems que, según dicho Tribunal, integran esta categoría de perjuicios, a saber: (1) el daño moral, (2) el daño a la salud y (3) la afectación a otros bienes de protección constitucional o convencionalmente relevantes ^([1]).

El Consejo de Estado, de esta manera, pretendió reducir el arbitrio iuris en el cálculo de los perjuicios extrapatrimoniales definiendo unos montos preestablecidos o baremos. Se enfatiza en este punto pues actualmente es un referente importante y único en nuestro ordenamiento sobre tasación de perjuicios y se podría tomar en cuenta al momento de definir estrategias regulatorias en cuanto a la reparación los perjuicios extrapatrimoniales generados por robots con IA.

^([1]) Disponible en https://www.eltiempo.com/contenido/politica/archivo/archivo-14485135-0.pdf

2.3. La inteligencia artificial

Para este análisis jurídico no se pretende abarcar todo el alcance del término “inteligencia artificial” (IA), no solo por el componente técnico que involucra sino por el uso vago y ambiguo del término; la mayoría de desarrollos tecnológicos de punta, que sorprenden a los humanos por su automatización, capacidad de procesamiento de datos, complejidad y precisión de respuestas, se suelen asociar al término, pero lo cierto es que no toda la tecnología de punta que nos sorprende funciona con IA. Los mismos expertos en la materia tienen diferentes posturas en relación al contenido del concepto; como se verá, los planteamientos en torno a la definición de la IA han sido diversos e interdisciplinarios.

Para el objetivo del trabajo resulta sin embargo necesario convenir un significado para el concepto, en tal sentido puede afirmarse que la IA es un atributo en virtud del cual una máquina obtiene cierta autonomía de decisión y de comportamiento, con caracteres similares a los del comportamiento humano, a partir de algoritmos previamente programados.

Coincidiendo con esta definición, Rouhiainen (2018) sostiene que “la IA es la capacidad de las máquinas para usar algoritmos, aprender de los datos y utilizar lo aprendido en la toma de decisiones tal y como lo haría un ser humano” (p. 17). Igualmente, se ha distinguido la IA débil, entendida como la “ciencia e ingeniería que permiten diseñar y programar ordenadores de forma que realicen tareas que requieren inteligencia” (López de Mántaras, 2015, p. 97), de la IA fuerte, concebida como “la ciencia e ingeniería que permitirá replicar la inteligencia humana mediante máquinas” (2015, p. 97). En una perspectiva similar, el Parlamento Europeo (2021) indica:

La inteligencia artificial es la habilidad de una máquina de presentar las mismas capacidades que los seres humanos, como el razonamiento, el aprendizaje, la creatividad y la capacidad de planear.

La IA permite que los sistemas tecnológicos perciban su entorno, se relacionen con él, resuelvan problemas y actúen con un fin específico. La máquina recibe datos (ya preparados o recopilados a través de sus propios sensores, por ejemplo, una cámara), los procesa y responde a ellos.

Los sistemas de IA son capaces de adaptar su comportamiento en cierta medida, analizar los efectos de acciones previas y de trabajar de manera autónoma (2021, párrs. 1-3).

A partir de lo anterior, pueden destacarse tres elementos en la IA: (1) la programación algorítmica, (2) la utilización de un dispositivo o máquina como agente programado, (3) la autonomía alcanzada por este agente, simulando la inteligencia humana, para aprender, discernir, adoptar decisiones y modificar instrucciones; y (4) la capacidad del sistema para interpretar datos externos, aprender de ellos y emplearlos en tareas concretas.

Entonces, el solo desarrollo de labores análogas o automatizadas por un aparato físico no alcanza a considerarse como IA, porque si bien puede obedecer a un diseño electrónico o a una programación no conlleva la actuación autónoma por parte del dispositivo. En cambio, en las últimas décadas se han desarrollado sistemas de IA que permiten el desarrollo de labores autónomas por parte de los agentes e incluso predecir las preferencias o elecciones de los seres humanos.

Dentro de estos dispositivos pueden mencionarse las recomendaciones personalizadas efectuadas por los buscadores web, que aprenden a partir de los criterios de búsqueda empleados en el pasado; los asistentes virtuales de los smartphones (teléfonos inteligentes); los vehículos inteligentes; los drones; la ciberseguridad; y, en general, el uso de robots, que desempeñan actividades cada vez más autosuficientes.

Precisamente dicha autonomía, presente en los agentes dotados de IA, es lo que torna complejo el análisis de la imputación para la responsabilidad civil y del Estado en aquellos eventos en los que el dispositivo genera un daño, pues la “emancipación” del agente físico frente al desarrollador o programador hace que no resulte sencillo atribuir jurídicamente el deber de reparar.

La IA comporta, pues, desafíos éticos y jurídicos para la sociedad contemporánea. Incluso, desde una perspectiva epistemológica; esta realidad ha implicado un punto de quiebre para el paradigma humanista, que concebía el conocimiento como un atributo exclusivo del ser humano o que, en cualquier caso, confiaba en la capacidad de los individuos para controlar los resultados del aprendizaje.

De los elementos de la definición de IA, el más importante para este análisis es la autonomía, en la medida en que la responsabilidad civil y del Estado, como se ha mencionado, fueron subsistemas jurídicos estructurados bajo una concepción humanista de la conducta y a partir de la premisa del libre albedrío, que es consustancial a la autonomía personal (Kant, 1997 [1787]). La capacidad de decidir es lo que permite imputar a alguien una sanción o consecuencia indemnizatoria.

Para finalizar, complementamos esta conceptualización con lo planteado en el ámbito europeo, en el Dictamen del Comité Económico y Social Europeo (CESE), de mayo 31 de 2017:

2. Inteligencia artificial

2.1 No existe una definición establecida y unánimemente aceptada de la IA. La IA es un concepto que engloba muchas otras (sub)áreas como la informática cognitiva (cognitive computing: algoritmos capaces de razonamiento y comprensión de nivel superior —humano—), el aprendizaje automático (machine learning: algoritmos capaces de enseñarse a sí mismos tareas), la inteligencia aumentada (augmented intelligence: colaboración entre humanos y máquinas) o la robótica con IA (IA integrada en robots). Sin embargo, el objetivo fundamental de la investigación y el desarrollo en materia de IA es la automatización de comportamientos inteligentes como razonar, recabar información, planificar, aprender, comunicar, manipular, observar e incluso crear, soñar y percibir.

2.2 En términos generales, se puede distinguir entre IA débil (narrow AI) e IA fuerte (general AI). La IA débil es capaz de realizar tareas específicas. La IA fuerte es capaz de realizar las mismas tareas intelectuales que un ser humano.

2.3 En el ámbito de la IA débil se ha progresado considerablemente en los últimos tiempos, gracias sobre todo al crecimiento de la capacidad de procesamiento (computer processing power), la disponibilidad de grandes cantidades de datos y el desarrollo del aprendizaje automático (machine learning o ML). El aprendizaje automático incluye algoritmos capaces de enseñarse a sí mismos tareas específicas sin estar programados para ello. El método se basa en el procesamiento de «datos de entrenamiento» que sirven de base al algoritmo para aprender a reconocer patrones y formular normas. El aprendizaje profundo (deep learning o DL), una forma de ML, utiliza estructuras de redes neuronales (neural networks) basadas a grandes rasgos en el cerebro humano que aprenden mediante el ensayo y la respuesta. El resultado de estos avances es que los sistemas de IA (por medio de algoritmos) ya pueden aprender por sí mismos, y ser autónomos y adaptativos (CESE, 2017, p. 5).

2.4. Los robots

Sobre el concepto de robots tenemos la dificultad de la ambigüedad terminológica y técnica, similar a la expuesta en el capítulo anterior para el concepto de la IA.

En el ámbito internacional encontramos una serie de disposiciones sobre robótica por parte de la Unión Europea, que constituyen un camino adelantado valioso para aproximarse al concepto de robot y a sus problemáticas, principalmente, en la Resolución del Parlamento Europeo de 16 de febrero de 2017, con recomendaciones destinadas a la comisión sobre normas de derecho civil sobre robótica (2015/2103[INL]), junto con su anexo, la cual se encamina como una propuesta de directiva (numeral 65 del apartado “Aspectos finales”).

Como antecedente de la mencionada Resolución, cabe mencionar un programa de impulso a la robótica de la UE, conocido como SPARK, “presentado por la comisión Europea junto a 180 empresas e instituciones para los años 2014 a 2020” (Badillo, 2019, p. 30), el cual buscaba aumentar en un 42 % la participación de Europa en el mercado de los robots.

También, previo a la Resolución, se publicó el 31 de mayo de 2016 un proyecto de informe con recomendaciones elaborado por la Comisión de Asuntos Jurídicos. Y con posterioridad a la Resolución, dejamos también referida la comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones, de 25 de abril de 2018.

Sobre el contenido de la Resolución del Parlamento de 2017, destacamos la enunciación de lo que serían las características de un robot inteligente (aparte de los “Principios generales relativos al desarrollo de la robótica y la IA para uso civil”):

• capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos con su entorno (interconectividad) y el intercambio y análisis de dichos datos;
• capacidad de autoaprendizaje a partir de la experiencia y la interacción (criterio facultativo);
• un soporte físico mínimo;
• capacidad de adaptar su comportamiento y acciones al entorno;
• inexistencia de vida en sentido biológico (Parlamento Europeo, 2017, párr. 1).

En la noción de robot se suele encontrar como constante la materialidad, el soporte físico, inicialmente una máquina automática con funcionamiento electromecánico, características que ya cumplía el robot Elektro creado en 1937 por Joseph Barnett para la compañía Westinghouse Electric Corporation. Pero si se le agrega como característica la autonomía de funcionamiento y rasgos de “inteligencia” similares a los del comportamiento humano, desde 1960 se construyó el robot Shakey, en el Artificial Intelligence Center del Stanford Research Institute. Desde entonces se siguió el desarrollo de infinidad de robots con diversas formas, al comienzo con usos preponderantemente industriales ^([1]), pero ahora extendido a usos hasta en ambientes cotidianos, a la par que fueron evolucionando los sistemas informáticos que los soportan y la IA. No es pues ni en la forma ni en el uso que se pueden encontrar caracteres inherentes al concepto de robot:

La promesa de la investigación científica en el campo de la robótica es la de introducir a los robots en ambientes corrientes, para desarrollar la función de ayuda doméstica o de asistencia a la persona; transformar el sistema de transporte haciéndolo siempre menos dependiente del control del hombre; ampliar el uso de aviones autónomos o teleoperantes, en el ámbito civil –en la agricultura, en la logística, en el control del territorio, en las redes de carreteras urbanas y ferroviarias, y de las infraestructuras hídricas y energéticas, en la distribución comercial–; finalmente, valerse de la tecnología robótica en las actividades de formación y educación.

El sector sanitario y del cuidado de la salud constituye otro escenario de propagación de la innovación robótica […] (Palmerini, 2017, p. 55).

Adicionamos a estos ejemplos los robots para la guerra: drones bélicos, para la vigilancia; y también, los relacionados con la salud: los desarrollos de implantes de componentes en el cuerpo, sea para superar una discapacidad o simplemente para potenciar capacidades, como la idea del cíborg.

Finalizamos este apartado sobre la caracterización de los robots con esta cita de Erica Palmerini (2017), referida a los robots inteligentes:

No obstante esta ambigüedad, existe un acuerdo sustancial en identificar las características distintivas de los robots, desde un punto de vista técnico, en la capacidad de recoger datos mediante sensores (sense), de procesar los datos en bruto (think), de planificar y cumplir acciones mediante conocimientos e informaciones adquiridas, generalmente, en función de objetivos prefijados (act). Por su parte, características solo eventuales son la capacidad de comunicación con un operador, con otros robots o con una red externa, y la de aprendizaje. Realmente es posible observar una línea de continuidad entre la máquina automática y el robot propiamente dicho, que se diferencia de la primera, sustancialmente, por una complejidad mucho mayor, más que por una delimitación neta de orden cualitativo.

[…] El robot, en cuanto entidad dotada de un aspecto físico, aunque también de un sistema de software que procesa información, presenta la potencialidad y los riesgos de ambos mundos, el físico y el digital (2017, p. 65).

^([1]) Los robots industriales generalmente están aislados de los humanos, “también es conocido el empleo de robots en ambientes extremos e inaccesibles al hombre, como en los planetas del sistema solar o en las profundidades marinas” (Palmerini, 2017, p. 54).

3. Conceptos aplicables de la responsabilidad civil y del Estado para los daños causados por robots con inteligencia artificial

A continuación, se identifican particularidades en los riesgos que conlleva el funcionamiento de robots con IA para dilucidar los supuestos en los cuales los conceptos tradicionales asociados a la imputación de la responsabilidad civil y del Estado son aún pertinentes y útiles, así como los supuestos en los cuales las herramientas existentes se pueden quedar cortas para resolver los conflictos que se podrían suscitar en este ámbito.

No consideramos que todo fenómeno nuevo derivado del desarrollo científico y tecnológico requiera normas completamente nuevas, pues gran parte de los supuestos encajarían en normas existentes del ordenamiento y serían suficientes las consecuencias jurídicas ya dispuestas; además los nuevos desarrollos deben partir de conocer lo existente para evitar incoherencias sistemáticas en el ordenamiento.

Lo primero, entonces, es poner un marco de situaciones fácticas de referencia para el análisis. Ya vimos la cantidad de ámbitos diferentes en los cuales se utilizan robots y cada uno de ellos ameritaría consideraciones particulares. Así, por ejemplo, los robots en el ejercicio de la medicina implican la consideración de reglas especiales que rigen la actividad, normas técnicas, códigos éticos y los intereses públicos en la salud y en el avance de la medicina.

En materia de robots bélicos, toda la serie de disposiciones nacionales e internacionales sobre la guerra, las relaciones entre los estados y los derechos humanos. Los vehículos autónomos, todas las particularidades y reglas sobre tránsito y circulación. En los robots asistenciales tener en cuenta la fragilidad o “discapacidades” que podrían tener los usuarios.

El objetivo de este primer trabajo entonces excedería el análisis de esas particularidades y, por ello, vamos a tomar un ejemplo que consideramos simple y que podría ser de uso frecuente, para analizar las instituciones básicas de la responsabilidad civil, como una base o tronco común al que se le podrían colgar luego todas las arandelas de las actividades o usos particulares: por ejemplo, un robot de uso doméstico, adquirido por un consumidor para asistir en tareas del hogar; podemos suponer que algunas de las tareas incluyen la circulación del robot por la calle (por ejemplo, para sacar la basura o pasear al perro).

En paralelo, para analizar la responsabilidad del Estado, podría visualizarse un robot de asistencia a labores de mantenimiento en una oficina pública. En esos escenarios seleccionados, para efectos metodológicos, nos enfocaremos hacia daños materiales y personales, sobre las cosas y las personas, por colisiones e impactos, con personas u otras cosas, caídas del robot o de las cosas que lleva, lesiones en la interacción con adultos, niños, mascotas.

No se analizarán entonces, en este primer momento, afectaciones a la intimidad, recopilación indebida de datos personales, “errores y omisiones” (por usar el término común en el sector asegurador), como malas decisiones que puedan llevar a daños económicos puros, incumplimiento de contratos, de servicios públicos, imposiciones de multas, tampoco la pérdida o daño del mismo robot, ni afectaciones emocionales por vínculos afectivos que podrían establecerse con la máquina con caracteres humanoides, publicidad engañosa, etc. (Palmerini, 2017, p. 71). Dejamos, sin embargo, aquí enunciados estos otros tipos riesgos porque hacen parte del radar a considerar en la operación de robots y podrían ser objetivo para estudios posteriores.

3.1. La culpa y la falla del servicio

La primera herramienta que encontramos en el ordenamiento, entonces, para abordar los daños con robots es la culpa. La culpa, que si bien como concepto jurídico ya se tenía desde el derecho romano, hoy se refiere a un juicio de reproche sobre la actuación del agente, a partir de un modelo de referencia de conducta (abstracto) que construye el fallador, considerando los deberes jurídicos, la diligencia, cuidado y pericia, las reglas técnicas de la actividad, la lex artis, etc. La culpa fue concebida para evaluar conductas humanas a partir del reconocimiento de la voluntad y del libre albedrío ya mencionado, correlativos a la idea de responsabilidad.

Entonces, aplicada esta noción a las situaciones que nos ocupan, siempre que se encuentre una falla humana con incidencia causal en el daño de un robot se podrá atribuir responsabilidad con culpa; para esto se deberá identificar el sujeto con conducta reprochable (fabricante, diseñador, desarrollador-, el operador o usuario, el propietario, el encargado del mantenimiento, etc.).

En segundo lugar, la culpa permite la existencia de presunciones de culpa, verdaderas presunciones desvirtuables. Allí la regulación podría, por ejemplo, establecer que ante ciertas anomalías de funcionamiento existan presunciones de culpa en los fabricantes. También normas detalladas claras sobre las condiciones en que puede darse el uso y la circulación podrían permitir valoraciones de culpa de manera más fácil en los usuarios u operadores.

Sobre la culpa, en principio, diríamos que no es el título de imputación más idóneo para evaluar las actuaciones del robot. Consideramos que este tipo de reproche es propio de las conductas humanas, por lo explicado sobre sus fundamentos en la voluntad y la libertad. Incluso si se crean códigos éticos de lo que sería “un buen robot”, entendemos que finalmente sería mandatos para los diseñadore y desarrolladores.

Ahora bien, dentro de la culpa hay matices de valoración y hoy la tendencia es hacia una valoración objetiva, respecto a un modelo de conducta. Desde un punto de vista más objetivo y con códigos de conducta claros como referentes sí consideramos que podrían encontrarse actuaciones del robot que se valoren objetivamente como “reprochables”, y que incluso la máquina en sus procesos de aprendizaje autónomo puede ser la que termine desconociendo estos lineamientos.

Sin embargo, en estos casos llegaríamos solo al reproche objetivo sin una solución de a quién se le deben atribuir las consecuencias de este hecho. Así, la culpa para una serie de situaciones relativas a daños causados por robots resulta un criterio insuficiente o incompleto para efectos de atribución de responsabilidad.

Nótese, por ejemplo, como la Corte suprema de justicia colombiana para evaluar la actuación de las personas jurídicas acudió en el fallo de 30 de septiembre de 2016 al concepto de “culpa organizacional”, en el cual la valoración de la falla se desligó de la actuación de humanos particulares y puso como referente el funcionamiento esperado o esperable de la “organización”. Y si hacemos un paralelo con los desarrollos de la falla del servicio en el sector público, encontramos la misma idea de tener como modelo un resultado de “buen funcionamiento”, que trasciende las particularidades de los individuos humanos.

Algo similar podría hacerse al evaluar el funcionamiento de un robot. Entonces, en la misma línea de la culpa valorada de manera objetiva, se podría encontrar una falla del servicio para atribuir responsabilidad al Estado ante el funcionamiento anormal de un robot con el cual el Estado preste defectuosamente un servicio público, y además estará la posibilidad de atribuirle responsabilidad cuando se encuentre una actuación “negligente” de un agente de la administración pública con incidencia causal en el daño a la víctima.

3.2. El robot como una cosa o desempeñando actividades peligrosas/ riesgo excepcional

A partir de la primera Revolución industrial y la consecuente introducción en la sociedad de nuevas máquinas con potentes fuerzas y aceleraciones, se dispararon los accidentes y daños a las personas y a las cosas ^([1]). Se planteó entonces una nueva forma de “imputación” de responsabilidad civil sin necesidad de examinar la conducta del causante del daño, sin requerirse un juicio de reproche o de culpa, bastando la relación causal entre la actividad (o cosa) y el daño, sin que el agente pudiera argüir simple diligencia y cuidado como forma de exoneración: la teoría del riesgo. Bajo la denominación teoría del riesgo se pueden:

[…] englobar aquellas doctrinas que, en forma total o parcial quieren prescindir de concepto de culpa como elemento integral de la responsabilidad civil… la teoría del riesgo trata de prescindir de la idea de culpa, pero se acude al correctivo del riesgo creado o del riesgo-provecho (Tamayo, t. i, 2007, p. 822).

La teoría del riesgo se fundamenta en que aquel que hace uso de bienes riesgosos o ejerce actividades peligrosas, debe responder por los daños ocasionados como consecuencia de ello (Molinari, 2004, p. 25).

En Francia fueron Saleilles y Josserand quienes dieron fuerza a la responsabilidad objetiva por actividades riesgosas y el hecho de las cosas, pero sus planteamientos rápidamente desataron toda una corriente de contradictores: doctrinantes adheridos a la idea de la culpa como pilar necesario de la responsabilidad civil, que consideraban a la responsabilidad objetiva como un retroceso en el campo jurídico ^([2]).

Lo que se acaba de exponer sobre el derecho francés se asemeja a lo que ocurrió en otros ordenamientos latinoamericanos y europeos con determinante influencia del código napoleónico; es decir, la misma visión del Código de Napoleón sobre el principio general de la culpa como presupuesto de la responsabilidad civil, inspiró la promulgación de códigos como el colombiano de 1887 o el español de 1889. Luego, los cambios sociales y la influencia de los autores franceses también trajeron planteamientos de responsabilidades objetivas en nuestros países para ciertos supuestos, pero aquí con mayores dificultades para sustentarla, salvo algunos regímenes legales especiales que se han consagrado, porque carecemos de una norma equivalente al artículo 1384 del Código Civil francés según la cual “uno es responsable de las cosas que tiene bajo su guarda” y que posibilitó en Francia el planteamiento general de responsabilidad objetiva por el hecho de las cosas.

Se destaca actualmente para el ámbito civil colombiano la Sentencia reciente SC4420-2020, de 17 de noviembre de 2020, la cual ante un accidente de tránsito planteó responsabilidad objetiva y “presunción de responsabilidad” por actividad peligrosa, mientras que en materia de responsabilidad del Estado desde la Constitución del 91 el Consejo de Estado reconoce la responsabilidad objetiva de la administración pública cuando crea riesgos excepcionales o se beneficia de ellos y los mismos causan daños a los ciudadanos ^([3]).

Más allá de la renuencia en la jurisdicción civil colombiana para aplicar responsabilidad del tipo objetivo cuando una actividad humana o con cosas puede calificarse de “riesgosa”, encontramos aquí un título de imputación aplicable a ciertas actividades que realicen los robots, en las cuales se identifiquen fuerzas, velocidades, aceleraciones u otros caracteres que reporten riesgos (excepcionales si se tratase del ámbito público), como una herramienta que ya existe en los ordenamientos de nuestra tradición jurídica para atribuir daños a quien detente la “guarda” de la actividad riesgosa.

Sin embargo, en el caso que nos ocupa, la multiplicidad de sujetos que pueden intervenir en el funcionamiento u operación del robot (dueño, usuario, productor que “vigila” el entrenamiento, etc.), así como las complejidades técnicas para dilucidar el origen o causa del comportamiento “riesgoso”, puede dificultar la identificación y determinación del guardián responsable en los casos concretos.

^([1]) Cfr. Viney (2007, p. 43).

^([2]) Por ejemplo, Planiol en “Etudes sur la responsabilité civile” (1906, citado por Viney, 2007, p. 112).

^([3]) En este sentido, véase: C. E., Sec. Tercera, Sent. 10024, jun. 16/1997, C. P. Ricardo Hoyos Duque.

3.3. El robot como un producto

En Colombia, a partir de la Sentencia C-1141 de 2000 de la Corte Constitucional y la Sentencia de la Corte Suprema de Justicia del 30 de abril de 2009 ^([1]), se reconoció un régimen de responsabilidad especial por productos defectuosos, cuando un producto puesto en el mercado no brinda la seguridad que el ciudadano podría legítimamente esperar y esto le causa un daño en su integridad física o en sus bienes.

Posteriormente, la Ley 1480 de 2011 que estableció el nuevo Estatuto del Consumidor, a partir del artículo 20, consagró todo el régimen de responsabilidad civil por productos defectuosos, del cual se destaca la responsabilidad solidaria entre el productor y el expendedor (art. 20), la prescindencia de la culpa como factor de atribución: “para determinar la responsabilidad, el afectado deberá demostrar el defecto del bien, la existencia del daño y el nexo causal entre este y aquel” (art. 21). Además, consagra particulares formas de exoneración que, en general, apuntan a situaciones imprevisibles e irresistibles para el productor (art. 22), entre las cuales se destaca el denominado riesgo del desarrollo, cuando “en el momento en que el producto fue puesto en circulación, el estado de los conocimientos científicos y técnicos no permitía descubrir la existencia del defecto” (art. 22, numeral 6).

Sobre esta última causal de exoneración para los productores en Colombia resulta pertinente anotar que el legislador optó por cargar completamente el riesgo del desarrollo en el consumidor final, mientras que en otros países ha habido posiciones más cautas, por lo gravoso que puede ser para el ciudadano común:

[…] la directiva comunitaria europea permitió, con buen tino, a los Estados miembros excluir la aplicación de esta causal o restringirla, en España por ejemplo, según el artículo 140.3 del Texto refundido de la Ley General para la Defensa de Consumidores y Usuarios (conocido en España como el TRLGDCU), no se puede aducir esta causal de exoneración en el caso de medicamentos, alimentos o productos destinados al consumo humano; mientras que en Francia no se aplica esta causal si el daño ha sido motivado por “un elemento del cuerpo humano o por los productos derivados de este”, y en Inglaterra igualmente no es posible alegar si el daño ha sido causado por un elemento del cuerpo humano o por productos derivados de este. En síntesis, podemos afirmar que la ley 1480 de 2011 asumió la posición más generosa para el productor al consagrar el riesgo de desarrollo como causal de exoneración de la responsabilidad, sin condicionar su aplicabilidad ni imponer exclusiones de algún tipo. Para evitar caer en simplismos, se aclara que el tema específico de los riesgos de desarrollo ha generado un extenso debate que merece revisarse y analizarse más minuciosamente (Villalba, 2014, pp. 17-40).

Este constituye, entonces, otro régimen de responsabilidad que puede aplicarse ante los daños que causen robots “inseguros” o defectuosos, teniendo en cuenta que el robot puede encajar en la definición de producto como un “bien” (Ley 1480 de 2011, art. 5, numeral 8), y llevaría la carga de responder sobre el productor o expendedor, con las dificultades del caso en cuanto a los diversos sujetos que pueden intervenir en la producción de un robot (por ejemplo, diseñadores, desarrolladores del software, ensambladores, etc.), la multiplicidad de locaciones geográficas en las que pueden encontrarse los mismos y las diferentes normativas aplicables por el lugar. El artículo 20 del Estatuto del Consumidor incluye la siguiente herramienta que, si bien no es definitiva, podría resolver algunas situaciones: “cuando no se indique expresamente quién es el productor, se presumirá como tal quien coloque su nombre, marca o cualquier otro signo o distintivo en el producto” (Ley 1480 de 2011, art. 20).

^([1]) CSJ, Cas. Civil, Sent. abr. 30/2009, Exp. 2589931030021999-00629-01, M. P. Pedro Octavio Munar Cadena.

3.4. Responsabilidad por el hecho ajeno y responsabilidad por el hecho de animales

En Colombia se encuentran en el código civil reglas puntuales para responsabilizar a los dueños o a quienes se “sirvan” de animales domésticos (C. C., art. 2353) o animales fieros (C. C., art. 2354).

Ante las dificultades de índole deontológica que han surgido respecto a algunos planteamientos actuales que sugieren otorgar “personalidad” a los robots, esta normatividad podría servir como alternativa en una categoría intermedia, pues en cierta forma el supuesto se asimilaría más a animales sin consciencia ni voluntad (sin que con esta idea estemos desconociendo el estatus actual de los animales en nuestro ordenamiento jurídico como seres sintientes, sujetos a la protección de la Ley 1774 de 2016). Resulta interesante la regulación del artículo 2353 del C. C., en consideración a la previsión de que los animales decidan comportarse de determinada forma, aprendan, tengan reacciones imprevistas, respondan a los estímulos del entorno, e incluso se separen en algunos de eventos del control de su dueño, lo cual quizás podría asemejarse a las respuestas de robots con IA:

El dueño de un animal es responsable de los daños causados por el mismo animal, aún después que se haya soltado o extraviado, salvo que la soltura, extravío o daño no puede imputarse a culpa del dueño o del dependiente, encargado de la guarda o servicio del animal.

Lo que se dice del dueño se aplica a toda persona que se sirva de un animal ajeno; salva su acción contra el dueño si el daño ha sobrevenido por una calidad o vicio del animal, que el dueño, con mediano cuidado o prudencia, debió conocer o prever, y de que no le dio conocimiento (C. C., art. 2353).

De otro lado, los artículos 2347 a 2349 del Código civil regulan la responsabilidad por el hecho de otros sujetos que alguien puede tener a su cuidado, conocida como la responsabilidad por el hecho ajeno. En estos casos se presume la culpa para la persona civilmente responsable, pero se le permite exonerarse demostrando que “con la autoridad y el cuidado que su respectiva calidad les confiere y prescribe, no hubieren podido impedir el hecho”. Ante la actuación reprochable del sujeto a cargo se presume el mal cuidado y vigilancia pero se admite prueba en contrario, institución también útil, con una presunción de culpa.

Así, en ambos supuestos se encuentra una presunción de que podría aplicarse analógicamente, para atribuir responsabilidad a quienes tengan bajo su cuidado y vigilancia robots con IA, permitiéndose demostrar como exoneración que en ciertas circunstancias imprevistas la respuesta del sistema escapó al control del dueño o del vigilante. Nótese que la exoneración por ausencia de culpa en estas circunstancias se acerca mucho a la causa extraña; la sutil diferencia entre ambas formas de exoneración radica en que en la ausencia de culpa la causa del daño podría ser desconocida (se admite exoneración pese a la causa anónima, si se logra demostrar el actuar diligente), mientras que en la causa extraña debe señalarse el hecho imprevisible, irresistible y externo que causó el daño.

En este orden de ideas, se requerirá desarrollo por la normatividad o la jurisprudencia acerca de qué realmente es “externo” al control y que queda a su cargo, además lo externo quién lo terminaría cargando en su patrimonio (por ejemplo, ¿el productor?). Para esta definición deberá considerarse el componente técnico del funcionamiento del sistema.

4. Conclusiones parciales sobre los títulos de imputación existentes en el ordenamiento jurídico colombiano

Si bien en el ordenamiento jurídico colombiano se encuentran una serie de regímenes jurídicos con viabilidad de aplicación ante los daños causados por robots, se identificó como constante problemática técnica en los casos prácticos para identificar la causalidad de un actuar humano sobre la respuesta que dé un robot. Así mismo, la dificultad para identificar en ciertos casos a la persona humana sobre la cual recaerían las categorías que desatan la consecuencia de imputación jurídica –por ejemplo, quién sería el guardián, quién sería el productor, etc.–, teniendo en cuenta los múltiples sujetos intervinientes.

En relación con lo anterior, las diferentes ubicaciones geográficas en que se pueden encontrar los sujetos intervinientes y las problemáticas de la ley aplicable en el “daño transfronterizo” para el campo extracontractual internacional complejizan la situación.

El grado de autonomía y de aprendizaje autónomo del robot, la imprevisibilidad de sus respuestas y causales de exoneración como el denominado “riesgo del desarrollo” también son factores que tenderían a separar sus respuestas fácticas de la causalidad y la imputación a seres humanos concretos y que entrarían a dificultar la aplicación de algunos de los títulos de imputación presentados.

Finalmente, encontramos casos en los cuales los robots tendrían que tomar decisiones éticas, resolver dilemas morales y con ello podrían causar daños, pero sin que esto represente un defecto, desperfecto o inseguridad del robot; por ejemplo, ante la eminencia de un accidente en circulación decidir si choca con el vehículo que viene de frente con probabilidad de lesionar a los terceros o si se tira al precipicio con probabilidad de lesionar a su pasajero.

Si bien en estas decisiones influirá el entrenamiento y los algoritmos que se le hayan ingresado, no se encuentra necesariamente un reproche a la actividad del programador; además, habrá situaciones de entrenamiento con vigilancia y sin vigilancia del fabricante. Nótese que las reglas de responsabilidad civil antes presentadas se quedan cortas para tratar el problema de los daños en estas circunstancias.

Para estas lagunas que deja la responsabilidad civil tradicional se exponen a continuación algunas alternativas de nueva regulación que se están proponiendo en ámbitos como la Unión europea, a partir de la en Resolución del parlamento de 16 de febrero de 2017, con recomendaciones destinadas a la comisión sobre normas de derecho civil sobre robótica (2015/2103[INL]), junto con su anexo, la cual se encamina como una propuesta de directiva (numeral 65, del apartado “Aspectos finales del anexo”).

5. Algunas alternativas de regulación para la atribución de daños causados con robots con inteligencia artificial

El Parlamento Europeo, en la citada Resolución de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103[INL]), después de las consideraciones iniciales sobre el nuevo panorama y las características actuales de los robots con IA ^([1]), concluye que el marco jurídico vigente, del cual dispone actualmente la Unión Europea:

[…] no bastaría para cubrir los daños causados por la nueva generación de robots, en la medida en que se les puede dotar de capacidades de adaptación y aprendizaje que entrañan cierto grado de imprevisibilidad en su comportamiento, ya que un robot podría aprender de forma autónoma de sus experiencias concretas e interactuar con su entorno de un modo imprevisible y propio únicamente a ese robot (Parlamento Europeo, 2017, lit. AI).

Es por ello por lo que, luego, en el numeral 59, le pide a la Comisión analizar y explorar las siguientes opciones de regulación:

1. establecer un régimen de seguro obligatorio en los casos en que sea pertinente y necesario para categorías específicas de robots, similar al existente para los automóviles, en el que los fabricantes o los propietarios de robots estarían obligados a suscribir un contrato de seguro por los posibles daños y perjuicios causados por sus robots.
2. establecer un fondo de compensación que no solo garantice la reparación de los daños o perjuicios causados por un robot ante la ausencia de un seguro;
3. permitir que el fabricante, el programador, el propietario o el usuario puedan beneficiarse de un régimen de responsabilidad limitada si contribuyen a un fondo de compensación o bien si suscriben conjuntamente un seguro que garantice la compensación de daños o perjuicios causados por un robot;
4. decidir si conviene crear un fondo general para todos los robots autónomos inteligentes o crear un fondo individual para cada categoría de robot, así como la elección entre un canon único al introducir el robot en el mercado o pagos periódicos durante la vida del robot;
5. crear un número de matrícula individual que figure en un registro específico de la Unión que asegure la asociación entre el robot y el fondo del que depende y que permita que cualquier persona que interactúe con el robot esté al corriente de la naturaleza del fondo, los límites de su responsabilidad en caso de daños materiales, los nombres y las funciones de los participantes y otros datos pertinentes;
6. crear a largo plazo una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente (Parlamento Europeo, 2017).

Nótese que las propuestas se mueven entre endurecer la responsabilidad de propietarios y productores, hacia responsabilidad objetiva y facilidades probatorias para las víctimas, pero también considera la posibilidad de permitirles a productores, desarrolladores y propietarios en ciertas circunstancias establecer responsabilidades limitadas, vía cláusulas limitativas de responsabilidad, en pro seguramente de incentivar el desarrollo tecnológico.

También consagra la alternativa de cargar ciertos daños en otros patrimonios, como seguros o fondos de compensación, lo cual permitiría cubrir a las víctimas aún ante los vacíos que, según se ha expuesto, podría reportar el régimen tradicional para imputar responsabilidad a sujetos concretos en ciertos casos. Finalmente, plantea la controvertida “personalidad” electrónica que permitiría dotar de patrimonio a los robos, pero que los haría al mismo tiempo sujetos de derechos y obligaciones ^([2]).

Si bien en Colombia la discusión es aún insípida, en el contexto de globalización en que estamos inmersos, el acceso y el uso de las nuevas tecnologías se mueve a ritmo acelerado; por tanto, el atraso que tengamos en las discusiones y análisis para propuestas de regulación jurídica no será obstáculo para que empiece su utilización. En ese escenario, resultaría inconveniente que la premura de las prácticas sociales nos lleve a simplemente trasladar o a importar propuestas extranjeras, sin considerar la coordinación que habría con la normativa y los desarrollos que tenemos actualmente en el país y que se exponen este trabajo, y sin considerar las particularidades de nuestro contexto social y cultural.

 

 

⁽[1]⁾ Literales Z, AB, AC, AD, AF, AG, AH y AI.

^([2]) Sobre el análisis y las críticas a las alternativas de regulación, véase Palmerini (2017, pp. 77-83).

Referencias

Badillo Arias, J. A. (2019). Responsabilidad civil y aseguramiento obligatorio de los robots. En E. Monterroso Casado (Dir.) y A. Muñoz Villarreal (Coord.), Inteligencia artificial y riesgos cibernéticos: Responsabilidades y aseguramiento (pp. 25-66). Tirant lo Blanch.

Baena Aramburo, F. (2021). La causalidad en la responsabilidad civil. Tirant lo Blanch.

Comité Económico y Social Europeo [CESE]. (2017, mayo 31). Dictamen. Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad. https://bit.ly/3H5yD23

Concejo de Estado, Sala de lo Contencioso Administrativo, Sección Tercera. (2014). Documento final aprobado mediante acta del 28 de agosto de 2014 referentes para la reparación de perjuicios inmateriales. https://bit.ly/2MwAwLP

Congreso de la República de Colombia. (2000, julio 24). Ley 599 de 2000: Por la cual se expide el Código Penal. [Última actualización: 31 de diciembre de 2022]. Diario Oficial N.^o 52249.

Domat, J. (2009 [1644]). Las leyes civiles en su orden natural (3 vols.). ABC editores.

Ebers, M. (2016). La utilización de agentes electrónicos inteligentes en el tráfico jurídico: ¿Necesitamos reglas especiales en el Derecho de la responsabilidad civil? (J. M. Ventura, Trad.). InDret. Revista para el Análisis del Derecho, (4), 1-22. https://indret.com/wp-content/uploads/2018/05/1245.pdf

García de Enterría, E. y Fernández, T. R. (2008). Curso de Derecho Administrativo. Tomo II (12.^a ed.). Civitas.

Gil Botero, E. (2020). Tratado de responsabilidad extracontractual del Estado (8.^a ed.). Tirant lo Blanch.

Grocio, H. (2020 [1625]). Del derecho de la guerra y la paz (J. Torrubiano Ripoll, Trad.). Maxtor.

Kant, I. (1997 [1787]). Crítica de la razón pura (P. Ribas, Trad.). Taurus.

Kelsen, H. (2010). Teoría pura del derecho (R. J. Vernengo, Trad.). Libros Hidalgo.

López de Mántaras, R. (2015). Algunas reflexiones sobre el presente y el futuro de la Inteligencia Artificial. Revista de Occidente, (436), 57-72. http://hdl.handle.net/10261/240482

López Medina, D. (2004). Teoría impura del derecho: La transformación de la cultura jurídica latinoamericana. Legis, Universidad de los Andes y Universidad Nacional.

Mir Puigpelat, O. (2002). La responsabilidad patrimonial de la Administración: Hacia un nuevo sistema. Civitas.

Molinari Valdés, A. (2004). De la responsabilidad civil al derecho de daños y tutela preventiva civil. LexisNexis.

Palmerini, E. (2017). Robótica y derecho: sugerencias, confluencias, evoluciones en el marco de una investigación europea (I. Díaz Lindao, Trad.). Revista de Derecho Privado, (32), 53-97. https://doi.org/10.18601/01234366.n32.03

Parlamento Europeo. (2017, febrero 16). 2015/2103(INL): Resolución del Parlamento Europeo con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica. https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_ES.html#title1

Parlamento Europeo. (2021, marzo 26). ¿Qué es la inteligencia artificial y cómo se usa? https://bit.ly/3WCyhWz

Pothier, R. J. (2007 [1824]). Tratado de las obligaciones (M. C. de las Cuevas, Trad.). Heliasta.

Rouhiainen, L. (2018). Inteligencia artificial: 101 cosas que debes saber hoy sobre nuestro futuro. Planeta.

Saavedra, R. (2018). Responsabilidad patrimonial del Estado. Tomo I. Grupo Editorial Ibáñez.

Tamayo Jaramillo, J. (2007). Tratado de Responsabilidad Civil. Tomo I y II. Legis.

Trigo Represas, F. A. y López Mesa, M. J. (2004). Tratado de la responsabilidad civil: El derecho de daños en la actualidad, teoría y práctica. Tomo I. La Ley.

Velásquez Velásquez, F. (1994). Derecho penal: Parte general. Temis.

Villalba Cuéllar, J. C. (2014). La responsabilidad por producto defectuoso en el derecho colombiano. Civilizar, 14(27), 17-40. http://dx.doi.org/10.22518/16578953.179

Viney, G. (2007). Tratado de Derecho Civil: Introducción a la responsabilidad (F. Montoya, Trad.). Universidad Externado de Colombia.

 

 

Normas

Código Civil colombiano.

Código de Procedimiento Administrativo y de lo Contencioso Administrativo colombiano.

Código Penal colombiano, ley 599 de 2000.

Constitución Política de Colombia, 1991.

Estatuto del Consumidor, Ley 1480 de 2011.

Ley 1996 de 2019.

Sentencias Corte Suprema de Justicia (SCJ), Sala de Casación Civil (Cas. Civil)

Sentencia del 2 de junio de 1958. Exp. 2198. M. P. Arturo Valencia Zea.

Sentencia del 27 de febrero de 1998. Exp. 4901. M. P. Rafael Romero Sierra.

Sentencia del 23 de junio de 2000. Exp. 5475. M. P. Carlos Ignacio Jaramillo Jaramillo.

Sentencia del 3 de marzo de 2004. Exp. C-7623. M. P. José Fernando Ramírez Gómez.

Sentencia del 29 de abril de 2005. Exp. 0829-92. M. P. Carlos Ignacio Jaramillo Jaramillo.

Sentencia del 26 de julio de 2005. Exp. 050013103011-1998-6569-02. M. P. Carlos Ignacio Jaramillo Jaramillo.

Sentencia del 30 de abril de 2009. Exp. 2589931030021999-00629-01. M. P. Pedro Octavio Munar Cadena.

Sentencia del 10 de marzo de 2020. Exp. SC780-2020. M. P. Ariel Salazar Ramírez.

Sentencia del 17 de noviembre de 2020. Exp. SC4420-2020. M. P. Luis Armando Tolosa Villabona.

Sentencias Consejo de Estado (C. E.), Sala de lo Contencioso Administrativo, Sección Tercera

Aclaración de voto de Enrique Gil Botero a la Sentencia 15726 del 30 de julio de 2008. Rad. 20001-23-31-000-1998-00197-01. C. P. Myriam Guerrero de Escobar.

Sentencia 8163 del 13 de julio de 1993. Rad. CE-SEC3-EXP1993-N8163. C. P. Juan de Dios Montes Hernández.

Sentencia 10024 del 16 de junio de 1997. Rad. 66001-23-31-000-1997-10024-01. C. P. Ricardo Hoyos Duque.

Sentencia 11945 del 2 de marzo de 2000. Rad. CE-SEC3-EXP2000-N11945. C. P. María Elena Giraldo Gómez.

Sentencia 15445 del 28 de abril de 2005. Rad. 85001-23-31-000-1996-00282-01. C. P. María Elena Giraldo Gómez.

Sentencia 14170 del 24 de febrero de 2005. Rad. 85001-23-31-000-1993-00074-01. C. P. Ramiro Saavedra Becerra.

Sentencia 16205 del 10 de agosto de 2005. Rad. 85001-23-31-000-1997-00448-01. C. P. María Elena Giraldo Gómez.

Sentencia 16626 del 30 de noviembre de 2006.  Rad. 20001-23-31-000-1997-03359-01. C. P. Alier Hernández Enríquez

Sentencia 13168 del 4 de diciembre de 2006. Rad. 25000-23-26-000-1994-09817. C. P. Mauricio Fajardo Gómez.

Sentencia 29337 del 9 de julio de 2014. Rad. 05001-23-31-000-1997-01048-01. C. P. Enrique de Jesús Gil Botero.

Sentencia 39354 del 12 de octubre de 2017. Rad. 05001-23-31-000-2001-02300-01. C. P. Marta Nubia Velásquez Rico.

Sentencia 46030 del 10 de febrero de 2021. Rad. 05001-23-31-000-2009-01513-01. C. P. Ramiro Pazos Guerrero.

Sentencia 50545 del 19 de febrero de 2021. Rad. 50001-23-31-000-2010-00004-01. C. P. José Roberto Sáchica Méndez.

Sentencia 63892 del 19 de febrero de 2021. Rad. 54001-23-33-000-2017-00190-01. C. P. Marta Nubia Velásquez Rico.

 

Sentencias Corte Constitucional (C. Const.)

Sentencia C-333 del 1 de agosto de 1996. M. P. Alejandro Martínez Caballero.

Sentencia C-038 del 1 de febrero de 2006. M. P. Humberto Antonio Sierra Porto.

Sentencia SU-1184 de 13 de noviembre de 2001. M. P. Eduardo Montealegre Lynett.