Resumen

El presente texto constituye una síntesis inédita del informe de investigación llevada a cabo en alianza entre EAFIT- Suramericana, entre los años 2020 y 2021, cuyo objetivo general era analizar la imputación de la responsabilidad extracontractual, tanto en el ámbito civil como estatal, cuando el daño se causa a través de robots con inteligencia artificial. Ninguna persona sin consentimiento de los autores está autorizada para la divulgación o publicación de este material.

Introducción

Desde hace varias décadas la sociedad viene experimentado el auge de nuevas tecnologías en diferentes ámbitos de la vida humana, las cuales han generado cambios significativos en la manera como las personas nos relacionamos con el entorno, nos comunicamos y enfrentamos los retos cotidianos. Los avances tecnológicos han impactado la producción en masa, el transporte, la prestación de servicios, la transmisión de la información, la educación, la salud, el deporte, los procesos políticos y, en general, la vida de los seres humanos.  Particularmente, se plantea en las últimas décadas un cambio de paradigma con los avances de lo que se ha denominado “inteligencia artificial”. Los sistemas informáticos superan los comandos a través de símbolos y de reglas lógicas como “si, entonces” y empiezan desarrollos de “sistemas conexionistas” y “redes neuronales artificiales”, que no se programan con una estructura de datos predefinida, sino que se “entrenan” y tienen capacidad de ganar experiencia con el mundo físico y la interacción, al punto de que sus respuestas no son todas predefinidas ni previstas por el programador (Ebers, 2016, págs. 4-5). Estos desarrollos suponen como desafío repensar la aptitud de las disposiciones normativas relativas a la  responsabilidad extracontractual para regular los supuestos de daños que se generen con el funcionamiento de estos sistemas, pues las nociones tradicionales sobre elementos como la imputación al agente responsable y la causalidad no se han desarrollado a la medida de escenarios en los que estos sistemas produzcan respuestas dañinas que no obedezcan a su programación inicial o sean imprevistas para el usuario.

Con este objetivo, el trabajo parte de un marco conceptual sobre la responsabilidad civil y la responsabilidad del Estado, con sus presupuestos generales, para, posteriormente, explicar las nociones de inteligencia artificial y de robots. Luego, se analizan las particularidades, en la aplicación, de los planteamientos que tiene la responsabilidad civil y del Estado para los daños causados por robots con inteligencia artificial y, finalmente, se exponen algunas alternativas para tratar las problemáticas, considerando ideas sobre la regulación de este tema que se están planteando en otros ámbitos, sin perder de vista nuestro sistema y nuestro entorno[1]. Este texto es resultado de una investigación de tipo cualitativo y documental con selección de doctrina nacional y extranjera, textos normativos como el Código Civil y el Código de Procedimiento Administrativo y de lo Contencioso Administrativo colombianos, normas y proyectos internacionales como la Resolución del Parlamento Europeo de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión Europea sobre normas de derecho civil sobre robótica, entre otros, como un insumo para decisiones futuras de aplicación o regulación por los operadores jurídicos.

[1] Sobre la traslación (López, 2004)

Marco conceptual

A) Los presupuestos de la responsabilidad civil con énfasis en la imputación

La institución jurídica de la responsabilidad civil es un mecanismo, entre otros, para tratar los daños que se causan los sujetos en la sociedad. A partir de una larga evolución histórica[1], con contribuciones de ideas desde el código Hammurabi (antigua Mesopotamia, 1755–1750 AC), ley de las XXII Tablas (Roma, siglo V AC), ideas de libertad y causalidad desde la filosofía en la Grecia clásica; nociones de obligación, culpa y dolo del derecho romano; el cristianismo también con contenidos morales sobre la culpa, la expiación de los “pecados”, el no dañar a otros y la reparación. Luego, Hugo Grocio (1625)[2], integrante de la Escuela de derecho natural, postuló el principio referido al deber de reparar todos los daños causados con “culpa».

[…] pudiendo apreciarse a simple vista la relación existente entre el concepto de culpa y el dogma de la autonomía de la voluntad, que no es otro que el culto de la libertad del individuo y su responsabilidad sólo por sus actos deliberados (TRIGO Represas y LÓPEZ Mesa, Pág. 87, 2004).

Los juristas franceses Domat y Pothier acogieron las ideas de la Escuela del Derecho Natural, señalaron las fuentes de las obligaciones que incluían el delito y el cuasidelito, y sentaron el principio recogido en el código civil napoleónico (1804), en el Código civil chileno por Andrés Bello y por ende en nuestro Código civil colombiano de que: “el que ha cometido delito o culpa que ha inferido daño a otro es obligado a la indemnización…” (artículo 2341 Cc).

Del ordenamiento jurídico analizado sistemáticamente se pueden enunciar hoy como presupuestos de la responsabilidad civil:  el hecho generador “imputable” a un sujeto,  el daño o perjuicio para otra persona (víctima) y la relación de causalidad entre el hecho imputable y el daño a la víctima. Sin embargo, respecto de cada uno de ellos hay todo un universo conceptual que excede el objetivo de este estudio, se deja en el informe completo la definición de cada uno de estos elementos y nos concentramos en abordar inicialmente el concepto de imputación, el cual luego se irá complementando con otras nociones que se requerirán en la aplicación a situaciones concretas de daños causados con robots con inteligencia artificial.

En los sistemas de nuestra tradición jurídica, desde el código napoleónico, se ha exigido cierta “calificación”, respecto de la conducta del sujeto, activa u omisiva, para que se le pueda “atribuir” la responsabilidad civil, con la consecuente obligación indemnizatoria de perjuicios. Denominamos este elemento la “imputación jurídica”, pese a la ambigüedad con la que suele utilizarse el término. Imputar viene del latín imputare, verbo que hace referencia al acto de asignar o atribuir algo a alguien o atribuir un efecto a su causa. En cierto sentido del término, la categoría de “imputable” la daría la valoración de una culpa del sujeto y de allí la terminología referida a la “imputación subjetiva”, que viene con el principio general de responsabilidad desde el código napoleónico y aparentemente superaba la simple iniuria objetiva: pas de responsabilité sans faute, no debía atribuirse responsabilidad sin culpa[3]. Pero también es conocido cómo se introdujo luego, de manera paralela, la responsabilidad con imputación objetiva, a partir de la teoría del riesgo[4]. Pero esto no es lo único que se analiza en la atribución o imputación de responsabilidad a un sujeto. La calificación de imputable también exige que no exista una excusa jurídica para la conducta del sujeto divergente de la debida, como los hechos justificativos[5] o la  causa extraña[6]. Esta última es particular, porque rompe la imputación, pero también desvirtúa el presupuesto del “nexo de causalidad”, cuando resulta ser la verdadera causa del daño relevante para el derecho, incluso aunque exista intervención material del agente; la causa extraña entra a ocupar el lugar del hecho generador del daño.

Con la idea que acaba de exponerse, anticipamos que a veces resulta difícil deslindar el elemento imputación respecto al nexo de causalidad[7]; cuando se distingue la causalidad en sentido fáctico respecto a la causalidad en sentido jurídico (Baena, 202, pp.11-12) se suele concebir esta última como una atribución normativa del efecto al responsable y entonces pareciera que el asunto de la causalidad en un sentido normativo es también del campo de la imputación.

La causa extraña, al igual que los hechos justificativos, puede impedir la calificación jurídica de culpa del hecho del agente, pues aunque haya una aparente desviación de la conducta respecto del modelo de conducta, según algún criterio particular (por ejemplo, no se siguió un reglamento) si se mira el modelo de comportamiento en conjunto se encuentra que “a lo imposible nadie está obligado”, o que la desviación está justificada –no es antijurídica– y, en consecuencia, no habría reproche para el agente del ordenamiento analizado en conjunto[8].

Con la idea de acción humana libre y consciente, como presupuesto de la responsabilidad desde el pensamiento griego[9], podemos presentar otra acepción en la ambigüedad del término imputación referida al análisis de las circunstancias que le impidan al agente determinarse libre y conscientemente, como las circunstancias de “inimputabilidad” bien desarrolladas en el derecho penal[10]. En nuestro derecho privado se ha considerado inconveniente la aceptación general de la valoración de la imputabilidad al modo penal y, por consiguiente, de circunstancias o debilidades concretas del sujeto para la atribución de responsabilidad en materia civil[11]. Se ha optado entonces por un modelo de valoración de la culpa generalmente abstracto, el cual solo tiene en cuenta lo dispuesto en el artículo 2346 del Código Civil, que, al actualizarse con la Ley 1996 de 2019, solo son incapaces para cometer culpa los menores de 12 años.

Se puede observar entonces cómo dentro del mismo elemento “imputación” se contienen diversos aspectos de análisis para establecer la responsabilidad civil de un sujeto.

Finalmente, se recuerda que la responsabilidad civil se suele separar en dos grandes regímenes, la responsabilidad civil contractual y responsabilidad civil extracontractual, en consideración a si el hecho generador del daño es o no el incumplimiento de una obligación contractual. División sin embargo no pacífica, de difícil demarcación en ciertos casos, además que van apareciendo supuestos que parecieran no encuadrarse en ninguno de los dos ámbitos[12].  La responsabilidad contractual tiene algunas particularidades en los presupuestos de la responsabilidad civil enunciados hasta ahora, los cuales no se desarrollan en este trabajo, por exceder su objeto.

[1] Sobre la evolución histórica (Viney, 2007)

[2] En De iure belli ac pacis, el derecho de la guerra y la paz, Paris, 1625.

[3] En los primitivos pueblos orientales (Babilonia, Israel, Egipto, China, Persia e india) e incluso en el derecho romano arcaico, la responsabilidad era objetiva y resultaba de la simple circunstancia de haberse producido el daño; lo cual acarreaba por sí sol , sin discriminación sobre los factores que podían haberlo generado, la imposición de la o las penas al autor del hecho, a veces al jefe del grupo, e inclusive colectivamente a toda la tribu o familia a la que el primero pudiera pertenecer (Trigo & López, 2004, p. 19)

[4] Bajo la denominación teoría del riesgo se pueden “englobar aquellas doctrinas que, en forma  total o parcial quieren prescindir de concepto de culpa como elemento integral de la responsabilidad civil… la teoría del riesgo trata de prescindir de la idea de culpa, pero se acude al correctivo del riesgo creado o del riesgo- provecho”. (Tamayo, T1, 2007, p. 822)

[5] Velásquez expresa que las causales de justificación penal, algunas de las cuales rompen igualmente la imputación de responsabilidad civil, implican que pese a que el agente despliegue una conducta típica “ello no significa que su actuar sea antijurídico, pues, a más de las prohibiciones y los mandatos, existen normas permisivas (causales de justificación del hecho) que posibilitan la realización conforme a derecho de la conducta”; así, se entiende que la conducta no contraría el ordenamiento jurídico “en conjunto”, (Velásquez, 1995, p. 407). En estas causales se pueden encontrar la legítima defensa, el cumplimiento de un deber legal, el ejercicio de un derecho, la orden de autoridad competente, y el estado de necesidad. No todas ellas excluyen la indemnización de los perjuicios causados.

[6] Viene de la expresión francesa cause étrangère y consiste en un hecho imprevisible, irresistible y externo al control del deudor. En ella quedan comprendidos la fuerza mayor o caso fortuito que ya se consideraban desde el derecho romano, el hecho exclusivo de la víctima y el hecho exclusivo de un tercero, siempre que cumplan con las tres cualidades. El artículo 64 del Código civil define la fuerza mayor y el caso fortuito. Múltiples sentencias de la Sala de Casación Civil de la Corte Suprema de Justicia se han ocupado de caracterizar sus requisitos; en su orden: sentencia del 23 de junio de 2000, exp. 5475; sentencia del 3 de marzo de 2004, exp. C7623; sentencia del 29 de abril de 2005, exp. 0829, y la sentencia del 26 de julio de 2005, exp. 6569.

[7] El nexo de causalidad se refiere a relación de causa- efecto que debe existir entre el hecho generador y el daño sufrido por la víctima. Sobre los diferentes problemas que representa la causalidad, tanto en su análisis fáctico como jurídico y las teorías y tests que se han propuesto para analizarlos, Cfr. (Baena, 2021) .

[8] Sobre cómo la causa extraña es incompatible con la culpa del agente que tenga relevancia causal, cfr. Corte Suprema de Justicia, sentencia del 27 de febrero de 1998, exp. 4901.

[9] La responsabilidad civil y del Estado fueron subsistemas jurídicos estructurados bajo una concepción humanista de la conducta y a partir de la premisa del libre albedrío, que es consustancial a la autonomía personal (Kant, 1996).

[10] Ley 599 de 2000, Art. 31: “Es inimputable quien en el momento de ejecutar el hecho legalmente descrito, no tuviere la capacidad de comprender su ilicitud o de determinarse de acuerdo con esa comprensión […]”.

[11] Cfr. Corte Suprema de Justicia, Sala de Casación Civil, sentencia del 2 de junio de 1958, exp. 2198.

[12] Cfr. Corte Suprema de Justicia, Sala de Casación Civil, sentencia de 10 de marzo de 2020, exp. SC780-2020, sobre las obligaciones de seguridad.

B) La responsabilidad patrimonial del Estado en el ordenamiento jurídico colombiano

La responsabilidad del Estado para los ordenamientos de nuestra tradición jurídica tiene una historia más reciente, de la cual derivan sus particularidades; además, sus desarrollos han sido principalmente casuísticos y jurisprudenciales. La consagración normativa de la responsabilidad patrimonial del Estado ha sido el producto de una evolución, durante la cual se han ido ampliando y reduciendo permanentemente los supuestos que dan lugar a reparar el daño. En tal sentido, puede decirse que el movimiento ha sido “pendular”. Esto es lo que ha sucedido en el ordenamiento jurídico colombiano y, en general, en aquellos que hacen parte del sistema continental o romano-germánico.

Particularmente, se discute si el Estado debe asumir las consecuencias pecuniarias de los daños, así su conducta no haya sido reprochable en términos normativos –es decir, aun cuando no haya actuado con “falla en el servicio”–. Asimismo, se examina si los particulares deben soportar las consecuencias de ciertos riesgos inherentes a la sociedad contemporánea, sin que su materialización pueda atribuirse al Estado (Mir Puigpelat, 2002). Pero también se cuestiona que por esta vía las autoridades se desprendan de su responsabilidad o del deber de conservar un comportamiento que no cause daño y que, de la misma manera, algunos sectores de la población que han sido víctimas de conductas dañosas y que padecen una situación económica desfavorable no obtengan una reparación justa por parte del Estado (Gil, 2020). En Colombia, que ha sido un país agobiado por la inequidad social y la violencia, se ha acentuado tal discusión, pues la institución de la responsabilidad patrimonial del Estado ha sido uno de los mecanismos que garantizan la justicia distributiva (Gil, 2020). La complejidad que entraña la responsabilidad patrimonial del Estado en Colombia, con su carácter casuístico, cambiante e ideológico, pero también por razones históricas, es que, a diferencia de la responsabilidad civil, aquella no se encuentra codificada, sino que ha sido, principalmente, desarrollada por la jurisprudencia contencioso-administrativa. Por tal razón, los elementos de la responsabilidad patrimonial del Estado no son categorías pétreas, sino, por el contrario, dinámicas.

A continuación, se presentará un esbozo de los elementos básicos constitutivos de la responsabilidad del Estado, considerando el análisis de la jurisprudencia vigente en la materia, aunque no existe consenso sobre los mismos. Algunos sostienen que se deben reunir tres aspectos: daño antijurídico, actuación administrativa y nexo causal (Saavedra, 2018), pero la Corte Constitucional (2006) y el Consejo de Estado (2021), han planteado que el sistema de responsabilidad derivado del artículo 90 de la Constitución actualmente solo exige que se reúnan dos elementos: daño antijurídico e imputación del mismo al Estado.

1. Daño antijurídico

El artículo 90 de la Constitución Política es el fundamento normativo más importante de la responsabilidad patrimonial del Estado en la actualidad. Esta disposición consagra el “daño antijurídico” como el elemento axial de dicho sistema.

Como se observa en el primer inciso de la norma constitucional, el deber de responder a cargo del Estado surge cuando este ha producido daños antijurídicos. Por tal razón, la jurisprudencia referida de la Corte Constitucional (2006), como del Consejo de Estado (2021), al igual que la doctrina, han indicado que el daño antijurídico es la categoría central sobre la cual se construye el sistema de responsabilidad patrimonial del Estado a partir de la entrada en vigencia de la Constitución Política de 1991.

Aunque no se trata de un concepto de aceptación pacífica, siguiendo el influjo de la doctrina española (García de Enterría & Fernández, 2008), en el ordenamiento jurídico colombiano el daño antijurídico se ha entendido como la merma patrimonial padecida por alguien, sin que esté obligado a soportarlo. En otras palabras, es una afectación de los derechos de una persona por la conducta activa u omisiva del Estado, que genera una ruptura de la igualdad ante las cargas públicas. Por tanto, la categoría del daño antijurídico que se ha adoptado en nuestro país lleva intrínseco un juicio de reproche a la afectación, que supone diferenciarla de la limitación legítima de derechos, como sucede en virtud del test de proporcionalidad, en virtud del cual se restringe el alcance de ciertos derechos fundamentales para garantizar la eficacia de otros en la mayor medida posible. Bajo esta óptica, el daño antijurídico es una limitación o vulneración arbitraria de derechos, dado que no encuentre factor que la justifique. De ahí que dicha categoría, de algún modo, termine confundiéndose con la imputación, porque es solo en virtud de esta que se puede saber si no es viable atribuir un daño, porque existe causa normativa que la justifique. Nótese que en el campo de la responsabilidad civil no se suele referir este requisito de la antijuridicidad, pues varios de estos aspectos de análisis se hacen desde la imputación; también en el ámbito civil se suele mencionar como requisito del daño la “licitud”, pero refiriéndose a que el interés afectado de la víctima no puede ser ilícito para ser indemnizable. Cuando la noción de daño antijurídico de la responsabilidad del Estado, en sus variaciones, se ha dirigido a esta consideración, se puede identificar con el planteamiento del campo civil.

Por contraste, en nuestro país tanto la Corte Constitucional como el Consejo de Estado consideran que en la noción de daño antijurídico quedan comprendidas tanto la responsabilidad subjetiva como la objetiva ya que “en el fondo el daño antijurídico es aquel que se subsume en cualquiera de los regímenes tradicionales de responsabilidad del Estado. El resultado es que el daño antijurídico pierde su especificidad y queda, en el mejor de los casos, identificado con el concepto de “interés jurídicamente  protegido”… quien reclama ser indemnizado debe demostrar que el daño gravitó sobre una “situación jurídicamente protegida” o bien que su pretensión se ampara en un “título legítimo”, y es por ello que tiene derecho al reconocimiento compensatorio. (Saavedra, 2008: 601)

2. Imputación del daño antijurídico al Estado

La metodología que suele seguir la Jurisdicción de lo Contencioso Administrativo consiste en verificar la existencia de la imputación una vez se ha acreditado el daño antijurídico (Consejo de Estado, 2021). En consecuencia, después de constatar que se ha producido una ruptura de la igualdad ante las cargas públicas que ha afectado el patrimonio jurídico de una persona, se revisa si el Estado fue la fuente de dicho daño y si está obligado o no a responder.

De este modo, la imputación es el juicio de atribución jurídica de un resultado dañoso al Estado. Se afirma que es un juicio de atribución jurídica, porque la responsabilidad patrimonial del Estado se estructura sobre la base de que es el deber normativo subyacente el que genera la obligación de responder, más allá de la causalidad material entre la conducta de la autoridad y la víctima[1].

Como se ha indicado, la jurisprudencia contencioso-administrativa ha preferido emplear el concepto de imputación, en un sentido normativo (deontológico), más que el de causalidad, en un sentido físico, porque considera que fue el usado por el constituyente en el artículo 90 de la carta política, al decir que «El Estado responderá patrimonialmente por los daños antijurídicos que le sean imputables […]». Por otro lado, sostiene que se trata de un concepto más omnicomprensivo de los factores que permiten atribuir un daño antijurídico al Estado, ya que se basa no solo en razones materiales, sino también eminentemente normativas (Consejo de Estado, 2014).

De lo anterior no se sigue que en la responsabilidad patrimonial del Estado no rija el principio de causalidad o que no sea importante para determinar el surgimiento del deber de reparar a cargo de aquel (Consejo de Estado, 2017). Pero también pueden presentarse supuestos en los que no sea posible explicar el daño por la conducta material del Estado, como sucede en los casos de responsabilidad por omisión del deber de garante, cuando la población padece el ataque armado de un grupo al margen de la ley, sin intervención de las autoridades. En circunstancias como estas la jurisprudencia contencioso-administrativa ha dicho que la ausencia de causalidad física positiva no obsta para la atribución jurídica del daño al Estado,

La imputación en la responsabilidad patrimonial del Estado se estructura a partir de dos sistemas (Consejo de Estado, 2021): i) el de responsabilidad objetiva (compuesto por los títulos de imputación del «daño especial» y del «riesgo excepcional») y ii) el de responsabilidad subjetiva, cuyo título es la «falla en el servicio». En el régimen objetivo de responsabilidad no es necesario acreditar la culpa o la violación de un deber normativo para radicar en el Estado la obligación de reparar el daño. De este modo, basta con que se pruebe el daño antijurídico y su relación con una conducta del Estado, que podría ser incluso acorde con el ordenamiento, para que surja la consecuencia de la reparación. En cambio, en el régimen de responsabilidad subjetiva quien demanda la reparación debe probar que el daño se debió a una conducta contraria a derecho por parte del Estado.

El daño especial se materializa en aquellos supuestos en los cuales el Estado actúa de manera lícita, pero aún así produce una lesión que el particular no está obligado a soportar. De otro lado, se denomina riesgo excepcional el título de imputación que se emplea para atribuir responsabilidad patrimonial al Estado por la realización de actividades consideradas peligrosas.

El título de imputación del daño especial, que hace parte del régimen de responsabilidad objetiva en la responsabilidad patrimonial del Estado, constituye una institución jurídica que puede resultar relevante para pensar en la atribución del daño ocasionado por robots dotados de inteligencia artificial, bien sea que estos sean empleados por entidades públicas o por particulares, pues podría contribuir a resolver los problemas prácticos sobre la determinación del responsable, ante la cadena, generalmente difusa, de actores que participan en el diseño, fabricación, programación, distribución y utilización del agente electrónico. La categoría del daño especial implica admitir que independientemente de la licitud de la conducta si se produce una afectación a los derechos de una persona, que no se encuentra obligada jurídicamente a soportar, que se pone en un desequilibrio injustificado, debe ser reparada integralmente por todos aquellos que se han beneficiado de la actividad dañina.

La falla en el servicio, como título subjetivo de imputación, en tanto juicio de reproche, supone una valoración negativa de la actuación del Estado, cuando este no presta los servicios públicos a su cargo, los presta mal o lo hace de manera extemporánea

El nexo de imputación se puede romper por las causas extrañas admitidas en el derecho civil: el hecho exclusivo y determinante de un tercero o de la víctima, la fuerza mayor o el caso fortuito (Consejo de Estado, 2021).

Finalmente, conviene señalar que la Jurisdicción de lo Contencioso administrativo suele calcular el monto de la indemnización de los perjuicios patrimoniales –daño emergente y lucro cesante– con una metodología similar a la empleada por la Jurisdicción Ordinaria. Sin embargo, en lo concerniente a los perjuicios extrapatrimoniales, el 28 de agosto de 2014[2], mediante un acta, el Consejo de Estado unificó los criterios de tasación de los ítems que, según el máximo tribunal, integran dicha categoría de perjuicios, a saber: i) el daño moral, ii) el daño a la salud y iii) la afectación a otros bienes constitucional o convencionalmente relevantes. El Consejo de Estado, de esta manera, pretende reducir al máximo el arbitrio iuris en el cálculo de los perjuicios extrapatrimoniales, definiendo unos montos máximos o baremos, que serán un referente importante al momento de considerar las estrategias regulatorias sobre la reparación los perjuicios extrapatrimoniales generados por robots con inteligencia artificial.

[1]  Ya se advertía sobre la responsabilidad civil las dificultades para deslindar los elementos de causalidad e imputación, Cfr. En este punto la distinción realizada por Kelsen (2010) entre causalidad e imputación, según la cual la causalidad es la explicación que se realiza de fenómenos de la naturaleza en virtud de relaciones de causa y efecto, mientras que la imputación es el examen de cómo debe desarrollarse la conducta humana y qué consecuencias deben endilgársele, a partir de una valoración moral, religiosa o jurídica; de allí su carácter deóntico. Pero se oscurece la distinción cuando se habla de “causalidad jurídica”, como valoración normativa.

 

[2] https://adwa.co/wp-content/uploads/2015/04/Reparacion-De-Perjucios-Inmateriales-Consejo-De-Estado-.pdf

 

C) La inteligencia artificial

Para este análisis de índole jurídico no se pretende abarcar todo el alcance del término “inteligencia artificial”, no solo por el componente técnico que involucra sino por el uso vago y ambiguo del término;  la mayoría de desarrollos tecnológicos de punta, que sorprenden a los humanos por su automatización, capacidad de procesamiento de datos, complejidad y precisión de respuestas, se suelen asociar al término, pero lo cierto es que no toda la tecnología de punta que nos sorprende funciona con inteligencia artificial.  Los mismos expertos en la materia tienen diferentes posturas en relación al contenido del concepto; como se verá, los planteamientos en torno a la definición de la inteligencia artificial han sido diversos e interdisciplinarios.

Sin embargo, para el objetivo del trabajo resulta necesario convenir un significado para el concepto con suficiente carácter descriptivo. En tal sentido, puede afirmarse que la inteligencia artificial es un atributo en virtud del cual una máquina obtiene cierta autonomía de decisión y de comportamiento, con caracteres similares a los del comportamiento humano, a partir de algoritmos programados seres humanos.

Coincidiendo con esta definición, Rouhiainen (2018) sostiene que “[…] la IA es la capacidad de las máquinas para usar algoritmos, aprender de los datos y utilizar lo aprendido en la toma de decisiones tal y como lo haría un ser humano” (p. 17). Igualmente, se ha distinguido la IA débil, entendida como la “ciencia e ingeniería que permiten diseñar y programar ordenadores de forma que realicen tareas que requieren inteligencia” (López, 2015: p. 97), de la IA fuerte, concebida como “la ciencia e ingeniería que permitirá replicar la inteligencia humana mediante máquinas” (López, 2015: p. 97). En una perspectiva similar, el Parlamento Europeo (2020) indica:

La inteligencia artificial es la habilidad de una máquina de presentar las mismas capacidades que los seres humanos, como el razonamiento, el aprendizaje, la creatividad y la capacidad de planear.

La IA permite que los sistemas tecnológicos perciban su entorno, se relacionen con él, resuelvan problemas y actúen con un fin específico. La máquina recibe datos (ya preparados o recopilados a través de sus propios sensores, por ejemplo, una cámara), los procesa y responde a ellos.

Los sistemas de IA son capaces de adaptar su comportamiento en cierta medida, analizar los efectos de acciones previas y de trabajar de manera autónoma.

 

A partir de lo anterior, pueden destacarse tres elementos en la inteligencia artificial: i) la programación algorítmica, ii) la utilización de un dispositivo o máquina como agente programado, iii) la autonomía alcanzada por este agente, simulando la inteligencia humana, para aprender, discernir, adoptar decisiones y modificar instrucciones; y iv) la capacidad del sistema para interpretar datos externos, aprender de ellos y emplearlos en tareas concretas.

 

Entonces, el solo desarrollo de labores análogas o automatizadas por un aparato físico no alcanza a considerarse como inteligencia artificial, porque si bien puede obedecer a un diseño electrónico o a una programación, no conlleva la actuación autónoma por parte del dispositivo. En cambio, en las últimas décadas se han desarrollado sistemas de inteligencia artificial, que permiten el desarrollo de labores autónomas por parte de los agentes e incluso predecir las preferencias o elecciones de los seres humanos. Dentro de estos dispositivos pueden mencionarse las recomendaciones personalizadas efectuadas por los buscadores web, que aprenden a partir de los criterios de búsqueda empleados en el pasado; los asistentes virtuales de los smartphones (teléfonos inteligentes); los vehículos inteligentes; los drones; la ciberseguridad; y, en general, el uso de robots, que desempeñan actividades cada vez más autosuficientes.

Precisamente dicha autonomía, presente en los agentes dotados de inteligencia artificial, es lo que torna complejo el análisis de la imputación de la responsabilidad civil y del Estado en aquellos eventos en los que el dispositivo genera un daño, pues la “emancipación” del agente físico frente al desarrollador o programador hace que no resulte sencillo atribuir jurídicamente el deber de reparar. La inteligencia artificial comporta, pues, desafíos éticos y jurídicos para la sociedad contemporánea. Incluso, desde una perspectiva epistemológica, esta realidad ha implicado un punto de quiebre para el paradigma humanista, que concebía el conocimiento como un atributo exclusivo del ser humano o que, en cualquier caso, confiaba en la capacidad de los individuos para controlar los resultados del aprendizaje (Villalba, 2016).

De los elementos de la definición de inteligencia artificial, el más importante para este análisis es la autonomía, en la medida en que la responsabilidad civil y del Estado, como se ha mencionado fueron subsistemas jurídicos estructurados bajo una concepción humanista de la conducta y a partir de la premisa del libre albedrío, que es consustancial a la autonomía personal (Kant, 1996). La capacidad de decidir es lo que permite imputar a alguien una sanción o consecuencia indemnizatoria

Para finalizar, complementamos esta conceptualización con lo planteado en el ámbito europeo, en el Dictamen del Comité Económico y Social Europeo (CESE) sobre “la Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad”, de mayo 31 de 2017:

1.1 No existe una definición establecida y unánimemente aceptada de la IA. La IA es un concepto que engloba muchas otras (sub)áreas como la informática cognitiva (cognitive computing: algoritmos capaces de razonamiento y comprensión de nivel superior —humano—), el aprendizaje automático (machine learning: algoritmos capaces de enseñarse a sí mismos tareas), la inteligencia aumentada (augmented intelligence: colaboración entre humanos y máquinas) o la robótica con IA (IA integrada en robots). Sin embargo, el objetivo fundamental de la investigación y el desarrollo en materia de IA es la automatización de comportamientos inteligentes como razonar, recabar información, planificar, aprender, comunicar, manipular, observar e incluso crear, soñar y percibir.

1.2 En términos generales, se puede distinguir entre IA débil (narrow AI) e IA fuerte (general AI). La IA débil es capaz de realizar tareas específicas. La IA fuerte es capaz de realizar las mismas tareas intelectuales que un ser humano.

1.3 En el ámbito de la IA débil se ha progresado considerablemente en los últimos tiempos, gracias sobre todo al crecimiento de la capacidad de procesamiento (computer processing power), la disponibilidad de grandes cantidades de datos y el desarrollo del aprendizaje automático (machine learning o ML). El aprendizaje automático incluye algoritmos capaces de enseñarse a sí mismos tareas específicas sin estar programados para ello. El método se basa en el procesamiento de «datos de entrenamiento» que sirven de base al algoritmo para aprender a reconocer patrones y formular normas. El aprendizaje profundo (deep learning o DL), una forma de ML, utiliza estructuras de redes neuronales (neural networks) basadas a grandes rasgos en el cerebro humano que aprenden mediante el ensayo y la respuesta. El resultado de estos avances es que los sistemas de IA (por medio de algoritmos) ya pueden aprender por sí mismos, y ser autónomos y adaptativos.

 

D) Los robots

Sobre el concepto de robots tenemos la dificultad de ambigüedad terminológica y técnica, similar a la expuesta en el capítulo anterior para el concepto de la inteligencia artificial.

En el ámbito internacional encontramos una serie de disposiciones sobre robótica por parte de la Unión Europea, que constituyen un camino adelantado valioso para aproximarse al concepto de robot y a sus problemáticas, principalmente, en la Resolución del parlamento de 16 de febrero de 2017, con recomendaciones destinadas a la comisión sobre normas de derecho civil sobre robótica (2015/2103(INL)), junto con su anexo, la cual se encamina como una propuesta de directiva (numeral 65, del apartado aspectos finales del anexo).

Como antecedente de la mencionada resolución, cabe mencionar  un programa de impulso a la robótica de la UE, conocido como SPARK, “presentado por la comisión Europea junto a 180 empresas e instituciones para los años 2014 a 2020” (Badillo, 2019, p. 30), el cual buscaba aumentar en un 42% la participación de Europa en el mercado de los robots. También previo a la resolución se publicó el 31 de mayo de 2016 un proyecto de informe con recomendaciones elaborado por la Comisión de asuntos jurídicos. Y con posterioridad a la resolución, dejamos también referida la comunicación de la Comisión al Parlamento europeo, al Consejo, al Comité económico y social europeo y al Comité de las regiones, de 25 de abril de 2018.

Sobre el contenido de la resolución del parlamento de 2017, destacamos la enunciación de lo que serían las características de un robot inteligente (aparte de  los principios generales relativos al desarrollo de la robótica y la inteligencia artificial para uso civil):

–  capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos con su entorno (interconectividad) y el intercambio y análisis de dichos datos;

–  capacidad de autoaprendizaje a partir de la experiencia y la interacción (criterio facultativo);

–  un soporte físico mínimo;

–  capacidad de adaptar su comportamiento y acciones al entorno;

– inexistencia de vida en sentido biológico;

En la noción de robot se suele encontrar como constante la materialidad, el soporte físico, inicialmente una máquina automática con funcionamiento electromecánico, características que ya cumplía el robot ELEKTRO, creado en 1937 por Joseph Barnett  para la compañía de electrodomésticos Westinghouse Electric Corporation. Pero si se le agrega, como característica, la autonomía de funcionamiento y rasgos de “inteligencia” similares a los del comportamiento humano, desde 1960 se construyó el robot Shakey, en el Artificial Intelligence Center del Stanford Research Institute. Desde entonces se siguió el desarrollo de infinidad de robots, con diversas formas, al comienzo con usos preponderantemente industriales[1], pero ahora extendido a usos hasta en ambientes cotidianos, a la par que fueron evolucionando los sistemas informáticos que los soportan y la inteligencia artificial. No es pues ni en la forma ni en el uso que se pueden encontrar caracteres inherentes al concepto de robot.

La promesa de la investigación científica en el campo de la robótica es la de introducir a los robots en ambientes corrientes, para desarrollar la función de ayuda doméstica o de asistencia a la persona; transformar el sistema de transporte haciéndolo siempre menos dependiente del control del hombre; ampliar el uso de aviones autónomos o teleoperantes, en el ámbito civil -en la agricultura, en la logística, en el control del territorio, en las redes de carreteras urbanas y ferroviarias, y de las infraestructuras hídricas y energéticas, en la distribución comercial; finalmente, valerse de la tecnología robótica en las actividades de formación y educación.

El sector sanitario y del cuidado de la salud constituye otro escenario de propagación de la innovación robótica (…) (Palmerini, 2017, p. 55)

Adicionamos a estos ejemplos los robots para la guerra: drones bélicos, para la vigilancia;  y también, relacionados con la salud: los desarrollos de implantes de componentes en el cuerpo, sea para superar una discapacidad o simplemente para potenciar capacidades, como la idea del cíborg.

Finalizamos este apartado sobre la caracterización de los robots con esta cita de la Doctora Erica Palmerini, referida a los robots inteligentes:

No obstante esta ambigüedad, existe un acuerdo sustancial en identificar las características distintivas de los robots, desde un punto de vista técnico, en la capacidad de recoger datos mediante sensores (sense), de procesar los datos en bruto (think), de planificar y cumplir acciones mediante conocimientos e informaciones adquiridas, generalmente, en función de objetivos prefijados (act). Por su parte, características solo eventuales son la capacidad de comunicación con un operador, con otros robots o con una red externa, y la de aprendizaje. Realmente es posible observar una línea de continuidad entre la máquina automática y el robot propiamente dicho, que se diferencia de la primera, sustancialmente, por una complejidad mucho mayor, más que por una delimitación neta de orden cualitativo.

(…) El robot, en cuanto entidad dotada de un aspecto físico, aunque también de un sistema de software que procesa información, presenta la potencialidad y los riesgos de ambos mundos, el físico y el digital. (2017, p. 65)

[1] Los robots industriales generalmente están aislados de los humanos, “también es conocido el empleo de robots en ambientes extremos e inaccesibles al hombre, como en los planetas del sistema solar o en las profundidades marinas” (Palmerini, 2017, p.54).

E) Particularidades en la aplicación de los elementos responsabilidad civil para los daños causados por robots con inteligencia artificial

A continuación pretendemos resaltar aquellas particularidades en los riesgos del uso de robots para dilucidar los puntos donde las reglas tradicionales existente sobre la responsabilidad civil y del Estado se quedarían cortas para resolver los conflictos que se podrían suscitar. No consideramos que todo fenómeno nuevo derivado del desarrollo científico y tecnológico requiera normas nuevas, pues gran parte de los supuestos encajarían en normas existentes en el ordenamiento y serían suficientes las consecuencias jurídicas ya dispuestas.

Lo primero, entonces, es poner un marco de situaciones fácticas de referencia. Ya vimos la cantidad de ámbitos diferentes en los cuales se utilizan robots y cada uno de ellos ameritaría consideraciones particulares. Así, por ejemplo, los robots en el ejercicio de la medicina implican la consideración de reglas especiales que rigen la actividad, normas técnicas, códigos éticos y los intereses públicos en la salud y en el avance de la medicina. En materia de robots bélicos, toda la serie de disposiciones nacionales e internacionales sobre la guerra, las relaciones entre los estados y los derechos humanos. Los vehículos autónomos, todas las particularidades y reglas sobre tránsito y circulación. En los robots asistenciales tener en cuenta la fragilidad o “discapacidades” que podrían tener los usuarios. El objetivo de este primer trabajo entonces excedería el análisis de esas particularidades y, por ello, vamos a tomar un ejemplo que consideramos simple y que podría ser de uso frecuente, para analizar las instituciones básicas de la responsabilidad civil, como una base o tronco común al que se le podrían colgar luego todas las arandelas de las actividades o usos particulares: un robot de uso doméstico, adquirido por un consumidor para asistir en tareas del hogar, pero suponemos que algunas de las tareas incluyen la circulación del robot por la calle (ej. para sacar la basura o pasear al perro). En paralelo, para analizar la responsabilidad del Estado, un robot de asistencia a labores de mantenimiento en una oficina pública. Y en esos escenarios seleccionados, para efectos metodológicos, nos enfocamos hacia daños materiales y personales, sobre las cosas y las personas, por colisiones e impactos, con personas u otras cosas, caídas del robot o de las cosas que lleva, lesiones en la interacción con adultos, niños, mascotas. No se analizarán en este momento, entonces, afectaciones a la intimidad, recopilación indebida de datos personales, “errores y omisiones” (por usar el término común en el sector asegurador), como malas decisiones que puedan llevar a daños económicos puros, incumplimiento de contratos, de  servicios públicos,  imposiciones de multas, tampoco la pérdida o daño del mismo robot, ni afectaciones emocionales por vínculos afectivos que podrían establecerse con la máquina con caracteres humanoides, publicidad engañosa, etc. (Palmerini, 2017, p.71). Pero los dejamos aquí enunciados porque hacen parte del radar de riesgos a considerar con la operación de robots.

 

  1. La culpa y la falla del servicio. La primera herramienta que encontramos en el ordenamiento, entonces, para abordar los daños señalados es la culpa. La culpa que si bien como concepto jurídico ya se tenía desde el derecho romano, hoy se refiere a un juicio de sobre a la actuación del agente, a partir de un modelo de referencia de conducta (abstracto) que construye el fallador, considerando los deberes jurídicos, la diligencia, cuidado y pericia, las reglas técnicas de la actividad, la lex artis, etc. Concebida para evaluar conductas humanas, a partir del reconocimiento de la voluntad y del libre albedrío ya mencionado, correlativos a la idea de responsabilidad.

Entonces, aplicada esta noción a las situaciones que nos ocupan, siempre que se encuentre una falla humana con incidencia causal en el daño de un robot se podrá atribuir responsabilidad con culpa; para esto se deberá identificar el sujeto con conducta reprochable (fabricante -diseñador, desarrollador-, el operador o  usuario, el propietario, el encargado del mantenimiento, etc.)

En segundo lugar, la culpa permite la existencia de presunciones de culpa, verdaderas presunciones desvirtuables. Y allí la regulación podría, por ejemplo, establecer que ante ciertas anomalías de funcionamiento existan presunciones de culpa en los fabricantes. También normas detalladas claras sobre las condiciones en que puede darse el uso y la circulación podrían permitir valoraciones de culpa de manera más fácil en los usuarios u operadores.

Sobre la culpa, en principio, diríamos que no es el título de imputación más idóneo para evaluar las actuaciones del robot. Consideramos que este tipo de reproche es propio de las conductas humanas, por lo explicado sobre sus fundamentos en la voluntad y la libertad. Incluso si se crean códigos éticos de lo que sería “un buen robot”, entendemos que finalmente sería mandatos para los diseñadore y desarrolladores. Ahora, dentro de la culpa hay matices de valoración y hoy la tendencia es hacia una valoración objetiva, respecto a un modelo de conducta; desde un punto de vista más objetivo y con códigos de conducta claros como referentes sí consideramos que podrían encontrarse actuaciones del robot que se valoren objetivamente como “reprochables”, y que incluso la máquina en sus procesos de aprendizaje autónomo puede ser la que termine desconociendo estos lineamientos. Sin embargo, en estos casos llegaríamos solo al reproche objetivo sin una solución de a quién se le deben atribuir las consecuencias de este hecho. Así, la culpa para una serie de situaciones relativas a daños causados por robots resulta un criterio insuficiente o incompleto para efectos de atribución de responsabilidad.

En la misma línea de la culpa valorada de manera objetiva o en abstracto podríamos analizar la falla del servicio de la responsabilidad del Estado, como un título de imputación apto para aquellos supuestos en que se pueda encontrar una actuación negligente de la administración pública con incidencia causal en el daño a la víctima.

 

  1. El robot como una cosa o desempeñando actividades peligrosas/ riesgo excepcional

A partir de la primera revolución industrial y la consecuente introducción de nuevas máquinas en la sociedad  con potentes fuerzas y aceleraciones, se dispararon los accidentes y daños a las personas y a las cosas[1].  Se planteó entonces una nueva forma de ‘imputación’ de responsabilidad civil sin necesidad  de examinar la conducta del causante del daño, sin requerirse un juicio de reproche o de culpa, bastando la relación causal entre la actividad (o cosa)  y el daño, sin que el agente pudiera argüir simple diligencia y cuidado como forma de exoneración: la teoría del riesgo. Bajo la denominación teoría del riesgo se pueden “englobar aquellas doctrinas que, en forma  total o parcial quieren prescindir de concepto de culpa como elemento integral de la responsabilidad civil… la teoría del riesgo trata de prescindir de la idea de culpa, pero se acude al correctivo del riesgo creado o del riesgo- provecho” (Tamayo, T1, 2007. P. 822). La teoría del riesgo se fundamenta en que: aquel que hace uso de bienes riesgosos o ejerce actividades peligrosas, debe responder por los daños ocasionados como consecuencia de ello (Molinari, 2004, p. 25)

En Francia fueron Saleilles y Josserand quienes dieron fuerza a la responsabilidad objetiva por actividades riesgosas y el hecho de las cosas, pero sus planteamientos rápidamente desataron toda una corriente de contradictores: doctrinantes adheridos a la idea de la culpa, como pilar necesario de la responsabilidad civil, que consideraban a la responsabilidad objetiva como un retroceso en el campo jurídico[2]. Lo que se acaba de exponer sobre el derecho francés,  se asemeja a lo que ocurrió en otros ordenamientos latinoamericanos y europeos, con determinante influencia del código napoleónico; es decir, la misma visión del Código de Napoleón, sobre el principio general de la culpa como presupuesto de la responsabilidad civil, que inspiró la promulgación de códigos como el colombiano de 1887 o el español de  1889. Luego, los cambios sociales y la influencia de los autores franceses también trajeron planteamiento de responsabilidades objetivas en países  para ciertos supuestos; pero aquí con mayores dificultades para sustentarla, salvo algunos regímenes legales especiales que se han consagrado, porque carecemos de una norma equivalente al artículo 1384 del Código Civil Francés, según el cual “uno es responsable de las cosas que tiene bajo su guarda”, el cual posibilitó en Francia el planteamiento general de responsabilidad objetiva por el hecho de las cosas.  Se destaca para el ámbito civil colombiano la sentencia reciente SC4420-2020, de 17 de noviembre de 2020, la cual, ante un accidente de tránsito, plantea responsabilidad objetiva y “presunción de responsabilidad” por actividad peligrosa, mientras que en materia de responsabilidad del Estado desde la constitución del 91 el Consejo de Estado reconoce la responsabilidad objetiva de la administración pública cuando crea riesgos excepcionales o se beneficia de ellos y los mismos causan daños a los ciudadanos[3].

Más allá de la de la renuencia en la jurisdicción civil colombiana para aplicar responsabilidad del tipo objetivo cuando una actividad humana o con cosas puede calificarse de “riesgosa”, encontramos aquí un título de imputación aplicable a ciertas actividades que realicen los robots, en las cuales se identifiquen fuerzas, velocidades, aceleraciones u otros caracteres que reporten riesgos (excepcionales desde la óptica pública), como una herramienta que ya existe en los ordenamientos de nuestra tradición jurídica para atribuir daños a quien detente la “guarda” de la actividad riesgosa. Sin embargo, en el caso que nos ocupa, la multiplicidad de sujetos que pueden intervenir en el funcionamiento u operación del robot (dueño, usuario, productor que “vigila” el entrenamiento, etc.), así como las complejidades técnicas para dilucidar el origen o causa del comportamiento “riesgoso”, puede dificultar la identificación y determinación del guardián responsable en los casos concreto.

 

  1. El robot como un producto

En Colombia, a partir de la sentencia C-1141 de 2000 de la Corte constitucional y la sentencia del 30 de abril de 2009, de la Corte Suprema de Justicia, se reconoció un régimen de responsabilidad especial por productos defectuosos, cuando un producto puesto en el mercado no brinda la seguridad que el ciudadano podría legítimamente esperar y esto le causa un daño en su integridad física o en sus bienes. Posteriormente, la ley 1480 de 2011 que estableció el nuevo Estatuto del consumidor, a partir del artículo 20, consagró todo el régimen de responsabilidad civil por productos defectuosos, del cual se destaca la responsabilidad solidaria entre el productor y el expendedor (art. 20), la prescindencia de la culpa como factor de atribución: “para determinar la responsabilidad, el afectado deberá demostrar el defecto del bien, la existencia del daño y el nexo causal entre este y aquel” (art. 21). Además, consagra particulares formas de exoneración que, en general, apuntan a situaciones imprevisibles e irresistibles para el productor (art. 22), entre las cuales se destaca el denominado riesgo del desarrollo, cuando “en el momento en que el producto fue puesto en circulación, el estado de los conocimientos científicos y técnicos no permitía descubrir la existencia del defecto” (art. 22, numeral 6).

Sobre esta causal de exoneración para los productores en Colombia resulta pertinente anotar que el legislador optó por cargar completamente el riesgo en el consumidor final, mientras que en otros países ha habido posiciones más cautas, por lo gravoso que puede ser para el ciudadano común:

(…) la directiva comunitaria europea permitió, con buen tino, a los Estados miembros excluir la aplicación de esta causal o restringirla, en España por ejemplo, según el artículo 140.3 del Texto refundido de la Ley General para la Defensa de Consumidores y Usuarios (conocido en España como el TRLGDCU), no se puede aducir esta causal de exoneración en el caso de medicamentos, alimentos o productos destinados al consumo humano; mientras que en Francia no se aplica esta causal si el daño ha sido motivado por “un elemento del cuerpo humano o por los productos derivados de este”, y en Inglaterra igualmente no es posible alegar si el daño ha sido causado por un elemento del cuerpo humano o por productos derivados de este. En síntesis, podemos afirmar que la ley 1480 de 2011 asumió la posición más generosa para el productor al consagrar el riesgo de desarrollo como causal de exoneración de la responsabilidad, sin condicionar su aplicabilidad ni imponer exclusiones de algún tipo. Para evitar caer en simplismos, se aclara que el tema específico de los riesgos de desarrollo ha generado un extenso debate que merece revisarse y analizarse más minuciosamente. (Villalba Cuéllar, 2014, pp. 17–40)

Este constituye, entonces, otro régimen de responsabilidad que puede aplicarse ante los daños que causen robots “inseguros” o defectuosos, teniendo en cuenta que el robot puede encajar en la definición de producto como un “bien” (art. 5, numeral 8, ley 1480 de 2011), y llevaría la carga de responder al productor o expendedor, con las dificultades del caso en cuanto a los diversos sujetos que pueden intervenir en la producción de un robot  (ej. diseñadores, desarrolladores del software, ensambladores, etc.), la multiplicidad de locaciones geográficas en las que pueden encontrarse los mismos y las diferentes normativas aplicables. El artículo 20 del Estatuto colombiano traería la siguiente herramienta, que si bien no es definitiva, podría resolver algunas situaciones: “cuando no se indique expresamente quién es el productor, se presumirá como tal quien coloque su nombre, marca o cualquier otro signo o distintivo en el producto”.

 

  1. Responsabilidad por el hecho ajeno y responsabilidad por el hecho de animales.

En Colombia se encuentran en el código civil reglas puntuales para responsabilizar a los dueños o a quienes se “sirvan” de animales domésticos (art. 2353 Cc) o animales fieros  (art.2354 Cc). Ante las dificultades de índole deontológica que pueden surgir respecto a algunos planteamientos actuales que sugieren otorgar personalidad a los robots, podría servir como alternativa una categoría intermedia, más similar a animales sin consciencia ni voluntad, sin que con esta idea estemos desconociendo el estatus actual de los animales en nuestro ordenamiento jurídico como seres sintientes, sujetos a la protección de la ley 1774 de 2016. Resulta interesante la regulación prevista en el artículo 2353 del Cc, en consideración a la capacidad de tomar decisiones, aprender, de tener reacciones imprevistas e incluso de separarse en algunos de eventos del control de su dueño, que podrían presentar de manera semejante los robots con inteligencia artificial:

El dueño de un animal es responsable de los daños causados por el mismo animal, aún después que se haya soltado o extraviado, salvo que la soltura, extravío o daño no puede imputarse a culpa del dueño o del dependiente, encargado de la guarda o servicio del animal.

Lo que se dice del dueño se aplica a toda persona que se sirva de un animal ajeno; salva su acción contra el dueño si el daño ha sobrevenido por una calidad o vicio del animal, que el dueño, con mediano cuidado o prudencia, debió conocer o prever, y de que no le dio conocimiento.

Los artículos 2347 a 2349 del Código civil regulan la responsabilidad por el hecho de otros sujetos que alguien puede tener a su cuidado, conocida como la responsabilidad por el hecho ajeno. En estos casos se presume la culpa en la persona civilmente responsable, pero se le permite exonerarse demostrando que “con la autoridad y el cuidado que su respectiva calidad les confiere y prescribe, no hubieren podido impedir el hecho”. Ante la actuación reprochable del sujeto a cargo se presume el mal cuidado y vigilancia pero se admite prueba en contrario; institución útil, con una presunción de culpa, que podría aplicarse analógicamente, para atribuir responsabilidad a quienes tengan bajo su cuidado y vigilancia robots con inteligencia artificial.

[1] Cfr. Viney, 2007, p. 43.

[2] Por ejemplo Planiol en “Etudes Sur la Responsabilité Civile”, 1906, ctd por (Viney, 2007, p. 112)

[3] En este sentido ver Sentencia Consejo de Estado, Sala de lo Contencioso Administrativo, Sección Tercera. Expediente 10.024 de 16 de junio de 1997.

F) Conclusiones parciales sobre los títulos de imputación existentes en el ordenamiento jurídico colombiano

Si bien en el ordenamiento colombiano se encuentran una serie de regímenes jurídicos con viabilidad de aplicación ante los daños causados por robots, se identificó como constante problemática la dificultad técnica que pueden presentar los casos prácticos para identificar la  causalidad de un actuar humano en la respuesta que da el robot. Así mismo, la dificultad para identificar en ciertos casos a la persona humana sobre la cual recaerían las categorías que desatan la consecuencia de imputación jurídica, ej. quién sería el guardián, quién sería el productor, etc., teniendo en cuenta los múltiples sujetos intervinientes. En relación con lo anterior, las diferentes ubicaciones geográficas en que pueden encontrarse  los sujetos intervinientes y las problemáticas de la ley aplicable en el “daño transfronterizo” para el campo extracontractual  internacional complejizan esta circunstancia.

El grado de autonomía y de aprendizaje autónomo del robot, la imprevisibilidad de sus respuestas y causales de exoneración como el denominado “riesgo del desarrollo”, también son factores que tenderían a separar sus respuestas fácticas de la causalidad y la imputación a seres humanos concretos y que entrarían a dificultar la aplicación de algunos de los títulos de imputación presentados. Finalmente, encontramos casos en los cuales los  robots tendrían que tomar decisiones éticas, resolver dilemas morales y con ello se podrían causar daños, pero sin que esto represente un defecto, desperfecto o inseguridad del robot; por ejemplo, ante la eminencia de un accidente en circulación decidir si choca contra el vehículo que viene de frente con probabilidad de lesionar a los terceros o si se tira al precipicio con probabilidad de lesionar a su pasajero. Si bien en estas decisiones influirá el entrenamiento y los algoritmos que se le hayan ingresado, no se encuentra necesariamente un reproche a la actividad del programador; además habrá situaciones de entrenamiento con vigilancia y sin vigilancia del fabricante.

Para estas lagunas que deja la responsabilidad civil tradicional se exponen a continuación algunas alternativas de nueva regulación que se están proponiendo en ámbitos como la Unión europea, a partir de la en Resolución del parlamento europeo de 16 de febrero de 2017, con recomendaciones destinadas a la comisión sobre normas de derecho civil sobre robótica (2015/2103(INL)), junto con su anexo, la cual se encamina como una propuesta de directiva (numeral 65, del apartado aspectos finales del anexo).

G) Esquemas alternativos de regulación para la atribución de daños causados con robots con inteligencia artificial

El Parlamento europeo, en la citada Resolución de 16 de febrero de 2017, con recomendaciones destinadas a la comisión sobre normas de derecho civil sobre robótica (2015/2103(INL), después de las consideraciones iniciales sobre el nuevo panorama y las características actuales de los robots con inteligencia artificial[1], concluye que el marco jurídico vigente, del cual dispone actualmente la Unión:

no bastaría para cubrir los daños causados por la nueva generación de robots, en la medida en que se les puede dotar de capacidades de adaptación y aprendizaje que entrañan cierto grado de imprevisibilidad en su comportamiento, ya que un robot podría aprender de forma autónoma de sus experiencias concretas e interactuar con su entorno de un modo imprevisible y propio únicamente a ese robot.

Es por ello que luego, en el numeral 59, le pide a la Comisión analizar y explorar las siguientes opciones de regulación:

  1. a) establecer un régimen de seguro obligatorio en los casos en que sea pertinente y necesario para categorías específicas de robots, similar al existente para los automóviles, en el que los fabricantes o los propietarios de robots estarían obligados a suscribir un contrato de seguro por los posibles daños y perjuicios causados por sus robots.
  2. b) establecer un fondo de compensación que no solo garantice la reparación de los daños o perjuicios causados por un robot ante la ausencia de un seguro;
  3. c) permitir que el fabricante, el programador, el propietario o el usuario puedan beneficiarse de un régimen de responsabilidad limitada si contribuyen a un fondo de compensación o bien si suscriben conjuntamente un seguro que garantice la compensación de daños o perjuicios causados por un robot;
  4. d) decidir si conviene crear un fondo general para todos los robots autónomos inteligentes o crear un fondo individual para cada categoría de robot, así como la elección entre un canon único al introducir el robot en el mercado o pagos periódicos durante la vida del robot;
  5. e) crear un número de matrícula individual que figure en un registro específico de la Unión que asegure la asociación entre el robot y el fondo del que depende y que permita que cualquier persona que interactúe con el robot esté al corriente de la naturaleza del fondo, los límites de su responsabilidad en caso de daños materiales, los nombres y las funciones de los participantes y otros datos pertinentes;
  6. f) crear a largo plazo una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente.

Nótese que se mueve entre endurecer la responsabilidad de propietarios y productores, hacia responsabilidad objetiva y facilidades probatorias para las víctimas, pero también considera la posibilidad de permitirles a productores, desarrolladores y propietarios en ciertas circunstancias establecer responsabilidades limitadas, vía cláusulas limitativas de responsabilidad, en pro seguramente de incentivar el desarrollo tecnológico. También consagra la alternativa de cargar ciertos daños en otros patrimonios, como seguros o fondos de compensación, lo cual permitiría cubrir a las víctimas aún ante los vacíos que según se ha expuesto podría reportar el régimen tradicional para imputar responsabilidad a sujetos concretos en ciertos casos. Finalmente, plantea la controvertida “personalidad” electrónica que permitiría dotar de patrimonio a los robos, pero que los haría al mismo tiempo sujetos de derechos y obligaciones[2].

Si bien en Colombia la discusión es aún insípida, en el contexto de globalización en que estamos inmersos, el acceso y el uso de las nuevas tecnologías se mueve a ritmo acelerado; por tanto el atraso que tengamos en las discusiones y análisis para propuestas de regulación jurídica no será obstáculo para que empiece su utilización. En ese escenario, resultaría inconveniente que la premura de las prácticas sociales nos lleve, simplemente, a trasladar o a importar propuestas extranjeras, sin considerar la coordinación con la normativa y los desarrollos que tenemos actualmente en el país y que se exponen este trabajo, y sin considerar las particularidades de nuestro contexto social y cultural.

[1] Literales Z, AB, AC, AD, AF, AG, AH y AI.

[2] Sobre el análisis y las críticas a las alternativas de regulación, ver (Palmerini, 2017, pp. 77-83).

Referencia

Doctrina

Bobbio, N. (1989). Liberalismo y democracia. México: Fondo de Cultura Económica.

 

García, E. & Fernández, T. (2008). Curso de Derecho administrativo. Tomo II. 12ª ed. Bogotá Temis, Lima: Palestra.

 

Gil, E. (2020). Tratado de responsabilidad extracontractual del Estado. 8ª ed. Bogotá: Tirant lo Blanch.

 

Kelsen, H. (2010). Teoría pura del derecho. Bogotá: Libros Hidalgo.

 

Mir Puigpelat, O. (2002). La responsabilidad patrimonial de la Administración. Hacia un nuevo sistema. Madrid: Civitas.

 

Saavedra, R. (2018). Responsabilidad patrimonial del Estado. Tomo I. Bogotá: Grupo Editorial Ibáñez.

 

Jurisprudencia:

Consejo de Estado. Sección Tercera. Sentencia del 9 de julio de 2014. Consejero Ponente: Enrique Gil Botero. Expediente: 29.337.

 

Consejo de Estado. Sección Tercera. Sentencia del 12 de octubre de 2017. Consejera Ponente: Marta Nubia Velásquez Rico. Expediente: 39.354.

 

Consejo de Estado. Sección Tercera. Sentencia del 10 de febrero de 2021. Consejero Ponente: Ramiro Pazos Guerrero. Expediente: 46.030.

 

Consejo de Estado. Sección Tercera. Sentencia del 19 de febrero de 2021. Consejero Ponente: José Roberto Sáchica Méndez. Expediente: 50.545.

 

Consejo de Estado. Sección Tercera. Sentencia del 19 de febrero de 2021. Consejera Ponente: Marta Nubia Velásquez Rico. Expediente: 63.892.

 

Consejo de Estado. Sección Tercera. Sentencia del 5 de marzo de 2021. Consejero Ponente: José Roberto Sáchica Méndez. Expediente: 52.997.

 

Corte Constitucional. Sentencia C-038 de 2006. Magistrado Ponente: Humberto Antonio Sierra Porto.

 

BECK, U. (1998). La sociedad del riesgo. Barcelona: Paidós.

 

BAENA, F. (2021). La causalidad en la responsabilidad civil. Bogotá: Tirant.

 

BAUMAN, Z. (2007). Vida de consumo. México: Fondo de Cultura Económica.

 

EBERS, M. La utilización de agentes electrónicos inteligentes en el trafico jurídico: ¿Necesitamos reglas especiales en el Derecho de la responsabilidad civil? InDret. Revista para el análisis del Derecho. Barcelona, julio, 2016.

 

GONZÁLEZ, E. (2015).  Nuevas tecnologías sobre la vida humana y responsabilidad del Estado, En: Henao, J. y Ospina, A. (eds.). La responsabilidad extracontractual del Estado. XVI Jornadas Internacionales de Derecho administrativo. Bogotá: Universidad Externado de Colombia, pp.679 y ss.

 

LOPEZ, D. (2004) Teoría Impura del Derecho: la transformación de la cultura jurídica latinoamericana,. Bogotá: Legis –Universidad de los Andes, Universidad Nacional

 

 

HARARI, Y. (2016). Homo Deus: breve historia del mañana. Madrid: Debate.

 

MONTERROSO CASADO, E. (2019). Inteligencia artificial y riesgos cibernéticos: responsabilidades y aseguramiento. Madrid: Ed. Tirant lo Blanch.

 

PEÑA, D. (2015). Responsabilidad del Estado en la sociedad de la información. En: Henao, J. y Ospina, A. (eds.). La responsabilidad extracontractual del Estado. XVI Jornadas Internacionales de Derecho administrativo. Bogotá: Universidad Externado de Colombia, pp. 437 y ss.

 

RAMIÓ MATAS, C. (2018). Inteligencia artificial, robótica y modelos de administración pública. Revista del CLAD reforma y Democracia. No. 72, 5-42.

 

TAMAYO JARAMILLO, J. (2007). Tratado de Responsabilidad Civil (Tomos  I y II). Bogotá: Legis.

TRIGO, F. y LÓPEZ, M (2004). Tratado de la Responsabilidad Civil. Buenos Aires:  Editorial La Ley.

VELÁSQUEZ, F. Derecho penal parte general (1994). Bogotá: Temis.

VILLALBA, J. C. (2014). La resposabilidad por producto defectuoso en el derecho colombiano. Revista Civilizar, 14.

VINEY, G. (2007). Tratado de Derecho Civil. (F. Montoya, Trad.). Bogotá: Universidad Externado de Colombia.