Sesgos algorítmicos e inteligencia artificial en el poder judicial
| Autor | Eliana Andrea Duitama Pulido |
| Páginas | 41-79 |
41
2
Sesgos algorítmicos e inteligencia articial
en el poder judicial
Eliana Andrea Duitama Pulido*
Introducción
La Ley 270 de 1995 establece la obligación para la administración de justicia
de ser pronta, cumplida y ecaz en la solución de los asuntos que se someten
a su conocimiento y, para ello, establece, ente otros mecanismos, el uso de los
nuevos avances tecnológicos que, conforme a los lineamientos estratégicos
adoptados por el Consejo Superior de la Judicatura, evidencian en los proyec-
tos de impacto tecnológico en los despachos judiciales una serie de acciones
que contemplan, entre otras, la adquisición de plataformas tecnológicas de
cómputo y comunicaciones, la implementación o modicación de los siste-
mas de información para facilitar las labores de administración de justicia, la
incorporación de componentes de comunicación de datos, la implementación
del expediente digital, el internet de las cosas (IoT, por sus siglas en inglés), la
cadena de bloques, la robótica y la inteligencia articial (IA).
La base epistemológica sobre la que se estructura este capítulo tiene, entre
otros propósitos, analizar el riesgo, la posibilidad o la probabilidad de que se
presente “discriminación algorítmica” en la administración de justicia cuando
* Abogada por la Universidad Santo Tomás, especialista en Derecho Médico por la Universidad
Externado de Colombia y especialista en Gestión Pública e Instituciones Administrativas por la Uni-
versidad de los Andes, magíster en Derecho con énfasis en Derecho Administrativo por la Universidad
Externado de Colombia y doctoranda en Derecho en la Universidad del Rosario. Profesora universitaria,
asistente graduado de la Facultad de Jurisprudencia de la Universidad del Rosario. Correo electrónico:
eliana.duitama@urosario.edu.co
El derecho como laboratorio de saberes
42
se hace uso de la IA y establecer la manera en que se pueden prever, minimizar
o eliminar los sesgos algorítmicos. Lo anterior para anticiparnos al diseño de
algunos principios o reglas que pueden ser útiles y ecientes al implementar
estos sistemas tecnológicos en el ordenamiento jurídico colombiano.
Es del caso señalar que el enfoque epistemológico escogido para desarrollar
el tema propuesto es el racionalista-deductivo también llamado deductivista,
teórico o racionalista crítico (Ortiz et al., 2012), que se caracteriza, según
Pasek et al. (2006), por la construcción de una teoría a partir de algunas fases
fundamentales que se agotaron.
En la primera fase, se efectuó el análisis de las diferentes posturas
cientícas que han asumido los investigadores citados en torno al uso de la
IA en la administración judicial, pues es claro que a la fecha se han generado
múltiples interpretaciones, ya que hay quienes señalan que los jueces no solo
pueden ser apoyados por la IA, sino que, incluso, ser reemplazados o colonizados
algorítmicamente por tecnologías cada vez más capaces (Susskind, 2019). Al
margen de lo anterior y, justamente, por cuenta de la profunda discrepancia
que existe entre los juristas, lósofos y cientícos de la actualidad en torno a tal
armación, es necesario examinar las debilidades, las amenazas y los desafíos
inmediatos y futuros que trae consigo la implementación de esta tecnología
en el mundo legal.
A continuación, en la fase de exploración, y luego de un estudio riguroso,
se adoptará como hipótesis teórica inicial que uno de los principales riesgos
del uso de la IA en la administración de justicia es la presencia de sesgos
algorítmicos en el proceso de toma de decisiones judiciales, como lo ha
demostrado la experiencia internacional documentada de países como los
Estados Unidos, España, Argentina y otros.
Posteriormente, en la fase de derivación, se puntualizó que la IA tiene
por objeto lograr que los computadores hagan algunas cosas tecnológicas1 o
cientícas2 que puede hacer la mente humana (Boden, 2017), entre otras, para
innovar y mejorar signicativamente la prestación del servicio de justicia en
la era digital en el mundo, y se muestra que la IA es una “tecnología judicial”
que debe garantizar, entre otros, el derecho a la no discriminación algorítmica.
1 Usar los ordenadores para hacer cosas útiles.
2 Ayudar a resolver cuestiones sobre los seres humanos y demás seres vivos.
Sesgos algorítmicos e inteligencia articial en el poder judicial
43
Después, en la fase de sistematización, se continuó con un proceso de
razonamiento en el que los hallazgos teóricos identicados pretenden, por
deducción, dar respuesta losóca, técnica, ética y jurídica al problema de
investigación planteado que se estructurará así: ¿existe el riesgo, la posibilidad
o la probabilidad de que se presente “discriminación algorítmica” en la
administración de justicia cuando se hace uso de la IA? De ser así, ¿cuál es
la mejor manera de evitar, mitigar o eliminar los sesgos algorítmicos en los
sistemas legales que usan IA?
Finalmente, en la fase de validación, se procedió a documentar algunas
reglas o principios que pueden ser ecientes para garantizar que el proceso de
implementación de la IA en la rama judicial no afecte derechos fundamentales.
En este orden, se consolidará una serie de recomendaciones éticas, losócas,
técnicas y normativas que el sistema judicial articial3 debe acreditar al
ser implementado. Algunas provienen de políticas públicas adoptadas por
entes nacionales e internacionales, otras son sugerencias que han realizado
importantes lósofos, cientícos y juristas, y las demás son consecuencia de
una postura propia, fruto de la interpretación de la ética de las virtudes, los
principios generales del derecho, la jurisprudencia y la estructura jerarquizada
de las normas vigentes en nuestro ordenamiento jurídico colombiano.
En consecuencia, para responder al desafío descrito, en un primer escenario,
se hará mención del marco normativo que nos proporciona el ordenamiento
jurídico actual en torno a la IA, luego se analizarán algunos artículos extraídos de
las bases cientícas disponibles en red y se explicará el concepto de inteligencia
articial; a continuación, se describirán los principales usos judiciales de esta
tecnología digital; posteriormente, se explicarán los sesgos que se han percibido
en los sistemas inteligentes que operan en los diferentes poderes judiciales y
gobiernos del mundo, y, nalmente, se propondrá que el diseño de estos sistemas
inteligentes, que forman parte de la administración de justicia, deben cumplir
normativa y éticamente con algunas reglas previas que es necesario discutir,
construir y adaptar en nuestro ordenamiento jurídico. Es del caso mencionar
que las recomendaciones socializadas tienen como propósito salvaguardar el
principio universal de igualdad, equidad y no discriminación en el sistema
judicial que haga uso de la IA.
3 Compuesto o pleno.
Para continuar leyendo
Solicita tu prueba