Elementos del derecho de la inteligencia artificial
Analizar la Inteligencia Artificial (IA) “diseccionada”
en sus elementos más relevantes, desde una perspectiva dual de la informática y
el derecho, es la mejor vía para resaltar las implicancias jurídicas de sus aspectos
técnicos de entidad.
Si de elementos clave para el funcionamiento y
desarrollo de la IA hablamos, los algoritmos y modelos de aprendizaje ocupan el
primer lugar. Resultan el núcleo técnico de la IA. Son las instrucciones
matemáticas y lógicas tales como Redes Neuronales, Árboles de Decisión, o
Modelos de “Transformers”, que permiten a la máquina aprender de los datos y
tomar decisiones o hacer predicciones.
El código fuente de estos algoritmos es objeto de
propiedad intelectual o industrial, cayendo dentro del resguardo del derecho de
autor o de las patentes según el caso. Una de los principales impulsos
regulatorios se halla dado por resguardar en su diseño los derechos
fundamentales de las personas, a fin de otorgar garantías, en particular,
respecto de sesgos discriminatorios, “alucinaciones” o actuaciones no
explicables.
Respecto de los datos (Datasets) y etiquetado,
éstos resultan la “materia prima” de la IA. Los primeros son vastas colecciones
de información utilizadas para entrenar el modelo en tanto el “etiquetado”
consiste en asignar la "respuesta correcta" a cada dato, crucial para
el aprendizaje supervisado. La calidad y cantidad de los datos determinan la
precisión del modelo.
Aquí el aspecto más crítico para el derecho pasa por
el resguardo de la privacidad de las personas y de la protección de los datos
personales. En tal sentido, la obtención lícita de los datos y el requerirse el
consentimiento adecuado para su uso son esenciales. Adicionalmente se plantea
la propiedad de los datasets generados o curados, tanto en cuanto a su
naturaleza como alcance.
En cuanto a la infraestructura de hardware, las
Unidades de Procesamiento Gráfico (GPUs) o Tensor Processing Units
(TPUs), resultan el “motor” físico que permite el entrenamiento y la ejecución
de modelos grandes, especialmente en el denominado aprendizaje profundo (Deep
Learning), resultandos vitales para tal actividad por su capacidad de
procesamiento paralelo. Implicancias en resguardar la competencia leal, el
acceso en condiciones lógicas a la tecnología y hasta la sostenibilidad e impacto
ambiental de su uso por el alto consumo energético son los tópicos jurídicos
del sector.
Encontramos asimismo a los elementos de interacción y generación,
los cuales se centran en la forma en que los usuarios interactúan con la IA y
cómo la IA genera contenido. Entre ellos, el prompt resulta la instrucción o entrada,
textual o de otro tipo, que se le da a un modelo de IA generativa (como ChatGPT
o Midjourney) para guiar su respuesta o creación. Es la clave de la ingeniería
de prompts (prompt engineering).
Se puede considerar al mismo como una instrucción o “input”
creativo y, junto con la salida, puede tener implicaciones en la propiedad
intelectual en los casos de prompts complejos o “superprompt”. También, en
cuanto elemento revelador de un actuar humano, es crucial para rastrear así
como determinar la intención del usuario o su vinculación a un determinado
resultado en casos de uso ilícito o malicioso.
Por su parte el “output”, resultado o contenido generado,
es la respuesta, la imagen, el código o el texto producido por el modelo de IA.
La calidad, la coherencia y la novedad son los parámetros técnicos principales
para su valoración desde lo técnico. En cuanto a lo jurídico, es uno de los
elementos que genera la mayor controversia legal respecto de su autoría o
propiedad. ¿Quién es el autor o propietario de un texto o imagen generada por
IA? o quien debe responder por los daños o desinformación causados por un
output defectuoso o engañoso (deepfakes) son las cuestiones en debate
respecto de este elemento.
En cuanto a los aspectos a nivel general que deben ser
regulados para garantizar un uso justo y seguro de los sistemas de IA se halla
la explicabilidad e interpretabilidad (XAI), es decir la capacidad técnica de
un modelo de IA para mostrar cómo llegó a una decisión. Frente al problema de
la "caja negra", especialmente en el Deep Learning el
denominado derecho a la explicación resulta fundamental para poder auditar el
sistema y determinar responsabilidades.
Los sesgos y la equidad (“Bias and Fairness”)
se halla en relación con los supuestos en que los datos de entrenamiento
reflejan o amplifican desigualdades sociales existentes, llevando al modelo a
tomar decisiones discriminatorias (por ejemplo, en software de contratación o
crédito). En tal sentido, se perfila en la normativa un sistema de “regulaciones
de alto riesgo” mucho más estrictas respecto de sistemas que tengan la
capacidad de tener resultados discriminatorios o afectar la igualdad de
oportunidades
En lo que concierne a la responsabilidad y atribución
de resultados disvaliosos se conecta con la trazabilidad de las decisiones del
modelo (quién, cuándo y cómo se implementó). En esa dirección lo crucial para
la seguridad jurídica es determinar de forma clara quién es legalmente
responsable por el daño causado por un sistema de IA autónomo (el
desarrollador, el operador, o el propio sistema si se le otorga alguna forma de
“e-personalidad”, lo que habla de la necesidad de establecer marcos de
responsabilidad civil y penal claros. Es decir, precisos y detallados.
Como puede verse, no son pocas los desafío que plantea al derecho el uso de la inteligencia artificial. Tampoco son menores, los resguardos para los derechos fundamentales que el mundo jurídico debe diseñar para asegurarlos en tales sistemas.
Para leer más sobre derecho y tecnología en el blog.
La digitalización administrativa
Los robots domésticos y el derecho
El desarrollo jurídico tecnológico
El entorno digital en las plataformas procesales
Noticia del autor de la nota: Abogado (U.N.C.). Profesor con orientación en Derecho. Doctor en Ciencias Jurídicas (U.C.A.). Especialista en Derecho Aeronáutico y Espacial. Especialista en Derecho de los Conflictos Armados y Derecho Internacional Humanitario. Docente universitario de grado y postgrado. Autor de una veinte de textos sobre derecho público y procesal. Miembro del Instituto de Derecho Administrativo de la Facultad de Derecho y Ciencias Sociales de la Universidad Nacional de Córdoba. Miembro del Instituto de Historia del Derecho y de las Ideas Políticas Roberto Peña de la Academia Nacional de Derecho y Ciencias Sociales de Córdoba. Mención Especial premio “Joven Jurista 2001” de la Academia de Derecho y Ciencias Sociales de Córdoba. Premio "Diez Jóvenes Sobresalientes del año” de la Bolsa de Comercio de Córdoba (2004). Distinción “Reconocimiento docente”, E.S.G.A, 2005. Reconocimiento al desempeño y dedicación, Escuela de Práctica Jurídica del Colegio de Abogados de Córdoba, 2013. Reconocimiento a la trayectoria en las letras y como autor de textos jurídicos por la Legislatura de la Provincia de Córdoba, 2021.
