Los jueces en China deben justificar cada veredicto frente a una IA

| |

En China, se supone que los jueces consultan un sistema de inteligencia artificial antes de emitir un juicio. Debe justificar por escrito el rechazo del aviso de la máquina.

China se ha estado desarrollando junto con las principales empresas tecnológicas del país durante unos seis años. Herramientas de automatización compatibles con IA para su propio sistema de justicia. Hasta ahora se ha dicho que el sistema tiene por objeto reducir la carga de trabajo de los fiscales, en particular en las tareas de rutina. Por ejemplo, escribe cargos automatizados basados ​​en viñetas.

Sin embargo, según un informe del South China Morning Post (SCMP), el sistema de inteligencia artificial se está integrando cada vez más en el sistema legal chino.

Publicación Destacada

Los jueces deben consultar a la IA

Hace unos seis años, el proyecto era poco más que una base de datos, informa SCMP. Esto es ahora Mandato del Tribunal Supremo de que los jueces presten atención a los consejos del sistema de IA y en caso de no hacerlo, justificación por escrito que se incluirá en el expediente.

Según la SCMP, el Tribunal Supremo ve el sistema como una forma estandarizar la jurisprudencia nacional ya grandes partes de China donde hay «disparidades significativas en el desarrollo regional, la gobernabilidad y los ingresos».

Antes de que se introdujera el sistema, cada tribunal de distrito mantenía su propio sistema de información y los jueces rara vez intercambiaban información con otros tribunales o con Beijing. El nuevo «Sistema de tribunales inteligentes» obliga a todos los tribunales a utilizar informes digitales uniformes que están conectados a una base de datos central en Beijing.

El poder judicial de IA de China está creciendo cada día

Según la Corte Suprema el sistema aprende de 100.000 casos cada día y los monitorea en busca de posibles decisiones equivocadas o corrupción. Además de los archivos judiciales, el sistema también debe tener acceso a las bases de datos de la policía, los fiscales y las agencias gubernamentales.

Por ejemplo, la IA está destinada a ayudar a hacer cumplir las sentencias «al rastrear y confiscar casi instantáneamente la propiedad de un convicto y subastarla en línea». u otros prohíben los servicios sociales y hacen cumplir la prohibición.

«El Smart Court SoS (Sistema de Sistemas) ahora está conectado al escritorio de cada juez en activo en todo el país», dijo Xu Jianfeng, director del Centro de Información de la Corte Suprema.

Los jueces en China deben justificar cada veredicto frente a una IA
Esta infografía es publicada por el Centro de Información del Tribunal Popular Supremo. Su objetivo es mostrar cómo el sistema de IA controlado centralmente se convierte en el foco de la jurisprudencia nacional y afecta todas las áreas de trabajo en el poder judicial.

En una revista de la Academia China de Ingeniería, Xu y sus colegas publican números positivos sobre el sistema: reduce la carga de trabajo promedio de los jueces en más de un tercio. Entre 2019 y 2021, ahorró 1700 millones de horas-hombre y el equivalente a 45 000 millones de dólares en honorarios legales. El sistema hace «una importante contribución al progreso legal de la civilización humana».

La automatización de la administración de justicia también recibe críticas

Zhang Linghan, profesor de derecho en la Universidad China de Ciencias Políticas y Derecho en Beijing, criticó en la revista nacional Law and Social Development que el sistema restringe la discreción judicial.

La evaluación individual, la experiencia y la formación de un juez pasan a un segundo plano. Si bien esto podría mejorar la eficiencia y la equidad hasta cierto punto, haría que las personas dependieran de la tecnología y socavaría el libre albedrío.

«Debemos tener cuidado con la erosión del poder judicial por parte de las empresas de tecnología y el capital», escribe Zhang Linghan.

Sun Yubao, juez del Tribunal Popular de la Zona de Desarrollo Económico y Tecnológico de Yangzhou en la provincia de Jiangsu, también critica en la revista en chino Legality Vision: Las expectativas de la IA como panacea son demasiado altas y el papel del juez debe ser reforzado: «La IA no puede hacerlo todo».

Los críticos del sistema también temen que los jueces juzguen de acuerdo con los consejos del sistema de IA para no tener que desafiar el sistema, incluso cuando la IA puede elegir referencias o leyes inapropiadas.

Lina
Lina García ha escrito sobre tecnología y marketing, cubriendo todo, desde la analítica hasta la realidad virtual, desde 2010. Antes de eso, obtuvo un doctorado en inglés, enseñó a escribir a nivel universitario y lanzó y publicó una revista en formato impreso y digital. Ahora es escritora, editora y consultora de marketing a tiempo completo.