¿Regulados por programas y algoritmos que permanecen en secreto? Cuéntanos tu caso

Gracias, Enrique :wink:

Noticia de 11 marzo 2021


“Será obligado que el trabajador conozca la fórmula matemática que organiza su trabajo en todas las partes del trabajo”

Actualmente, son algoritmos los que deciden el reparto de pedidos entre los riders, sus bonificaciones, penalizaciones y otros aspectos fundamentales de su trabajo sin que el empleado tenga conocimiento de cuáles son los motivos o fórmulas para ello.

Hoy he recibido una respuesta denegatoria de Madrid.
El tema es que para elegir qué personas forman los tribunales de oposición, se sortea informáticamente. En 2018 se sorteaba letra (mecanismo injusto), pero no se publicaban los listados, por lo que no había manera de saber si se saltaban a gente o no: tras pedirlos vía transparencia, denegaron.
En 2021 han publicado de forma activa listados que no dieron en 2018, y ahora dicen que se sortea tras que un programa ordene aleatoriamente. He pedido el código fuente del programa que ordena aleatoriamente, porque me parece algo tan sencillo que es una buen ejemplo de código que no podrían poner pegas en hacer público, y me han respondido, entre otras cosas, hablando de propiedad intelectual, de que el programa hace lo que debe y para eso lo supervisan ellos, y esta perla
https://drive.google.com/file/d/1fxp_6NiiVMZjrkq3Yd4oUyGi3aN7aaQq/view?usp=sharing
" a través del código fuente se pueden conocer detalles de un programa informático y de sus vulnerabilidades, quedando, en caso de facilitarse el acceso solicitado, desprotegida la aplicación frente a posibles ataques y usos indebidos. "
Hablan de “ataques y usos indebidos” de un programa que solo debe ordenar listados al azar?:man_facepalming:

2 Me gusta

Comparto respuesta de ampliación de plazo de CLM: al menos no deniegan directamente.
Enlaza con lo que comenté por aquí hace tiempo de transparencia en algoritmos de adjudicación de centro educativo, relevante asociado a segregación
https://drive.google.com/file/d/1S5qCDNctFuy5N-V4bSRh7xMK0dT32Eti/view?usp=drivesdk

1 me gusta

Gracias por compartir esta información con la comunidad. La respuesta es en línea con lo que nos han respondido a nosotros en el caso del algoritmo que gestiona la asignación del bono social: "Que se nos regule mediante código fuente o algoritmos secretos es algo que jamás debe permitirse en un Estado social, democrático y de Derecho" | Civio

2 Me gusta

Tras haber reclamado a CTBG por silencio pasado el mes de ampliación de plazo, hoy he recibido respuesta de CLM
2021-CLM-AdmisónAlmumnado
Creo que es relevante que dan parte del código fuente (es SQL), pero parte hacen una reelaboración tremenda y elaboran una descripción (pseudocódigo) sin dar el código fuente.
Como está reclamado a CTBG no desistiré; creo que si han podido dar código fuente de parte lo pueden dar de todo

1 me gusta

Resolución estimatoria RT_0253-2021 La Consejería de Educación de Madrid deberá dar el código fuente de un programa informático que implementa sorteo oposiciones

Sienta precedente para conseguir más transparencia en algoritmos de la administración

5 Me gusta

¡¡Bravo Enrique!! Fantásticas noticias, ¡¡mil gracias por tu esfuerzo!!

2 Me gusta

¡Enhorabuena, Enrique!

2 Me gusta

Enhorabuena, @FiQuiPedia, por la Resolución del CTBG. Hasta ahora no lo había podido leer con calma, está muy bien. ¿Has tenido novedades después de esto? ¿La Consejería te ha entregado la información?

Gracias, David
No he tenido noticias ni me han entregado nada.
¿ideas sobre cómo actuar ahora?
Otras veces he invocado art53.1.a de ley 39/2015 para forzar algún tipo de respuesta. Según El reglamento CTyP Madrid publicado en noviembre no siguen la ejecución de las resoluciones de CTBG, pero lo veo irregular, además de que CTyP sí puede y debe sancionar incumplimiento.

Miguel sabra mejor, cuando vuelva de vacaciones, que es el que se pega con estas cosas siempre. cc/ @magavilanes

1 me gusta

https://twitter.com/FiQuiPedia/status/1480975916092334081
Resolución estimatoria RT/0748/2021 @ConsejoTBG
@educajccm deberá dar el código fuente algoritmo admisión de alumnado.

Citan

El texto del Fundamento Jurídico 5 creo que es importante como referencia a futuro

Mientras no se instauren otros mecanismos que permitan alcanzar los fines señalados con garantías equivalentes –como podrían ser, por ejemplo, auditorías independientes u órganos de supervisión–, el único recurso eficaz a tales efectos es el acceso al algoritmo propiamente dicho, a su código, para su fiscalización, tanto por quienes se puedan sentir perjudicados por sus resultados como por la ciudadanía en general, en aras de la observancia de principios éticos y de justicia.

Pongo unas capturas de RT 0748/2021: en un tiempo el pdf de la resolución anonimizado estará publicado en web CTBG:



1 me gusta

Hola Enrique, me imagino que la Consejería de la CAM sigue sin haberte facilitado el código fuente (Recurso 253/2021). Si quieres puedo prepararte un requerimiento, de cara a que empiece a correr el plazo de 3 meses para interponer un recurso contencioso con base en la inactividad de la Consejería. Si la Administración sigue sin cumplir me ofrezco a llevarte el contencioso (por supuesto pro bono).

El mismo ofrecimiento para el Recurso 748/2021, aunque en este procedimiento no se si fuiste tu el reclamante.

Hola José Manuel
Efectivamente Madrid no me ha facilitado nada sobre RT253/2021.
En RT0748/2021 también soy yo el reclamante y Castilla-La Mancha tampoco me ha facilitado nada.
Me parece interesante lo del requerimiento: ya cruzamos correos con el tema de la reclamación de transparencia sobre enunciados oposiciones de Castilla-La Mancha, y te puse en un correo mi teléfono para estar en contacto.
Muchas gracias por tu ofrecimiento. PD. he tenido que googlear qué es “pro bono” :slight_smile:

1 me gusta

Como seguramente sabéis, estos días nos ha llegado la sentencia del juicio para acceder al código fuente de BOSCO, el bono social. Y hemos perdido. Pero hemos presentado ya el recurso, que está disponible junto con todos los otros documentos del caso aquí: Vigilamos que las ayudas públicas lleguen a quienes más las necesitan | Civio

@FiQuiPedia, hemos mencionado una de tus resoluciones del CTBG en nuestro recurso, para decir que los argumentos de “que vienen los hackers!” del Ministerio son absurdos. Gracias por compartirlas!

2 Me gusta

Gracias por vuestro trabajo. Esperemos que la apelación prospere.
Encantado de que sea útil.
A nivel informativo con la ayuda de @jmcs ya he presentado requerimiento a Madrid sobre RT0253/2021 (la que cita el recurso de apelación) y a Castilla-La Mancha sobre RT0748/2021 . Cuando haya novedades las compartiremos.

Como curiosidad, el requerimiento sobre RT0748/2021 lo pusimos ayer día 13, y hoy día 14 ya ha escrito Castilla-La Mancha, alegando que con el pseudocódigo y el código parcial que me enviaron en septiembre 2021 han cumplido la resolución. Literalmente dicen

entendemos que la Resolución de dicha reclamación CTBG RT 748/2021 ya ha sido plenamente ejecutada con anterioridad a que esta fuera dictada.

Ya aclaré a CTBG en septiembre 2021 que no desistía de mi reclamación, porque solo tener el código fuente es lo que permite validar su funcionamiento: dando un pseudocódigo, que es una reelaboración, dan una intrerpretación de lo que piensan que hace. La resolución estimatoria RT0748/2022 indica facilitar el código fuente. Literalmente:

“Copia del código fuente asociado al algoritmo de la aplicación informática utilizada en el proceso de admisión de alumnado de curso 2021-2022 en Castilla-La Mancha.”

PD: hace unos días he puesto otra solicitud a AGE sobre “Código fuente cálculo días cotizados desempleo” porque recordé un error de cálculo que sufrí en mis carnes, y en su día la respuesta que me dieron es “la aplicación no lo permite [hacerlo bien, solo lo puede hacer mal]”

1 me gusta

estupendo, vamos hablando!

Enhorabuena por la charla de hoy


Enlazo la resolución RT_0748/2021 de enero 2022 ya publicada en web CTBG

Creo que el Fundamento Jurídico 5 es digno de ser citado, ya lo había comentado por aquí antes de que publicasen la resolución

  1. Mientras no se instauren otros mecanismos que permitan alcanzar los fines señalados con
    garantías equivalentes –como podrían ser, por ejemplo, auditorías independientes u órganos
    de supervisión–, el único recurso eficaz a tales efectos es el acceso al algoritmo propiamente
    dicho, a su código, para su fiscalización, tanto por quienes se puedan sentir perjudicados por
    sus resultados como por la ciudadanía en general, en aras de la observancia de principios éticos
    y de justicia.
1 me gusta

Gracias por vuestro trabajo y enhorabuena por la sesión del pasado lunes. Repasando los enlaces a los documentos del procedimiento judicial, y salvo error u omisión mia, el enlace del apartado " Respuesta del Centro Criptológico Nacional" lleva al documento de la desestimación de la impugnación de las preguntas al CCN. Si es asi ¿sería posible tener acceso al documento de respuestas?

¡Muchas gracias!

1 me gusta