El diputado de Más País ha presentado en el Congreso la propuesta crear una Agencia Estatal de Algoritmos para regular su aplicación al trabajo, conocer si discriminan o saber cómo afectan las redes sociales a la salud mental. En el siguiente corte lo explica el bueno de Iñigo.
En estas declaraciones resalta otras noticias, como las de unos despidos en Rusia generados a través de un análisis realizado por un algoritmo, y el de facebook que sabia que su algoritmo predispone al enfrentamiento, a la división y al enfado, ya que estos sentimientos generan por lo general que los usuarios estuvieran mas tiempo en facebook.
Noticias de estos sucesos:
https://www.businessinsider.es/facebook-promovio-algoritmo-fomentaba-discusiones-932235
¿Qué opina MV? ¿Necesitamos en España un observatorio para verificar que los algoritmos no son discriminatorios o atentan contra la salud mental o si incumplen alguna ley? ¿Deberían los algoritmos poder decidir si somos productivos o no? ¿serían despidos procedentes?
Mi opinión.
Traigo esta noticia a MV ya que me dedico precisamente al machine learning y se me antoja complicada la tarea de este observatorio si se crease. Por un lado, normalmente los sesgos de un algoritmo moderno vienen generados mas por las bases de datos que por los ingenieros, aunque estos si pueden paliar estos sesgos si saben que la base de datos los contiene. Por otro lado encontrar estos sesgos no es tanto ver el algoritmo, ya que hoy en día son redes neuronales que prácticamente el mismo algoritmo te clasifica coches o te identifica el sexo de una persona, la diferencia son los datos con los que se ha entrenado. Normalmente estos problemas de discriminación o confusiones desafortunadas, como por ejemplo confundir negros con monos (https://www.bbc.com/news/technology-58462511) se descubren mas viendo los resultados del algoritmo, no viendo el algoritmo per se. Otra forma de descubrirlo, pero mucho mas compleja, sería analizando los datos de entrenamiento pero claro aquí hay temas de privacidad o de alcance, ya que las bases de datos de un google o un facebook serían inabarcables para unos funcivagos.
Por otro lado tenemos que si es ético, o digamos si debería ser legal, que un algoritmo que no tenemos muy claro por qué toma su decisión te dictamina que tal persona es improductiva y hay que despedirla, esto ya es un tema complicado. Por otra lado tenemos la pregunta de ¿esto debería considerarse un despido procedente?. Personalmente creo que para que un despido sea procedente deberían aportarse los datos concretos y que sean contrastables (datos concretos de productividad por ejemplo), y no que lo diga un algoritmo, ya que este puede manipularse para que diga lo que queramos y así tirar gente a la calle sin razones.
Finalmente también me parece de muy necio pensar que las grandes empresas tecnológicas te van a dar sus modelos de IA así tan alegremente para que los del observatorio les echen un ojo y te digan si son inclusivos o no.
Pero bueno que más da otro observatorio, total nos vamos a la puta igualmente.
