La española que quiere evitar que la IA te mande al paro por error: «Los algoritmos son injustos por los sesgos de la sociedad»

En cierto sentido, la inteligencia artificial no es muy distinta de un niño.

Cuando arranca su entrenamiento es como un lienzo en blanco que se enriquece con todo tipo de datos para funcionar, desde plúmbeos manuales de Física hasta desvaríos publicados en redes sociales.

Gran parte de lo que sabe ha sido creado por humanos, por eso es normal que herede muchos de nuestros prejuicios y sesgos .

Exactamente igual que ocurre con un menor si sus padres y profesores no se andan con ojo.

La matemática y física Miren Jasone Ramírez-Ayerbe sabe que acabar con este problema es casi imposible, pero considera que, al menos, los científicos deben hacer lo posible para conseguirlo.La sevillana e investigadora posdoctoral en la Universidad de Montreal (Canadá) trabaja en el desarrollo de modelos matemáticos para detectar cuándo un algoritmo toma decisiones injustas y explicar por qué lo hace.

Un sistema que aspira a evitar que las máquinas descarten un currículum, denieguen un préstamo o perjudiquen a un colectivo por error.

Su trabajo en este campo le ha permitido ser reconocida recientemente con uno de los premios Vicent Caselles que otorgan cada año la Real Sociedad Matemática Española y la Fundación BBVA. —Para los no expertos, ¿en qué consiste tu trabajo?—En desarrollar modelos matemáticos que permitan explicar las decisiones que toma un algoritmo de predicción.

Estos sistemas pueden utilizarse para seleccionar personal en una empresa, conceder un préstamo o incluso ayudar a diagnosticar si un tumor es benigno o maligno.

El problema es que, cuanto más complejos son, más difícil resulta entender qué factores están influyendo en sus decisiones.

Mi trabajo consiste en calcular cuál habría tenido que ser el cambio mínimo para que el algoritmo hubiera tomado una decisión distinta.

Por ejemplo, si rechaza un currículum, puedo identificar qué tendría que haber cambiado para que ese candidato hubiera sido seleccionado.

Esa información también permite auditar el algoritmo y detectar si está sesgado y trata de forma injusta a determinados colectivos.—¿Por qué la IA tiene sesgos?—Porque aprende a partir de datos históricos creados por los humanos.

Si esos datos reflejan prejuicios o desigualdades que ya existen en la sociedad, el algoritmo también tenderá a reproducirlos e, incluso, a amplificarlos si su único objetivo es acertar el mayor número de veces posible.

Un ejemplo muy conocido son los sistemas que intentan predecir la probabilidad de reincidencia de un delincuente.

En algunos casos se ha observado que clasificaban con más frecuencia a personas negras que blancas como reincidentes, aunque después no volvieran a delinquir.

El problema no es que la IA decida discriminar, sino que aprende de datos que ya contienen los sesgos de la sociedad.

Tiene esos sesgos por nuestra culpa.—¿Sería posible eliminar los prejuicios?—Me gustaría pensar que sí.

El problema es que muchas veces hay que asumir un equilibrio entre precisión y equidad, ya que reducir los sesgos puede hacer que el modelo pierda algo de precisión.

Aun así, creo que es posible avanzar hacia sistemas más justos.

Pero para conseguirlo también necesitamos una sociedad con menos sesgos.—¿Cuáles son los que más te preocupan?—Sobre todo los que afectan a decisiones con un impacto directo en la vida de las personas, como el acceso a un empleo, a un préstamo, a un tratamiento médico o incluso a la justicia.

En medicina, por ejemplo, hay muchos estudios sobre hombres caucásicos, por lo que algunos algoritmos pueden funcionar peor con otros grupos de población y corremos el riesgo de perpetuar las desigualdades que ya existen en la sociedad.«El arte hecho con IA para mí no tiene ningún valor, porque parece que todo parece igual»—Desde el lanzamiento de ChatGPT, la IA está en todas partes, ¿vamos demasiado rápido con ella?—Creo que sí.

Se están impulsando cada vez más normas para regular el uso de la inteligencia artificial, pero la tecnología está evolucionando a un ritmo muy superior.

Eso hace que, en ocasiones, se adopten sistemas que después hay que retirar o modificar porque no cumplen los requisitos.

Lo vemos en ámbitos como la selección de personal o incluso en la investigación científica, donde cada vez más personas utilizan herramientas de IA para revisar artículos y debería informarse de ello.

Se está avanzando en regulación, pero da la sensación de que cuesta seguir el ritmo de la tecnología.—La sociedad, sobre todo los jóvenes, están mostrando cada vez más rechazo hacia esta tecnología, ¿a qué crees que se debe?—Eso está ocurriendo sobre todo con la inteligencia artificial generativa, como ChatGPT.

Estamos hablando de tecnología que, bien empleada, puede aumentar tu productividad.

Pero también se sobre utiliza mucho.

Si dejas que la IA piense por ti perderás herramientas cognitivas, y eso tiene mucho peligro, sobre todo para los jóvenes.

Puede provocar que pierdas mucha originalidad en tus ideas y tu forma de pensar.

Además, lo que crea no es de muy buena calidad.

Por ejemplo, el arte hecho con IA generativa, para mí, no tiene ningún valor, porque todo parece igual.—¿Estamos perdiendo originalidad ya?—Ahora entras en redes sociales como LinkedIn y parece que todo el mundo escribe de la misma forma, y es por la IA.

Acabas teniendo la sensación de que no te estás comunicando con personas, sino con máquinas. «Ahora entras en redes sociales como LinkedIn y parece que todo el mundo escribe igual, y es por la IA»—¿Cómo te imaginas que la IA cambiará el mundo en los próximos años?—Espero que lo haga menos de lo que la gente dice.

Puede haber algunos cambios en la forma en la que se trabaja, pero también creo que estamos llegando a una estabilización y los modelos pueden encontrarse con un límite.

Me gustaría pensar que podemos usar la tecnología para mejorar nuestras condiciones de vida y ayudar a la sociedad. ...