Sesgos en IA: una investigación que busca anticiparlos en los diagnósticos médicos

Share on whatsapp
Share on facebook
Share on twitter
Share on email

La Inteligencia Artificial es una herramienta que ayuda en muchas disciplinas y la medicina no es excepción de esto. Los diagnósticos por imágenes utilizan esta tecnología en una búsqueda de resultados más acertados, sin embargo, pueden presentar sesgos.

En este caso, con sesgos se hace referencia a aquellos modelos de Inteligencia Artificial que presentan un rendimiento dispar en función del grupo demográfico al que pertenece el paciente. ¿Qué significa esto? Que la herramienta puede funcionar de manera desigual según las características de las personas en función de las bases de datos y las formas en las que se utilizan. 

Es por eso que científicos/as del Conicet y la Universidad Nacional del Litoral (UNL) llevaron adelante un proyecto de investigación que busca identificar y anticipar estos sesgos de Inteligencia Artificial en los diagnósticos por imágenes y reducir al máximo el margen de error. 

La investigación lleva el nombre de “Descubrimiento de sesgo no supervisado: anticipando problemas de equidad algorítmica en modelos de machine learning para análisis de imágenes médicas sin anotaciones de referencia” y es liderada por Enzo Ferrante, investigador del Conicet en el Instituto de Investigación en Señales, Sistemas e Inteligencia Computacional (sinc(i)) en la Universidad del Litoral.

Sobre el proyecto contó: “Venimos trabajando hace varios años ya en el desarrollo del sistema de inteligencia artificial para diagnóstico por imágenes, para asistir a los radiólogos y a los médicos, que son los que siempre toman la decisión final. Ese proceso de asistencia tiene varias formas. Por ejemplo, a partir de una imagen médica, por medio de redes neuronales, que es la tecnología que usamos, se puede detectar si hay una patología o no. O con una imagen de rayos X, si la persona tiene neumonía o no tiene neumonía”.

“También hacemos todo lo referido a resonancia magnética del cerebro, para localizar un tumor y poder medirlo. Esa es toda la línea que tiene que ver con, digamos, Inteligencia Artificial para análisis de imágenes médicas, donde vengo trabajando desde mi doctorado, que lo hice en París”, agregó. 

Con respecto al margen de error que se busca reducir, Ferrante en diálogo con Télam, introdujo el concepto de mitigación de sesgos como ejemplo de los métodos que se pueden utilizar. “Algunos tienen que ver con rebalancear las bases de datos. Para esto lo primero es identificar en las bases de datos que usamos para entrenar si hay un sesgo en el sentido de que, por ejemplo, el modelo anda peor en mujeres que en hombres. Entonces, con esa información ir a la base de datos y ver ¿realmente están bien representadas las mujeres?”, explicó.

“Trabajar a nivel de datos siempre es una de las formas más fáciles de atacar el problema. Y después, cosas que son las que estamos desarrollando nosotros a nivel metodológico, es pensar nuevos algoritmos en donde el proceso de aprendizaje automático que hacen los modelos esté de alguna manera influenciado por algunas restricciones que hagan que el modelo no tenga rendimiento dispar en los distintos grupos. Durante el entrenamiento es posible ir modificando cosas”, agregó.

La investigación fue seleccionada para el Google Award for Inclusion Research (Google AIR). Este es un reconocimiento internacional en el que la empresa del buscador reconoce investigaciones académicas con el potencial de impactar de manera positiva en la vida de las personas a nivel mundial.

La financiación se realiza por Google por medio de la convocatoria mencionada, y con el respaldo del Conicet, de la Facultad de Ingeniería y Ciencias Hídricas de la Universidad Nacional del Litoral y de la Agencia Nacional de Promoción de la Investigación, el Desarrollo Tecnológico y la Innovación.

TEMAS: