La Inteligencia Artificial (IA) está cada vez más presente en nuestra vida diaria, nos demos cuenta de ello o no. Automatización de tareas en las empresas, como preselección de currículums, sistemas de reconocimiento facial e incluso filtros de Instagram: son solo algunas de las actividades en las que podemos encontrar IA. La tecnología, que a primera vista parece facilitar y optimizar una serie de actividades humanas, no está exenta de problemas. Comprender el camino que siguen los modelos de Inteligencia Artificial para llegar a un determinado resultado, por ejemplo, es uno de ellos. La justificación de la toma de decisiones utilizando la tecnología es fundamental para identificar posibles sesgos y dificultades en el sistema, y es una tarea en la que los estudiosos del campo de la informática se centran en tratar de resolver. 

La estudiante de maestría en Neuroingeniería del Instituto Santos Dumont (ISD), Jade Dias, de 23 años, es una de ellas. Utilizando una herramienta matemática llamada Teoría de Respuesta al Ítem, Jade propone una nueva forma de analizar estos modelos, en un artículo titulado “Uso e Interpretación de la Teoría de Respuesta al Ítem aplicada al Aprendizaje Automático”, el cual fue seleccionado como uno de los mejores en Taller Latinoamericano sobre Computational Neuroscience (LAWCN 21) y, con ello, garantía de publicación en la revista Communications in Computer and Information Science, de la editorial científica internacional Springer.

“Los modelos de aprendizaje de Inteligencia Artificial acaban funcionando como una especie de 'caja negra', es decir, te da un resultado predecible, pero no te dice el camino que tomó para llegar a ese resultado”, explica Jade, quien Es licenciado en Ciencia y Tecnología por la Universidad Federal de Rio Grande do Norte (UFRN) y también cursa la licenciatura en Ingeniería Biomédica. En la práctica, esto significa que, cuando utilizamos un sistema de inteligencia artificial para preseleccionar los CV de una empresa, por ejemplo, no tenemos forma de saber exactamente qué criterios se utilizaron para lograr esos resultados, lo que genera problemas éticos en la selección. proceso. Lo mismo ocurre con los sistemas de reconocimiento facial, cuyo uso suele ser criticado por grupos de Derechos Humanos por la falta de transparencia en la toma de decisiones, lo que muchas veces genera pérdidas principalmente para las poblaciones racializadas. 

Ser capaz de interpretar estos modelos, por tanto, es un paso importante hacia su mejora y credibilidad. Según Jade, existen varios métodos para intentar hacer esta interpretación, y lo que ella hizo fue adoptar la Teoría de Respuesta al Ítem como método de análisis. “Hay varios modelos de interpretación, y yo utilicé uno que es nuevo y poco aplicado hasta ahora, pero que dio buenos resultados”, destaca. 

La TRI, como se la conoce, es una rama de la Teoría de la Medición aplicada principalmente para evaluar conocimientos en pruebas de opción múltiple y pruebas en general, como el Examen Nacional de Secundaria (Enem). Te permite analizar qué preguntas o ítems son más difíciles dentro de ese modelo. Luego, Jade utilizó la teoría aplicada al aprendizaje automático. (aprendizaje automático), para intentar identificar las principales dificultades del sistema y luego aumentar el número de ejemplos en estos ítems para intentar hacerlos menos problemáticos, como explica el profesor de investigación Abner Rodrigues, asesor de investigación. “Ella usó la Teoría de Respuesta al Ítem aplicada a la Aprendizaje automático, de modo que cada modelo presente qué datos son más difíciles de procesar. Entonces, con esta información, podemos tener información extra sobre cómo el modelo está tomando la decisión”, explica Abner.

A partir de entonces, los ejemplos que se consideran más difíciles o problemáticos pasan a recibir cientos de ejemplos aumentados artificialmente para mejorar el modelo. “Usamos IRT para encontrar los elementos que son más difíciles y problemáticos, y luego aumentamos estos ejemplos para entrenar el modelo. Lo que identificamos es que sí, el modelo mejora, y esos ítems dejan de ser tan problemáticos a medida que se identifican y aumentan los ejemplos”, agrega el profesor. 

Según él, la principal innovación del estudio desarrollado por Jade es el uso de criterios definidos para elegir qué elementos necesitan ser más “entrenados” porque son más difíciles o problemáticos. “La gente ya sabe que existen algunos criterios para aumentar una base de datos para que el modelo funcione mejor, pero esos aumentos se hacen de forma arbitraria. El TRI es para que podamos saber qué es problemático y utilizar el aumento exactamente para mejorarlo”, dice Abner. 

Jade, quien continúa estudiando el tema, afirma que el trabajo aún no está completo, pero que el reconocimiento por parte del comité evaluador de la conferencia internacional fue fundamental para que vieran que estaban en el camino correcto. “No era algo que me esperaba, porque aún no está lista la obra completa. Esto es parte de mi trabajo actual, así que no nos esforzamos por mostrar todo nuestro trabajo ahora, pero resultó que la mitad terminó siendo suficiente para ser clasificado como uno de los mejores del evento. Era consciente de que lo que estaba haciendo era realmente nuevo, pero esto nos dio aún más combustible para continuar nuestros estudios”, destaca.