Las defensorías universitarias de Andalucía se han puesto manos a la obra respecto a una nueva realidad que impacta en todos los ámbitos de la actividad de las universidades: la irrupción de la inteligencia artificial. Desde la UAL, anfitriona de unas exitosas jornadas de trabajo, se ha reafirmado su papel como espacios de garantía institucional orientados a proteger derechos, reforzar la proporcionalidad, favorecer la transparencia y evitar actuaciones arbitrarias o insuficientemente fundamentadas y, sobre todo, como la instancia que sugiera a las instituciones la necesidad imperiosa de ese cambio necesario para no devaluar el papel social, científico, cultural y económico que desempeñan las universidades.
Así, ya hay conclusiones de las Jornadas organizadas este mes de mayo en el campus almeriense por la Red de Defensorías Universitarias de Andalucía (REDUAN), tituladas ‘Inteligencia Artificial: Retos y Oportunidades para las Defensorías Universitarias’. Este informe será compartido para su uso en todo el territorio nacional a través de la Conferencia Estatal de Defensorías Universitarias, y parte de una idea presente en todas las sesiones: la IA no constituye únicamente un desafío tecnológico, sino también ético, jurídico, organizativo y profundamente humano. Estamos ante una tecnología que está modificando las formas de enseñar, investigar, gestionar y relacionarse dentro de la universidad, pero también se ha insistido en que el verdadero valor de estas jornadas ha sido abordar esta cuestión desde la perspectiva de los derechos, de las garantías y de la convivencia. Todo el contenido de los debates va a quedar plasmado en documentos concretos de gran interés para la gobernanza de las instituciones españolas.
En las conclusiones y propuestas se ha insistido especialmente en la necesidad de mantener una misma mirada sobre un mismo hecho, para así evitar respuestas radicalmente distintas ante situaciones similares según la universidad o el contexto. Ha habido un debate sobre la conveniencia de elaborar un manual ético común, así como protocolos de actuación ante casos de uso presuntamente fraudulento de las herramientas de IA. Se ha determinado que la necesidad de formación en equidad se convierte en elemento central, se ha visto la importancia de que las reglas respecto al uso permitido o prohibido de IA aparezcan claramente definidas desde el inicio en las guías docentes y en la información dada al alumnado, y se ha debatido si replantear los actuales sistemas docentes y de evaluación.
Se han identificado dos planos complementarios de actuación: la elaboración de sugerencias y recomendaciones concretas por parte de las defensorías universitarias para orientar la actuación institucional ante problemas ya detectados; y la necesidad de identificar los elementos comunes sobre los que ya se está trabajando en las distintas universidades, para avanzar después hacia un marco compartido que permita desarrollar respuestas realmente coordinadas y conjuntas. Se ha propuesto la creación de una subcomisión que aborde estas iniciativas y también se ha descrito la oportunidad de aprovechar estas jornadas para dejar clara una declaración de intenciones como defensores. En definitiva, se ha hablado de derechos, de garantías, de transparencia, de proporcionalidad, de supervisión humana y de cómo preservar el sentido mismo de la universidad en un contexto de transformación acelerada.
Actuar con rapidez es fundamental, atendiendo a la reflexión de Bernardo Claros, Defensor Universitario de la UAL: “Hoy ya es tarde, mañana no tiene remedio”. El debate ha sido muy rico: “Ha habido distintas situaciones de partida, distintas reflexiones previas en sus universidades respectivas y, fundamentalmente, hemos oído aportaciones muy diversas de situaciones y realidades muy distintas”.
Ha definido como “muy enriquecedor todo lo que se ha trabajado en las ponencias y la participación en las mesas redondas y en el taller, con las aplicaciones prácticas de muchos de los casos que se han puesto encima de la mesa”. Ha destacado “la preocupación común” de los defensores “ante un hecho común como es la irrupción de la IA en el ámbito universitario” y que “no puede afrontarse con soluciones parciales o vinculadas a un territorio concreto, porque la inteligencia artificial está afectando a todos de la misma manera y necesitamos que los cambios se hagan de manera coordinada”. A corto plazo “pedimos específicamente que haya códigos éticos homogéneos en todas las universidades sobre el tratamiento de la IA y qué es permisible, qué es recomendable y qué es ético”, textualmente, además de “que haya un marco regulatorio común, no propio, aunque cada universidad tendrá que adaptarlo a sus circunstancias concretas”. Ha pedido “un marco común que fije cuáles son sus límites en todos los terrenos universitarios”.
Claros ha subrayado que “no valen soluciones implementadas de forma unilateral en cada universidad” antes de pasar al medio plazo, en el que “preocupa que la IA ha venido para quedarse y que esa permanencia nos obliga a convivir con ella y a repensar de forma profunda el nuevo rol que ejercen los distintos sectores universitarios”. Para el largo plazo, adelantarse a preguntas como “en qué va a cambiar este impacto de la IA a las universidades, cómo afrontarlo de forma que siga controlada por los humanos y no sea un elemento que nos controle, o cómo se van a modificar la docencia, los procesos de enseñanza-aprendizaje y los procesos de evaluación”. Por lo tanto, “la IA ya no es una cuestión de decidir si sí o si no, está aquí, ha venido para quedarse, no podemos poner puertas al campo, pero sí afrontarla con herramientas que tenemos que implantar ya, códigos éticos y marcos regulatorios.
El Defensor Universitario de la UAL ha subrayado la necesidad de “un repensar de forma muy profunda cuál es el papel que en el futuro van a jugar las universidades, el papel de los docentes, el nuevo proceso de enseñanza-aprendizaje que la IA implanta”, a lo que ha añadido otra cuestión clave: “Cómo podemos aprovechar todas esas novedades para que sigamos siendo espacios humanos, espacios garantistas, espacios de derechos, espacios éticos, espacios críticos”. Y es que “en el fondo la IA no es solo una innovación tecnológica: va a cambiarnos como seres humanos de forma muy profunda y puede hacer que las universidades sean irrelevantes si no afrontamos todos esos cambios desde una perspectiva de futuro”. La velocidad es tal que “o tomamos algunas medidas ya, hoy, o mañana probablemente ya no seamos capaces de tomar las riendas de ese impacto que tiene la IA en nuestras universidades”.
Por mesas redondas, la primera ha estado dedicada a los aspectos éticos y jurídicos con Mercedes Siles y Eduardo Gamero. Se ha insistido en que la IA no piensa ni comprende, sino que simula procesos mediante algoritmos que no son neutrales y que reproducen sesgos, intereses y estructuras de poder. Se ha abordado problemas graves como vigilancia masiva, manipulación, discriminación, control social, dependencia tecnológica y el enorme poder acumulado por las grandes corporaciones tecnológicas. La IA debe mantenerse siempre al servicio del ser humano y nunca sustituirlo, y hay necesidad de garantizar una supervisión humana efectiva en cualquier decisión automatizada que afecte a derechos. Preocupa el importante deterioro del pensamiento crítico y la ‘descarga cognitiva’, es decir, el riesgo de delegar excesivamente nuestros propios procesos intelectuales en sistemas automatizados.
La segunda mesa redonda se ha centrado en los problemas derivados del uso de la IA en la docencia, la evaluación y la investigación, con Juan Sebastián Fernández y Víctor Bastante. Se han hablado sobre alucinaciones, fabricación de datos, opacidad de modelos y concentración tecnológica en muy pocas empresas. Se ha reflexionado sobre cómo la IA puede afectar a la calidad del conocimiento y a la propia forma de producir ciencia, revisándose recomendaciones internacionales y políticas editoriales de revistas científicas. Se ha obtenido uno de los grandes consensos: la universidad ya no puede actuar como si la IA no existiera respecto a la docencia y la evaluación. El uso masivo de estas herramientas por parte del alumnado es un problema también pedagógico e institucional.
La tercera ha estado dedicada a políticas y gestión de usuarios y al uso de IA en las Defensorías, con las intervenciones de Francisco José García y María del Carmen Balbuena, coordinadas por Salvador Cruz y con Mercedes Lomas como relatora. La transformación digital universitaria desde la perspectiva de la automatización segura de procesos y de la gobernanza del dato se ha abordado con referencias a sistemas fragmentados, tratamiento masivo de información, opacidad algorítmica y dependencia tecnológica. Como eje, automatizar no significa sustituir personas, sino construir procesos más eficientes respetando siempre la legalidad y los derechos fundamentales. Importante proteger la confidencialidad y la independencia funcional de las Defensorías Universitarias.
El taller formativo final ha trasladado muchas de las cuestiones teóricas a casos reales y simulados relacionados con reclamaciones derivadas del uso de IA en trabajos académicos e investigación. Aquí se ha discutido probablemente una de las preocupaciones más importantes: el riesgo de que la mera invocación de la inteligencia artificial termine convirtiéndose en una explicación genérica o justificación automática de decisiones académicas insuficientemente fundamentadas. Se ha insistido en que las herramientas ofrecen únicamente indicios y no pruebas concluyentes, se ha hablado del riesgo de desplazar indebidamente la carga de la prueba hacia el estudiante y de la necesidad de mantener siempre una valoración académica integral, contextualizada y humana.
