Ética en el uso de la tecnología; Univalle diseña parámetros para el uso de la inteligencia artificial

El auge de la inteligencia artificial generativa ha transformado la forma en que estudiantes, profesores y profesionales interactúan con la tecnología. Sin embargo, detrás de la facilidad de ChatGPT, Gemini y otras herramientas, se esconde un riesgo que pocas personas perciben: la pérdida del pensamiento crítico y la dependencia ciega de las máquinas.

Ese fenómeno, conocido como ‘deuda cognitiva’, es precisamente lo que la Universidad del Valle busca combatir con dos proyectos pioneros que ya están en marcha.

El profesor Oswaldo Solarte Pabón, director de la Escuela de Ingeniería de Sistemas y Computación de la Universidad del Valle, explica que la deuda cognitiva ocurre cuando una persona utiliza las respuestas que le entrega una inteligencia artificial y las coloca en un trabajo o informe sin analizar la información.

“La gente está utilizando la inteligencia artificial sin tener en cuenta los riesgos que hay allí”, advierte el docente. Según él, si no se hace un uso responsable de estas herramientas, en los próximos diez años la sociedad enfrentará efectos adversos que ya han sido identificados por organismos como la Organización de las Naciones Unidas.

Frente a este panorama, la Universidad del Valle, a través de la Vicerrectoría de Investigaciones, ha diseñado un documento de lineamientos de uso ético de la inteligencia artificial. El texto, que será presentado al Consejo Académico para su aprobación, busca guiar a profesores, estudiantes e investigadores sobre los riesgos de la IA y cómo utilizarla de manera adecuada. “La mayoría de las universidades en Colombia no cuentan con políticas o lineamientos para un uso ético de la inteligencia artificial”, señala Solarte, quien destaca que este proyecto inició en julio de 2025.

El documento, titulado “Lineamientos éticos para el uso institucional de la inteligencia artificial en la Universidad del Valle” contó con la participación de representantes de todas las dependencias de la universidad: estudiantes, profesores, extensión e investigación. Su objetivo no es prohibir el uso de la inteligencia artificial, sino fortalecer la dignidad humana, los derechos humanos, el pensamiento crítico, el bienestar y la autonomía.

Solarte contextualiza la importancia de esta iniciativa citando al Foro Económico Mundial que dice que para el año 2030 las personas que deseen ingresar al mercado laboral deberán dominar habilidades en inteligencia artificial y big data, pero también contar con pensamiento creativo, resiliencia, flexibilidad, curiosidad y capacidad de aprendizaje continuo.

“El mundo nos pide que tengamos habilidades en inteligencia artificial, pero no nos prepara cómo usarla adecuadamente”, advierte el académico.

El mismo Foro Económico Mundial, en su informe de riesgos globales para 2026, identificó los “efectos adversos de las tecnologías de IA” como uno de los principales desafíos que deberá enfrentar la sociedad en la próxima década.

Una vez aprobado el documento por el Consejo Académico, la universidad deberá definir la ruta de implementación, que incluirá jornadas de capacitación para estudiantes y profesores.

La meta es que los egresados de Univalle lleguen al año 2030 con las habilidades que les permitan mantenerse en el mercado laboral, sin caer en la trampa de la dependencia tecnológica.

El segundo proyecto es una apuesta por la soberanía digital en el sector salud. Se trata de una alianza con el Instituto Cisalva y el Hospital Universitario del Valle, para desarrollar una inteligencia artificial propia que permita analizar los datos del registro de trauma del hospital.

El registro de trauma es una base de datos enorme que contiene las historias clínicas de pacientes que llegan al hospital con heridas cortopunzantes, heridas de bala y accidentes de tránsito. Estos datos están escritos en lenguaje natural, en prosa médica, y su análisis manual tomaría años. La inteligencia artificial ofrece una solución para procesar esta información de manera eficiente, pero plantea un dilema ético: los datos de los pacientes no pueden salir del hospital ni ser compartidos con plataformas externas.

“Muchos médicos están utilizando la inteligencia artificial para hacer diagnósticos, le suben la historia clínica a ChatGPT y eso es un error, porque le están dando datos de los pacientes a una inteligencia artificial que no sabes dónde está, no sabes en qué país está”, alerta Solarte Pabón. Frente a este riesgo, el proyecto busca construir una inteligencia artificial interna, adaptada a las necesidades del registro de trauma, que opere dentro del hospital con sus propios servidores y sin comprometer la seguridad de la información.

“La idea es que el motor de inteligencia artificial que vamos a crear opere allí internamente en el hospital, en el área de la salud, que es donde más se requiere el uso ético y responsable de los datos”, precisa el profesor.