La inteligencia artificial debe gestionarse de forma crítica en todas sus funciones

Ciudad de México, 01 de septiembre del 2024.- Debe incorporarse como un tema central de estudio para que el estudiantado desarrolle habilidades pertinentes en su formación *El objetivo del uso y desarrollo de la IA tendrá que encaminarse a la promoción del bienestar humano, la inclusión social y la formación integral de las personas *Especialistas participaron en el Foro Perspectiva Multidisciplinaria de la Inteligencia Artificial desde la Educación Superior.

La integración de la inteligencia artificial (IA) en las actividades académicas y educativas representa un desafío y una oportunidad que instituciones como la Universidad Autónoma Metropolitana (UAM) no pueden ignorar, afirmó el doctor José Antonio De los Reyes Heredia, rector general de la Casa abierta al tiempo, durante la inauguración del Foro Perspectiva Multidisciplinaria de la Inteligencia Artificial desde la Educación Superior, realizado en la Unidad Iztapalapa como parte de las celebraciones por el 50 aniversario de la Institución.

La Inteligencia Artificial tiene el potencial de transformar la educación, personalizando el aprendizaje, optimizando los procesos administrativos y fomentando nuevas formas de enseñanza que respondan a las necesidades individuales de los estudiantes; sin embargo, esta transformación debe ser guiada por algo más que una intuición responsable, en la que se consideren no sólo los beneficios inmediatos, sino también las implicaciones a largo plazo para la sociedad, señaló.

El doctor De los Reyes Heredia aseveró que la UAM, como institución educativa comprometida con el desarrollo social, tiene el deber de anticipar los efectos de la inteligencia artificial en todas sus funciones sustantivas; “se trata de preparar al alumnado y al profesorado para comprender y gestionar estas tecnologías de manera crítica, lo que implica incorporar la IA en el currículo no sólo como herramienta, sino también como un tema central de estudio que permita a las y los estudiantes desarrollar habilidades pertinentes en su formación. Al promover un enfoque inter, multi y transdisciplinario en la enseñanza de la IA estará respondiendo a sus objetivos fundacionales, ya que desde el modelo departamental permite que haya un flujo eficiente entre las diferentes disciplinas, pues dada su complejidad y sus efectos en la sociedad, ésta requiere de una comprensión que involucre a todas las disciplinas. El Rector General agradeció la presencia de investigadores de las cinco Unidades de la UAM, quienes aportarán un enfoque integral en este foro que puede aportar a que los futuros profesionales estén preparados para utilizar la IA de manera que promueva la equidad, la inclusión y el bienestar social.

Por su parte, la doctora Verónica Medina Bañuelos, rectora de la Unidad Iztapalapa, expuso que la inteligencia artificial se ha convertido en un eje fundamental en la configuración de la economía global, “impactando los ámbitos del trabajo, la educación, la recreación, la ciudadanía, la cultura y en todos los aspectos de nuestro quehacer como sociedades”. Con su vasto potencial la IA ofrece beneficios “que podrían transformar profundamente nuestras vidas, sin embargo, no podemos ignorar los retos que plantea, especialmente aquellos relacionados con la profundización de brechas sociales, así como consideraciones éticas y de seguridad inherentes a su desarrollo y aplicación”.

En se sentido, la UAM, fiel a su compromiso con la comunidad, asume su responsabilidad de fomentar una postura crítica y consciente frente a estos desafíos, sin mitos, sin estigmatizaciones y con el objetivo claro del uso y desarrollo de la IA hacia la promoción del bienestar humano, la inclusión social y la formación integral de las personas. En la primera conferencia magistral del Foro titulada ¿Es posible desarrollar una Inteligencia Artificial responsable y confiable hoy en día?, el doctor Ulises Cortés, investigador de la Universitat Politécnica de Catalunya, expuso que frente a las potencialidades de la IA, las sociedades deben hacerse una serie de preguntas, tales como si sus aplicaciones pueden ser algo bueno o malo; si estos sistemas pueden ser éticos; cuál es la responsabilidad de la ciencia, es decir, si es una ciencia o no; cuál es la responsabilidad del Estado, del político y del ciudadano.

Lo anterior es importante porque “no existe un mecanismo algorítmico que permita corregir todos los efectos laterales, sesgos, errores, ni prevenir el mal uso de ninguna aplicación tecnológica”; en tal sentido, la educación, la regulación y la certificación son condiciones sine qua non para reducir los riesgos del empleo de la tecnología, apuntó. Los sistemas basados en IA “ya actúan en forma autónoma en nuestro mundo” y quizá algún día “estos sistemas tomarán mejores decisiones que los humanos.

Hoy todavía está diseñada por personas, y “es un artefacto”, pero “debemos garantizar que el propósito incorporado en la máquina sea el que deseamos”. Lo anterior supone tratar de responder a la pregunta ¿cómo queremos que sean las aplicaciones de la IA? Si se pretende que sean eficientes, efectivas, justas ecológicas; responder también a otros cuestionamientos respecto de ¿quién debería decidirlo?, ¿bajo qué valores éticos, legales, socioeconómicos, culturales y de género deberían considerarse? Y específicamente con los valores de quién, ya que actualmente la IA se ha desarrollado en respuesta a los intereses del norte global y de China. Cortés subrayó la necesidad de prevenir el mal uso de la tecnología; los ciudadanos con su responsabilidad, los gobiernos con sus legislaciones y los científicos con sus aportaciones.

El investigador de la Universitat Politècnica de Catalunya discurrió que el rol de los estados es crucial para crear un ecosistema de IA que sea confiable, ético y beneficioso para la sociedad, al equilibrar la innovación con la protección de los derechos humanos, del medio ambiente y los valores fundamentales, puesto que tiene la responsabilidad de crear leyes y regulaciones para gobernar el desarrollo responsable y el uso de los sistemas basados en IA.

También es crucial que los estados inviertan en investigación y desarrollo para mantenerse a la vanguardia de la tecnología basada en IA y abarcar sus desafíos éticos, legales, socioeconómicos, culturales, de género y técnicos, entre otros. Tras señalar que el uso y despliegue de la investigación y la aplicación de la IA necesita rendición de cuentas, responsabilidad y transparencia, dijo que los artefactos de esta disciplina son construidos “por nosotros para nuestros propios propósitos y, por tanto, como individuos o como sociedades establecemos los límites de su uso”.

En la ceremonia inaugural se contó con la presencia de la doctora Norma Rondero López, secretaria general de la UAM, y el doctor Francisco Javier Soria López, rector de la Unidad Xochimilco. Como parte del comité organizador acudieron Pablo César Hernández Cerrito, coordinador de Apoyo a la Educación Mixta y Virtual, la doctora Hortensia Moreno Macías, coordinadora de la línea de Economía Social del Posgrado de Estudios Sociales, ambos de la sede Iztapalapa; la doctora Patricia Gascón Muro, profesora del Departamento de Relaciones Sociales de la sede Xochimilco; el doctor Marco Vinicio Ferruzca, coordinador de Innovación y Tecnología Educativa de Azcapotzalco; el doctor Christian Lemaitre León, profesor del Departamento de Tecnologías de la Información del campus Cuajimalpa, y la doctora Carmen Miranda Campos, coordinadora de Estudios de Ingeniería en Computación de la Unidad Lerma.

con información de https://boletines.uam.mx/archivos/numero-340/