“Todo lo que es Inteligencia Artificial (IA) generativa es probabilístico, donde las respuestas se generan por probabilidad. Lo grandes empresas, como OpenAi que gestiona ChatGPT, nos utiliza como conejillos de indias para ir experimentando y lanzando nuevas versiones, y a la medida que van surgiendo problemas, los van solucionando”, expresó el técnico del ministerio de Educación de La Pampa, Juan Pablo Neveu, y aconsejó que los padres de niños y adolescentes que acompañen a sus hijos en su utilización “con todas las prevenciones”.
Un reciente estudio del Centerfor Countering Digital Hate (CCDH) alertó sobre los peligros que puede generar la utilización de ChatGPT en el público adolescente, porque proporciona instrucciones detalladas y peligrosas que simulan vulnerabilidad, incluyendo planes para el consumo de drogas, dietas restrictivas y hasta la redacción de notas de suicidio, a pesar de las advertencias que han sido incorporadas y que, según muestra el trabajo, no son suficientes.
En el trabajo, más de la mitad de las 1.200 respuestas de ChatGPT fueron clasificadas como peligrosas, porque los investigadores pudieron eludir fácilmente las protecciones de seguridad del chatbot. En este sentido, OpenAI -la empresa creadora de ChatGPT- reconoció la problemática pero no abordó directamente los hallazgos del informe. Por eso, el estudio destacó la necesidad de mejores protecciones y la preocupación por la dependencia emocional en adolescentes.
Los investigadores demostraron que era sorprendentemente fácil eludir las medidas de seguridad de ChatGPT, simplemente al afirmar que la información solicitada era para una presentación o un amigo. Esto subraya la necesidad urgente de mejorar los mecanismos de seguridad y la supervisión de estas tecnologías de inteligencia artificial. Y OpenAI reconoció la problemática y afirmó estar trabajando en mejoras, pero no abordó directamente los hallazgos específicos del informe.
Taller para estudiantes.
Neveu es Licenciado en Tecnología Educativa (UTN) y Diplomado en Análisis de Datos (UBA), y dictó un taller para estudiantes de Nivel Secundario en la segunda Expo Carreras que se realizó – ías atrás- en el SUM de los colegios Manuel Belgrano y Licenciado Hugo Peinetti de Eduardo Castex.
El entrevistado explicó que se desarrolló “una jornada con desafíos de IA para alumnos de Cuarto, Quinto y Sexto Año”, para explicar “la importancia de la IA en la educación y en el mundo del trabajo”, pero planteando que se debe “aprender a mirarla críticamente” para “contrastar las fuentes y aprender a pensar con IA”.
“Mientras más inteligente sea la IA, nosotros tenemos que promover una mejor educación, una formación con pensamiento más creativo, más crítico y más profundo, para entender mínimamente como funciona la IA y que está escondido detrás de la pantalla para que después nos cree el texto, esa imagen, el video o podcast”, expresó Neveu.
En las jornadas que organiza el ministerio de Educación de La Pampa en las distintas localidades pampeanas se desarrolla este taller, donde se desafía a los estudiantes para que “reconozcan imágenes y textos que fueron creadas por IA y otras que no, para que podamos reconocer los trabajos que fueron creados con IA, porque a pesar de que lo hace tan bien hay marcas que nos permiten reconocerla y porque es importante aprender a pensar antes de tomar eso que ya nos presenta digerido la IA”.
Utilización acrítica.
“Preocupa que (la IA) se está utilizando acríticamente, porque hay gente que toma la IA como psicólogo, hay consultas referidas a la salud y eso es peligroso, porque la IA en base a probabilidades, no es determinista y puede equivocarse en fechas o nombres”, aseguró Neveu.
“Construye –continuó- muy bien textos desde el punto de vista racional, que son extensiones de habilidades cognitivas que tenemos nosotros que son procesadas computacionalmente, pero no es bueno utilizar la IA para buscar información, porque ahí es recomendable utilizar buscadores”.
“La IA se puede utilizar para potenciar el razonamiento, para comparar información, relacionar documentos, hacer síntesis o guías de estudios”, agregó.
Brecha digital.
“La IA es un amplificador del pensamiento humano, si el talento humano y las habilidades cognitivas no están desarrolladas, lamentablemente el resultado que obtendrá con la IA será pobre. Y la persona que tiene práctica de escritura, que utiliza la escritura como vehículo de organización del pensamiento, sabe jerarquizar ideas y analizar críticamente, esa podrá obtener resultados más importantes”, sostuvo Neveu.
El entrevistado también planteó que esta herramienta que revoluciona –y preocupa- al mundo, provocará una mayor brecha digital. “Si, esto genera una preocupación adicional que son las brechas digitales, porque habrá un conjunto de personas que se beneficiará mucho porque podrá ampliar su capacidad creativa, cognitiva y de productividad, y otro sector la utilizará acríticamente con resultados muy pobres”, reconoció.
“La otra brecha digital que se genera con el acceso a lo gratuito donde tendrán acceso a una determinada cantidad de tokens y cuando llegas al límite tendrás que esperar hasta el otro día, y quienes accedan a las versiones plus o pagas que se abonan en dólares, y esas versiones tienen modelos de IA más potentes y productivas que las de acceso libre”, expresó.
-¿Los padres se deben preocupar por el abuso que pueden hacer los niños y adolescentes de la IA?
-Cuando los chicos copian y pegan desde la IA genera pereza cognitiva. Hay esfuerzos desde el ministerio de Educación para ir cambiando el modelo de enseñar y evaluar, para que quienes realicen trabajos con IA después los tengan que defender oralmente y explicar lo que hizo en el power point para determinar si estudio y trabajo, o solamente copió y pegó.
– Un reciente estudio de Centerfor Countering Digital Hate alertó sobre la dependencia emocional y los contenidos a los cuales pueden acceder los niños y adolescentes por intermedio de la IA…
-Sí. Todo lo que es IA generativa es probabilístico, donde las respuestas se generan por probabilidad. Lo que hacen las grandes empresas, como OpenAi que gestiona ChatGPT, nos utiliza como conejillos de indias para ir experimentando y lanzando nuevas versiones, y a la medida que van surgiendo problemas, los van solucionando. Pero en medio surgen riesgos. Por eso es acompañar a los niños y adolescentes, y utilizarlo con todas las prevenciones.
