Un robot delante de una pizarra.

Un robot delante de una pizarra. PhonlamaiPhoto iStock

Software

Cuando ChatGPT engaña a los profesores: la IA le hizo creer que sus alumnos habían copiado

El doctor usó la herramienta de IA de OpenAI para comprobar si sus estudiantes habían usado el chatbot para escribir sus trabajos.

17 mayo, 2023 19:43

Desde que herramientas como ChatGPT arrasaron en Internet, no fueron pocas las voces que advirtieron de sus principales problemas. El chatbot, pese a que cuenta con grandes capacidades, no es en absoluto infalible y puede llegar a tener una serie de malos usos en áreas críticas como la enseñanza o en entornos laborales específicos. Un ejemplo de esto se ha vivido en Texas, donde un profesor de universidad suspendió a casi toda su clase debido a que usó de forma incorrecta ChatGPT para detectar si habían copiado.

Según recoge la revisa Rolling Stone, todo comienza en la Texas A&M University-Commerce. Un instructor del campus, que imparte clases en el campo de la agricultura llamado Jared Mumm, envió un correo electrónico a un grupo de estudiantes con las notas de sus últimos trabajos del semestre. Mumm había usado ChatGPT para, paradójicamente, detectar si en estos trabajos se había usado este software. El chatbot aseguró al doctor que así era, por lo que suspendió los trabajos.

No obstante, hay un problema. Y es que si bien es cierto que OpenAI, la desarrolladora de ChatGPT ha lanzado una herramienta para detectar texto basado en IA, el propio ChatGPT no incluye esta función. De hecho, no está diseñado para tal fin, y es sabido que el propio modelo es capaz de lanzar información falsa. Por ende, Mumm había suspendido a una buena parte de su clase basándose en una falsedad.

Suspendidos por ChatGPT

Tal y como relatan las últimas informaciones, Mumm demostró una actitud muy beligerante al respecto. ChatGPT supuestamente afirmó al doctor que los trabajos analizados eran fraudulentos, y que habían sido escritos con IA. De hecho, el propio profesor aseguró que había probado con cada uno de los documentos hasta en dos ocasiones, y determinó que no eran trabajos totalmente originales.

Directamente, el doctor ofreció a la clase una tarea de recuperación para evitar el suspenso y sobre todo con la idea de que perdieran su diploma de graduación. Los estudiantes respondieron con pruebas de que no habían usado ChatGPT, incluyendo marcas de tiempo de la suite ofimática de Google que los propios alumnos habían usado. Su respuesta fue que no calificaba "basura IA".

Texas A&M commerce professor fails entire class of seniors blocking them from graduating- claiming they all use “Chat GTP”
by u/DearKick in ChatGPT

Todo desembocó con la pareja de una de las alumnas publicando el correo electrónico de Mumm en Reddit, bajo el pseudónimo 'DearKick'. El prometido de dicha alumna explicó que su pareja ni siquiera sabía de la existencia de ChatGPT, y que toda esta situación le había generado un profundo malestar. Contactaron con el decano y con el presidente de la universidad sin demasiado éxito, lo que forzó a que su pareja y otros tantos compañeros tuvieran que defenderse ante los administradores de la universidad.

DearKick incluso asegura que Mumm no se limitó a la clase de su pareja, sino que suspendió a varias clases al completo, en vez de cuestionar si su procedimiento estaba arrojando resultados fiables. No obstante, el peso de internet cayó sobre el doctor, mostrando que efectivamente, este se encontraba en un error.

Las pruebas

Usuarios de Reddit, ante la situación, se dispusieron a mostrar lo poco fiable que era ChatGPT en esta tarea concreta. El usuario Delicious_Village112 encontró un documento de Mumm; un resumen de la tesis doctoral de Mumm que hablaba sobre la crianza de cerdos. Pasó el documento por el bot, y este aseguró que el texto "podría haber sido generado por un modelo de lenguaje como ChatGPT".

[El momento más temido de la IA: ChatGPT-4 tiene signos de razonamiento humano, avisa Microsoft]

De hecho, también envió el correo electrónico de Mumm a los estudiantes a ChatGPT, obteniendo la misma respuesta. "Sí, escribí el contenido que has compartido". Eso sí, añadiendo lo siguiente: "si alguien usara mis habilidades para ayudar a redactar un correo electrónico, no tendría un registro de ello".

Lo más sorprendente es que después de que se produjeran ciertas reuniones con el decano de ciencias agrícolas de la universidad, tal y como relata DearKick en su publicación original, al menos dos estudiantes admitieron haber usado ChatGPT a principios de semestre, pero en ningún momento en el trabajo analizado por Mumm. De hecho, otro de los estudiantes se valió de las marcas de tiempo de Google Docs para salir indemne de la situación.

Representación de la inteligencia artificial

Representación de la inteligencia artificial mikemacmarketing vía Wikimedia

Ninguno de los usuarios, explican en PC Magazine, suspendió la clase y perdió la graduación. Actualmente, la universidad se ha limitado a declarar que el profesor Mumm está colaborando con los estudiantes para determinar si efectivamente se usó IA para las tareas y en qué nivel se hizo. Esta es una prueba de que si bien los peligros sobre los malos usos de ChatGPT son reales, es necesario que los profesionales en los sectores afectados aprendan sobre esta tecnología como es debido.

También te puede interesar...