La trampa oculta de IA del profesor descubrió a 32 alumnos

Vis MaquinaCeleste.es oftere i Googles søgeresultater.

Añadir MaquinaCeleste.es a Google

Hoy en día, los educadores se enfrentan a un desafío monumental al evaluar el trabajo genuino de sus alumnos en una era dominada por asistentes tecnológicos de fácil acceso. Recientemente, lo que parecía una prueba académica rutinaria terminó destapando un patrón idéntico y verdaderamente sorprendente en decenas de trabajos entregados.

Mientras preparaba un examen sobre la Revolución Industrial, Jason Gibson, profesor de historia en la Universidad Estatal de Alcorn en Misisipi, ideó una estrategia magistral. Decidió insertar una frase invisible directamente en las instrucciones de la prueba, utilizando texto blanco sobre un fondo completamente blanco.

A simple vista, era imposible detectar este fragmento oculto al leer el documento. Sin embargo, si alguien intentaba tomar un atajo copiando el enunciado en el cuadro de texto de un chatbot inteligente, la instrucción camuflada se trasladaba de forma automática. Este mensaje confidencial era muy claro: exigía al sistema que incluyera una mención totalmente irrelevante sobre Madagascar en la respuesta.

El momento de calificar los ensayos dejó al docente sin palabras. De un total de 35 trabajos presentados, nada menos que 32 contenían esa absurda referencia a la nación africana. Como era de esperar, todos los estudiantes sorprendidos in fraganti con esta técnica recibieron una puntuación de cero en esa sección de la evaluación.

El motivo por el que fallan los detectores de software

En el ámbito académico, estas anomalías sistemáticas sirven como prueba irrefutable de que la orden oculta pasó por un proceso de copiado, procesamiento automatizado y posterior pegado. Aunque resulta imposible determinar con absoluta certeza qué programa exacto se utilizó, o si todos los alumnos hicieron trampa idénticamente, la infracción en sí resulta innegable.

El profesor recurrió a este método tan poco convencional cuando sus sospechas comenzaron a crecer de manera alarmante. De repente, el estilo de redacción de muchos universitarios empezó a parecerse de manera sospechosa, alejándose por completo de cómo argumentaban normalmente durante las clases presenciales. Además, él conocía perfectamente las graves deficiencias de las herramientas de detección tradicionales, las cuales son fácilmente engañadas si simplemente se alteran un poco las frases generadas por máquinas.

La falta de confianza en los controles automatizados está totalmente respaldada por recientes investigaciones académicas. Hace poco, un equipo científico dirigido por Mike Perkins puso a prueba seis sistemas de reconocimiento diferentes analizando más de ochocientos documentos. Los resultados evidenciaron un desplome drástico en la fiabilidad. Cuando el texto artificial original sufría modificaciones menores, la precisión media caía en picado desde casi un 40 por ciento a un escaso 17,4 por ciento.

Otro estudio independiente, que evaluó doce plataformas gratuitas y dos herramientas de pago contra el plagio, llegó prácticamente al mismo veredicto. Según el informe científico liderado por Debora Weber-Wulff, publicado en una prestigiosa revista sobre integridad educativa, estos programas informáticos carecen de la precisión necesaria para actuar como jueces definitivos a la hora de dictaminar quién es el verdadero autor de un escrito.

En definitiva, una sencilla frase oculta y colocada estratégicamente proporcionó al educador una evidencia mucho más sólida que cualquier software avanzado del mercado actual. No obstante, para ser justos, cabe destacar que este incidente en particular todavía no ha sido sometido a una evaluación externa que corrobore los archivos originales entregados por los involucrados.

Scroll to Top