Los profesores de ASU advierten contra indicaciones ocultas de IA en las tareas sobre riesgos de integridad y accesibilidad
La guía de la Universidad Estatal de Arizona destaca los límites de las tácticas de detección de IA a medida que las instituciones reconsideran las estrategias de evaluación. Los profesores de ASU destacan los desafíos en la detección de IA a medida que las universidades cambian hacia modelos de evaluación que tienen en cuenta el uso de IA generativa. Los profesores de la Universidad Estatal de Arizona desaconsejan el uso de indicaciones ocultas de IA en las tareas, advirtiendo que el enfoque no produce evidencia confiable de mala conducta y puede introducir riesgos de accesibilidad para los estudiantes. La guía, desarrollada dentro de la Facultad de Ciencias y Artes Integrativas (CISA), llega mientras las universidades continúan probando formas de identificar el trabajo generado por IA manteniendo al mismo tiempo los estándares de integridad académica. La táctica implica incorporar texto invisible o instrucciones dentro de los materiales de la tarea, diseñados para influir en los resultados si los estudiantes pegan el contenido en herramientas de inteligencia artificial. Los profesores involucrados en la guía dicen que el método es ineficaz y puede crear consecuencias no deseadas tanto para los estudiantes como para los instructores. El enfoque de detección no logra producir evidencia utilizable En una publicación de LinkedIn, Adam Pacton, miembro del decano de alfabetización e integración de IA en ASU, dijo que el enfoque no cumple con el umbral requerido para los casos de integridad académica. Escribió: "En primer lugar, en nuestra universidad la 'evidencia' del uso de la IA generada a través de indicaciones ocultas no es suficiente para una investigación formal de integridad académica. Es una trampa que no 'capta' nada". La guía explica que los sistemas de inteligencia artificial no responden consistentemente a instrucciones ocultas. El mismo mensaje puede ignorarse, seguirse parcialmente o reproducirse de maneras que no se pueden distinguir de la escritura estándar de los estudiantes. Como resultado, la presencia de frases o resultados específicos no puede considerarse como prueba concluyente de mala conducta. También señala que las indicaciones ocultas tienden a capturar solo un conjunto limitado de comportamientos, principalmente estudiantes que copian y pegan directamente el texto de la tarea en herramientas de inteligencia artificial, mientras que otros pueden evitar la detección por completo. Se destacan los riesgos de accesibilidad y cumplimiento Más allá de la confiabilidad, la guía plantea preocupaciones sobre la accesibilidad. Los lectores de pantalla y otras tecnologías de asistencia pueden detectar texto oculto en materiales digitales, lo que podría exponer las instrucciones a algunos estudiantes pero no a otros. Pacton escribió: "En segundo lugar, el texto invisible en los materiales digitales del curso puede violar la regla federal del Título II de la ADA de 2024. Los lectores de pantalla pueden mostrar instrucciones ocultas de manera confusa a los estudiantes que usan tecnología de asistencia. Eso no es una peculiaridad de la falla de detección; es una falla de accesibilidad". Esto crea el riesgo de experiencias inconsistentes de los estudiantes dentro de la misma tarea, particularmente para los estudiantes que usan herramientas de accesibilidad, e introduce posibles problemas de cumplimiento bajo los estándares federales de accesibilidad. Impacto en la confianza en el aula y el entorno de aprendizaje La guía también señala el impacto más amplio de las tácticas basadas en la detección en el aula. Las indicaciones ocultas pueden crear lo que los profesores describen como una dinámica “adversaria”, donde los estudiantes perciben que los instructores intentan atraparlos en lugar de apoyar el aprendizaje. Señala que algunos estudiantes ya conocen estas técnicas, lo que reduce su eficacia como elemento disuasorio y, al mismo tiempo, aumenta potencialmente el escepticismo sobre las prácticas de evaluación. El resultado, según la guía, es un beneficio limitado en la detección del uso de la IA, junto con posibles costos pedagógicos y de reputación. Cambio hacia el rediseño y la transparencia de las asignaciones En lugar de métodos de detección, la guía recomienda rediseñar las asignaciones para hacer que la descarga de IA sea más difícil o menos relevante. Los enfoques sugeridos incluyen requerir reflexión personal, incorporar borradores preparados con seguimiento de revisión e integrar el trabajo en discusiones en clase. También alienta a los instructores a incorporar puntos de verificación, donde los estudiantes explican su proceso con sus propias palabras y a definir claramente cómo se pueden utilizar las herramientas de inteligencia artificial en cada tarea. Pacton escribió que el trabajo no es una política formal sino parte de un esfuerzo continuo para desarrollar enfoques más efectivos en toda la universidad, y lo describe como "nosotros aprendemos en voz alta, trabajamos en todos los roles y tratamos de hacer lo correcto tanto para los estudiantes como para los colegas dentro de la facultad, la universidad y el sector en general".
