La ciudad de Nueva York ha marcado un hito significativo en la regulación de la inteligencia artificial (IA) en sus escuelas públicas. Las autoridades educativas han presentado nuevas directrices que buscan establecer un marco claro y seguro para la adopción de tecnologías basadas en IA, en un contexto donde la innovación progresa rápidamente y surgen preocupaciones entre padres y educadores.

El Departamento de Educación ha diseñado un esquema que prioriza la cautela y la participación de la comunidad, adaptando la tecnología a las necesidades de casi un millón de estudiantes, como se detalla en un informe de NBC News.

Las nuevas directrices, introducidas por el Departamento de Educación de Nueva York (NYCPS), inauguran una política integral acerca del uso de IA en el sistema escolar más grande de Estados Unidos.

El objetivo central es asegurar que la integración de la inteligencia artificial en el aula se realice de manera segura, ética y responsable, priorizando la protección de los estudiantes y la calidad educativa.

Este documento fue desarrollado con la colaboración de más de 1.000 participantes de la comunidad educativa, estableciendo una visión compartida para el uso de tecnologías emergentes.

El modelo de uso de IA permite a educadores utilizar herramientas aprobadas para la planificación de clases, traducción y desarrollo profesional, siempre bajo una supervisión ética.

La adopción de estas normas responde a la necesidad de preparar a los alumnos para un mundo donde la inteligencia artificial ya es parte integral del entorno laboral y social, reconociendo al mismo tiempo los riesgos y limitaciones de estas tecnologías.

La guía también enfatiza que la tecnología no debe reemplazar el juicio profesional de los educadores. Los estudiantes necesitan adultos que sepan discernir cuándo y cómo utilizar la IA para enriquecer el aprendizaje.

Además, se subraya que el desarrollo del pensamiento crítico y la adquisición de competencias fundamentales deben prevalecer sobre la dependencia excesiva de herramientas automatizadas.

Un Enfoque Esquemático para la IA

La estrategia adoptada por la ciudad para orientar el uso de la inteligencia artificial en sus escuelas se basa en un sistema de semaforo. Este esquema clasifica las posibles aplicaciones de la IA de acuerdo al nivel de riesgo y a la necesidad de salvaguardas adicionales.

En la categoría roja, se prohíbe el uso de IA para la toma de decisiones sobre estudiantes, incluyendo calificaciones, disciplina o asesoramiento, debido a los altos riesgos que conlleva para la equidad y la privacidad.

El semáforo amarillo indica situaciones donde el uso de IA es aceptable con precauciones, como en investigaciones o proyectos creativos, siempre bajo supervisión y con criterios éticos claros.

Por el contrario, la luz verde permite el uso de IA en tareas administrativas, como la elaboración de horarios y traducción de documentos no críticos.

Este modelo busca equilibrar la innovación tecnológica con la protección de los derechos de los estudiantes, estableciendo límites claros sobre el uso de la inteligencia artificial en el entorno escolar. El sistema de semáforo facilita la toma de decisiones a educadores y administradores, proporcionando directrices precisas sobre lo que está permitido y lo que requiere un análisis más profundo.

Reacciones de la Comunidad Educativa

El anuncio de las nuevas directrices ha generado reacciones mixtas entre familias y alumnos. Un grupo de padres, liderado por organizaciones como Parents for AI Caution in Educational Spaces, expresa su preocupación por la velocidad con que se implementa la IA en las aulas.

Estos padres argumentan que la normativa actual carece de mecanismos sólidos para fomentar la alfabetización crítica digital y cuestionan el impacto de delegar procesos de pensamiento a sistemas automatizados.

Asimismo, muchos temen que sus hijos se conviertan en sujetos de experimentación mientras las autoridades ajustan las políticas de integración de IA, lo que podría limitar su capacidad para desarrollar habilidades cognitivas esenciales.

Por otro lado, se han escuchado voces de estudiantes de primaria que prefieren un entorno libre de inteligencia artificial, sugiriendo que la tecnología podría obstaculizar su participación activa y el desarrollo del pensamiento independiente.

La posibilidad de optar por no participar en actividades que involucren IA no es uniforme en el sistema, lo cual lleva a algunos padres a buscar acuerdos individuales con las escuelas.

Padres y docentes también manifiestan inquietudes sobre la rápida implementación de la IA en las aulas y demandan mayor participación pública y transparencia.

Desde la administración educativa, se subraya que la IA no reemplazará a los maestros, sino que servirá como apoyo en tareas administrativas y pedagógicas, buscando fortalecer el pensamiento crítico.

Las herramientas de IA utilizadas deben someterse a un riguroso proceso de revisión, conocido como ERMA (Enterprise Request Management Application), para asegurar el cumplimiento de normativas de protección de datos, como la FERPA y la Ley de Educación de Nueva York.

Las regulaciones exigen que los proveedores de IA revelen las capacidades de sus sistemas y prohíben el uso de datos de estudiantes para entrenar modelos. Solo los sistemas que aprueban esta evaluación podrán usarse con información de alumnos o personal. Además, se están implementando mecanismos para analizar el sesgo algorítmico y la adecuación pedagógica de las herramientas aprobadas.

Un proceso de consulta pública de 45 días invita a la comunidad a aportar comentarios y sugerencias, asegurando que la integración de la IA responda a los intereses y preocupaciones de todos los sectores involucrados.

Regulación de la Inteligencia Artificial en las Escuelas de NY

• La ciudad de Nueva York implementa nuevas directrices para regular el uso de IA en escuelas.
• Un enfoque de semáforo clasifica aplicaciones de IA según riesgo y necesita de salvaguardas.
• Se establece un riguroso proceso de revisión para herramientas de IA, garantizando la protección de datos.
• La comunidad educativa es invitada a participar en la consulta pública para mejorar las directrices.