Mejora de la gobernanza de la IA para un mayor cumplimiento e innovación universitaria
A medida que la inteligencia artificial (IA) se vuelve más integrada en la educación superior, las universidades deben adoptar prácticas de gobierno sólidas para garantizar que la IA se use de manera responsable. La IA puede generar ideas valiosas para las instituciones de educación superior y puede usarse para mejorar el proceso de enseñanza en sí. La advertencia es que esto solo se puede lograr cuando las universidades adoptan un conjunto estratégico y proactivo de políticas de gestión de datos y procesos para su uso de IA.
Desafíos de datos únicos en la educación superior
La educación superior enfrenta desafíos de datos únicos derivados tanto de los requisitos regulatorios como de la estructura operativa de las universidades. En el lado regulatorio, las instituciones deben cumplir con una variedad de marcos. Estos incluyen la Ley de Derechos Educativos y Privacidad de la Familia (FERPA) para la privacidad de los datos de los estudiantes, la Ley de Portabilidad y Responsabilidad del Seguro de Salud (HIPAA) para las escuelas de medicina y el estándar de seguridad de datos de la industria de tarjetas de pago (PCI DSS) para transacciones financieras. Las regulaciones regionales también pueden aplicarse, como la Ley de Privacidad del Consumidor de California (CCPA) para la protección de datos.
Los requisitos federales relacionados con la aceptación del financiamiento del gobierno para la investigación complican aún más los esfuerzos de cumplimiento. Las instituciones académicas pueden tener múltiples capas de políticas internas para abordar estos requisitos regulatorios, con múltiples niveles de supervisión que pueden incluir la compra a nivel de la facultad o la compra a nivel de la junta. Esto crea un entorno complejo en el que las universidades pueden tener dificultades para equilibrar el cumplimiento regulatorio estricto de sus propias prácticas de gestión de datos.
En este contexto, la gobernanza de datos es algo más que seguridad; También abarca la calidad de los datos, las prácticas de gestión y los roles y responsabilidades claramente definidos. Esta visión expansiva de la gobernanza es necesaria para igualar el alcance expansivo de la IA con prácticamente todos los aspectos de las operaciones universitarias.
Prioridades clave para el gobierno de IA
Para mejorar la gobernanza de datos y la utilización de la IA en la educación superior, las instituciones deben centrarse en varias prioridades clave. Un área crítica es la privacidad de los datos y garantizar que los sistemas de IA funcionen de manera efectiva sin insertar datos confidenciales de los estudiantes en modelos. Las técnicas como la generación de recuperación de la generación (RAG) y los enfoques de IA basados en gráficos permiten a las instituciones utilizar ideas impulsadas por la IA mientras se mantiene estrictos controles de privacidad.
Las instituciones también deben explorar técnicas de IA que preservan la privacidad, como el aprendizaje federado, que permite que los modelos de IA sean capacitados en datos descentralizados sin exponer información confidencial. La generación de datos sintéticos es otro enfoque valioso, que permite a las instituciones crear conjuntos de datos realistas que respaldan la investigación y el desarrollo de la IA mientras salvaguardan los datos reales de los estudiantes. Al aprovechar estos métodos, las instituciones de educación superior pueden mantener altos niveles de privacidad de datos al tiempo que maximiza el potencial de la IA para mejorar el éxito de los estudiantes.
La responsabilidad es otra prioridad importante. El tratamiento de la IA como actor en las políticas de gobernanza garantiza la transparencia en la toma de decisiones, reforzando la adopción ética de la IA en todos los procesos académicos. Por ejemplo, la IA puede analizar los paquetes de aplicaciones, ayudando con la toma de decisiones identificando patrones en aplicaciones exitosas. Los chatbots impulsados por la IA también pueden apoyar a los solicitantes durante todo el proceso de admisión respondiendo preguntas y guiándolas a través de los requisitos de envío, pero estas capacidades deben respaldar una cadena de lógica transparente y fácilmente documentada para garantizar el cumplimiento del proceso.
La fuerte gobernanza de IA impulsa la innovación en toda la universidad
Los equipos de transformación en la educación superior reconocen que las prioridades y técnicas anteriores en la gestión de la IA deben estar respaldados por los pasos de modernización correctos en los sistemas e infraestructura. Las plataformas deben estar diseñadas para dividir los silos de datos tradicionales para proporcionar flexibilidad para integrar soluciones de IA en varios departamentos académicos y garantizar que los marcos de gobernanza se apliquen de manera consistente.