Riesgos y gobernanza
AI Act, RGPD, sesgo algorítmico, alucinaciones, salvaguardas, soberanía digital. El vocabulario para distinguir la experimentación de la producción responsable.
- AI ActEl AI Act es el reglamento europeo 2024/1689, primer marco jurídico mundial que clasifica los sistemas de IA por nivel de riesgo y que impone obligaciones diferenciadas: prohibición para los usos inaceptables, exigencias estrictas para los sistemas de alto riesgo, transparencia para los demás.
- AlineaciónLa alineación es el conjunto de técnicas que buscan orientar el comportamiento de un modelo de IA hacia los objetivos y los valores humanos de su usuario o de su editor. Transforma un modelo bruto, capaz de producir cualquier cosa, en un asistente útil, honesto y que rechaza las solicitudes contrarias a las reglas fijadas.
- Barómetro Shadow AI 2026En 2026, el uso no encuadrado de la IA generativa ya no es un punto ciego: es la norma. Dos tercios de los profesionales usan en el trabajo herramientas que creen prohibidas — y vuelcan en ellas correos, datos de clientes y documentos financieros.
- Datos de entrenamientoLos datos de entrenamiento son el conjunto de textos, imágenes, códigos y otros contenidos utilizados para entrenar un modelo de IA. Su composición determina lo que el modelo sabe, lo que ignora, sus sesgos y sus riesgos jurídicos. Una parte mayor del contencioso IA actual se refiere a su procedencia y a su licitud.
- Delegar a agentes IAUn agente de IA no es una herramienta que se lanza, es una decisión que se delega. Mientras la doctrina de delegación no esté escrita, cada agente creado la traza en lugar del directivo — y la suma de esas elecciones por defecto, dispersas, compone la verdadera política de IA de la empresa.
- Huella de carbono de la IALa huella de carbono de la IA es el conjunto de las emisiones de gases de efecto invernadero ligadas a su ciclo de vida: entrenamiento de los modelos, fabricación de los componentes, funcionamiento de los centros de datos e inferencia en uso. Se está convirtiendo en una partida de consumo significativa a escala mundial.
- Red teamingEl red teaming, tomado de la ciberseguridad, es la práctica de probar un sistema de IA simulando intentos de uso adverso: rodeo de las reglas, extracción de datos sensibles, generación de contenidos prohibidos. Busca identificar las vulnerabilidades antes de que un actor malicioso las explote en producción.
- RGPD e IAEl RGPD encuadra todo tratamiento de datos personales por un sistema de IA operado en Europa o que conciernen a europeos. Cuatro obligaciones se aplican con prioridad: finalidad explícita, minimización de los datos, derechos de acceso y de oposición, y estudio de impacto para los tratamientos de riesgo elevado.
- SalvaguardasLas salvaguardas son capas técnicas de control, añadidas en entrada o en salida de un modelo de IA, que detectan y bloquean los comportamientos indeseables: prompts maliciosos, fugas de datos, contenidos prohibidos. Son distintas de la alineación, que actúa sobre el comportamiento por defecto del modelo en sí.
- Sesgo algorítmicoUn sesgo algorítmico es una desviación sistemática de un modelo de IA, heredada de los datos de entrenamiento, de las decisiones de diseño o del contexto de despliegue, que produce decisiones inequitativas o erróneas en detrimento de un grupo de población o de un tipo de caso.
- Soberanía digitalLa soberanía digital es la capacidad de una empresa o de un Estado para dominar sus datos, sus infraestructuras y sus herramientas de IA, independientemente de jurisdicciones extranjeras. Condiciona la confidencialidad, la conformidad reglamentaria y la resiliencia ante rupturas de acceso dictadas por decisiones políticas externas.