Clasificación de riesgo del AI Act en España

La clasificación de riesgo del AI Act ordena los sistemas de inteligencia artificial en cuatro niveles: riesgo inaceptable, alto, limitado y mínimo. Conocer en qué categoría cae tu herramienta marca la diferencia entre cumplir con un simple aviso o con requisitos mucho más exigentes. Si diriges una pyme y usas automatización con IA para empresas o un chatbot para clientes, conviene saber en qué categoría cae cada sistema antes de ponerlo en marcha.

El Reglamento europeo de IA entró en vigor el 1 de agosto de 2024, según la Comisión Europea, y establece obligaciones escalonadas en función del nivel de riesgo. Para confirmar fechas concretas y detalles de aplicación, consulta la fuente oficial enlazada. Este artículo explica cómo funciona el sistema de clasificación, qué ejemplos encajan en cada categoría y qué pasos dar para identificar el tuyo.

En esta página
  1. ¿Qué niveles de riesgo establece el AI Act para sistemas de IA?
  2. Comparativa de las categorías según la clasificación de riesgo del AI Act
  3. ¿Cómo clasificar tu sistema paso a paso?
  4. Quién clasifica: proveedor frente a responsable del despliegue
  5. Diferencia entre modelo de uso general y sistema de IA
  6. Casos frontera por departamento en pymes
  7. Plantilla para documentar la decisión de clasificación
  8. Señales de que un sistema cambia de categoría
  9. Errores frecuentes en la clasificación
  10. Preguntas frecuentes

¿Qué niveles de riesgo establece el AI Act para sistemas de IA?

El Reglamento (UE) 2024/1689 distribuye los sistemas de inteligencia artificial en cuatro categorías, de más a menos restrictiva. Cada nivel determina obligaciones y restricciones específicas que afectan tanto a proveedores como a empresas que despliegan las herramientas.

  • Riesgo inaceptable: prácticas prohibidas. Entre las prácticas prohibidas que enumera la Comisión Europea están la manipulación y el engaño perjudiciales, la explotación nociva de vulnerabilidades, la puntuación social, el reconocimiento de emociones en el lugar de trabajo y en centros educativos, y la identificación biométrica remota en tiempo real con fines policiales en espacios de acceso público. No puedes usar estos sistemas en territorio de la Unión Europea.
  • Riesgo alto: sistemas sometidos a evaluación de conformidad. Son, entre otros, los que inciden en ámbitos sensibles: componentes de seguridad de productos e infraestructuras críticas, fuerzas y cuerpos de seguridad, acceso a educación, gestión de personal, acceso a servicios privados esenciales, servicios públicos básicos, migración, administración de justicia y procesos democráticos.
  • Riesgo limitado: obligaciones de transparencia. Sistemas que generan contenido sintético o interactúan con personas sin que resulte obvio que se trata de IA. Un ejemplo es un chatbot de atención al cliente con IA.
  • Riesgo mínimo o nulo: sin obligaciones específicas del AI Act. La gran mayoría de los sistemas de IA que se usan hoy en la UE encajan aquí, como los filtros de spam o los videojuegos con IA. Siguen aplicando las normas generales de protección de datos personales del RGPD.

Comparativa de las categorías según la clasificación de riesgo del AI Act

Para que puedas comparar de un vistazo las cuatro categorías, esta tabla recoge los puntos clave de cada nivel:

Categoría Descripción Ejemplos Obligaciones principales
Riesgo inaceptable Prácticas prohibidas Manipulación perjudicial, puntuación social, identificación biométrica remota en tiempo real con fines policiales Prohibición total; no se puede usar
Riesgo alto Impacto en derechos y seguridad Clasificación de currículos, puntuación crediticia, componentes de seguridad en infraestructuras críticas Evaluación de conformidad, registro, trazabilidad, supervisión humana, documentación técnica
Riesgo limitado Interacción o contenido sintético Chatbots, deepfakes Informar al usuario de que interactúa con IA; marcar contenido sintético cuando corresponda
Riesgo mínimo Resto de aplicaciones Filtros de spam, videojuegos con IA Ninguna específica del AI Act; sigue aplicando RGPD

¿Cómo clasificar tu sistema paso a paso?

Antes de recorrer el árbol de decisión, haz inventario de todos los sistemas de IA que uses o planees desplegar: chatbots, herramientas de automatización de procesos, plataformas de análisis predictivo, generadores de contenido. Para cada uno, anota su función, el contexto de uso, quién toma la decisión final y qué datos procesa. Este inventario te servirá de base para clasificar cada herramienta. Si necesitas ayuda para inventariar o implantar IA en tu empresa, una agencia de inteligencia artificial puede orientarte.

Este árbol de decisión te guía paso a paso para ubicar cualquier sistema en la categoría correcta. Recorre las preguntas en orden y detente en la primera a la que respondas que sí.

  • Paso 1: ¿El sistema encaja en alguna de las prácticas prohibidas de la lista oficial (manipulación o engaño perjudiciales, explotación de vulnerabilidades, puntuación social, reconocimiento de emociones en el trabajo o en centros educativos, identificación biométrica remota en tiempo real con fines policiales, entre otras)? → Si la respuesta es sí, el sistema es de riesgo inaceptable y no puedes usarlo.
  • Paso 2: ¿La aplicación figura en la lista de ámbitos de alto riesgo del texto oficial (educación, empleo, acceso a servicios esenciales, justicia, migración, procesos democráticos, componentes de seguridad)? → Si la respuesta es sí, el sistema es de riesgo alto y debe cumplir evaluación de conformidad, documentación técnica y registro.
  • Paso 3: ¿El sistema genera contenido sintético (texto, imagen, audio, vídeo) que puede confundirse con contenido humano, o interactúa con personas sin identificarse claramente como IA? → Si la respuesta es sí, el sistema es de riesgo limitado y se le aplican obligaciones de transparencia (las verás en el apartado siguiente).
  • Paso 4: Si no encaja en ninguna de las categorías anteriores, el sistema es de riesgo mínimo. No tiene obligaciones específicas del AI Act, pero sigue sujeto al RGPD si trata datos personales.

Cuando la clasificación no sea obvia, documenta tu razonamiento por escrito. La frontera entre riesgo limitado y mínimo puede resultar difusa; si tienes duda, consulta con quien supervise el cumplimiento normativo en tu empresa.

Obligaciones de transparencia en contenido sintético

En el paso 3 del árbol, la transparencia es el núcleo de la obligación. Según la página de la Comisión Europea, cuando una persona interactúa con un chatbot, debe saber que habla con una máquina. El proveedor de IA generativa debe hacer que el contenido sintético sea identificable como tal. La identificación visible se exige especialmente para deepfakes y para textos publicados que informan sobre asuntos de interés público. Consulta la fuente oficial para conocer los supuestos concretos que aplican a tu caso.

Quién clasifica: proveedor frente a responsable del despliegue

El Reglamento distingue entre el proveedor del sistema de IA y el responsable del despliegue. El proveedor es quien desarrolla o comercializa el sistema; el responsable del despliegue es quien lo utiliza bajo su propia autoridad. El proveedor facilita información clara a quien despliega el sistema, y quien lo despliega es responsable de asegurar la supervisión humana efectiva.

Como responsable del despliegue, te toca usar el sistema conforme a la información que te da el proveedor y asegurar la supervisión humana. Sin embargo, si modificas sustancialmente el sistema o cambias su finalidad prevista, tu papel puede cambiar; revísalo en el texto oficial.

No basta con suponer que el proveedor lo ha resuelto todo. Conviene valorar si el uso que le das coincide exactamente con el previsto por el proveedor; si no coincide, tu papel puede cambiar.

Diferencia entre modelo de uso general y sistema de IA

El Reglamento introduce el concepto de modelo de IA de uso general (GPAI, por sus siglas en inglés), distinto del sistema de IA. Un modelo de uso general es una arquitectura entrenada sobre grandes cantidades de datos que puede adaptarse a múltiples tareas: generación de texto, imagen, código o análisis predictivo. No es, por sí solo, un sistema de IA a efectos de la clasificación de riesgo.

Un sistema de IA, en cambio, es una aplicación concreta que utiliza ese modelo para un fin determinado. Los cuatro niveles de riesgo se aplican al sistema, no al modelo subyacente. Por ejemplo, un modelo de lenguaje de uso general se convierte en riesgo limitado cuando se integra en un chatbot de atención al cliente, o en alto riesgo cuando forma parte de una herramienta de selección de personal.

Por su parte, los modelos de uso general tienen obligaciones propias para su proveedor: transparencia, respeto a los derechos de autor y, si plantean riesgo sistémico, evaluarlo y mitigarlo. Consulta la fuente oficial para conocer los detalles de estas obligaciones.

Esta distinción importa cuando contratas servicios de terceros: el proveedor del modelo puede no ser el mismo que el proveedor del sistema, y las obligaciones de cada uno difieren. Revisa los contratos para saber quién asume cada responsabilidad.

Casos frontera por departamento en pymes

La clasificación no siempre es obvia. Estos ejemplos ilustran situaciones que pueden caer en una u otra categoría según el contexto:

Departamento Uso de IA Posible categoría Factores que pueden cambiarla
Recursos Humanos Filtrado automático de currículos Alto riesgo La clasificación de currículos figura como alto riesgo en la fuente oficial; que ordene sin puntuar no lo saca de esta categoría automáticamente
Atención al cliente Chatbot para preguntas frecuentes Riesgo limitado Si decide quién accede a un servicio esencial, sube a alto riesgo
Marketing Asistente conversacional que recomienda productos en la web Riesgo limitado Si analiza emociones para manipular decisiones de compra de forma no transparente, puede rozar inaceptable
Finanzas Evaluación de crédito de clientes Alto riesgo Depende del caso de uso; que decida una persona no basta por sí solo para sacarla de alto riesgo; revisa el texto oficial
Operaciones Gestión automatizada de inventario Riesgo mínimo Si el sistema controla componentes de seguridad de maquinaria industrial, puede subir a alto riesgo

Estos ejemplos no son categorías cerradas: el contexto de uso, el grado de automatización de la decisión y el impacto en derechos fundamentales determinan la clasificación final.

Plantilla para documentar la decisión de clasificación

Documentar tu razonamiento facilita la revisión periódica y cualquier consulta posterior. Esta plantilla puede servirte de base:

  • Nombre del sistema: (nombre interno o comercial)
  • Proveedor: (empresa que desarrolla o comercializa el sistema)
  • Fecha de clasificación: (día/mes/año)
  • Responsable de la clasificación: (persona o departamento)
  • Descripción del sistema: (qué hace, en una o dos frases)
  • Contexto de uso: (sector, usuarios finales, tipo de decisión que toma o apoya)
  • Datos que procesa: (categorías de datos personales, si las hay)
  • ¿Figura en la lista de ámbitos de alto riesgo? (sí/no, con referencia al ámbito concreto)
  • ¿Genera contenido sintético o interactúa sin identificarse como IA? (sí/no)
  • Categoría asignada: (inaceptable, alto, limitado, mínimo)
  • Razonamiento: (breve justificación de la decisión)
  • Documentación del proveedor revisada: (declaración de conformidad, instrucciones de uso, certificados)
  • Próxima revisión programada: (fecha)

Guarda este documento junto con los contratos y la documentación del proveedor. Tener el razonamiento por escrito facilita cualquier revisión posterior.

Señales de que un sistema cambia de categoría

La clasificación de riesgo no es estática. Un sistema puede cambiar de categoría si modificas su finalidad, su contexto de uso o su grado de automatización. Estas son señales de alerta:

  • El sistema pasa de sugerir a decidir: un chatbot que antes solo informaba ahora determina quién accede a un servicio.
  • Amplías el ámbito de uso: una herramienta de análisis de datos que usabas para marketing ahora filtra candidatos en recursos humanos.
  • Integras nuevas funciones: añades reconocimiento facial a un sistema de control de acceso que antes solo usaba tarjeta.
  • Cambias el público objetivo: un sistema diseñado para profesionales ahora interactúa con consumidores vulnerables.
  • El proveedor actualiza el modelo subyacente y cambia las capacidades del sistema.

Cuando detectes cualquiera de estas señales, vuelve a recorrer el árbol de decisión y actualiza la documentación. Tener el historial de clasificaciones por escrito facilita cualquier revisión posterior.

Errores frecuentes en la clasificación

Al clasificar sistemas de IA, algunas empresas tropiezan con los mismos problemas. Conocerlos te ayuda a evitarlos:

  • Confundir el modelo con el sistema. Los cuatro niveles de riesgo se aplican al sistema, no al modelo de uso general, que tiene reglas propias para su proveedor. Clasifica el sistema final.
  • Asumir que el proveedor lo hace todo. El proveedor te da la información y las instrucciones de uso, pero el contexto en que usas el sistema lo decides tú. Si lo aplicas a un ámbito de alto riesgo no previsto, tu papel puede cambiar; revísalo en el texto oficial.
  • Olvidar la revisión periódica. La clasificación no es un trámite de una sola vez. Cada cambio de funcionalidad, de público o de contexto puede mover el sistema de categoría.
  • No documentar el razonamiento. Aunque el sistema sea de riesgo mínimo, tener por escrito por qué lo clasificaste así te ayuda a responder cualquier pregunta posterior.
  • Ignorar la protección de datos. Un sistema de riesgo mínimo puede requerir una evaluación de impacto de protección de datos si el tratamiento entraña un alto riesgo, por ejemplo, si trata datos sensibles a gran escala. Las obligaciones de IA y de privacidad se suman, no se sustituyen.

Revisar estos puntos antes de desplegar cualquier herramienta te ahorra sorpresas y reduce el riesgo de incumplimiento.

TekTag es una agencia de IA para empresas. Tienes más artículos sobre IA aplicada a la empresa en el blog y, si quieres hablar con nosotros, puedes escribirnos desde la portada.

Preguntas frecuentes

¿Qué ocurre si modifico la finalidad de un sistema de IA que ya tengo desplegado?

Si cambias la finalidad prevista del sistema, tu papel puede cambiar. Por ejemplo, si adaptas un software genérico para un uso de alto riesgo, conviene revisar el texto oficial del Reglamento para conocer qué requisitos se te aplican. Documenta el cambio y vuelve a clasificar el sistema.

¿El contenido generado por IA siempre es de riesgo limitado?

No siempre. Si generas texto, imagen, audio o vídeo sintético y lo difundes, revisa si entra en los supuestos de transparencia: el proveedor de la herramienta debe hacer que el contenido sea identificable, y la identificación visible se exige sobre todo en deepfakes y en textos publicados para informar sobre asuntos de interés público. Si usas IA para redactar documentos internos que nadie ve fuera de tu equipo, el riesgo puede ser mínimo. El contexto de difusión y la posibilidad de engaño marcan la diferencia.

¿Qué pasa si mi proveedor no facilita la documentación necesaria?

Si el sistema es de alto riesgo y el proveedor no aporta las instrucciones de uso ni la declaración de conformidad, conviene no ponerlo en marcha hasta tenerlas. Negocia con el proveedor o busca una alternativa que cumpla los requisitos.

¿Quién en la empresa debe firmar la clasificación?

Es una decisión interna. Puede firmarla la persona responsable de cumplimiento normativo, el responsable del área que despliega el sistema o la dirección general. Lo importante es que quede claro quién ha tomado la decisión y cuándo.

¿Qué hago si dos personas clasifican distinto el mismo sistema?

Documenta ambas posturas y los argumentos de cada una. Revisa juntos el árbol de decisión y el texto oficial para identificar dónde divergen los criterios. Si la duda persiste, la postura prudente es aplicar la categoría más restrictiva hasta que se aclare.

¿Hay que clasificar una herramienta que usa un solo empleado?

Sí, conviene. La clasificación depende del tipo de sistema y del contexto de uso, no del número de usuarios. Un sistema de alto riesgo lo sigue siendo aunque lo maneje una sola persona. Clasifícala y documéntala igual que las demás.

Artículos relacionados