Esa delgada línea que podría costarte millones (y cómo evitarlo)
La Inteligencia Artificial (IA) no es solo una herramienta de eficiencia: es una palanca de crecimiento, innovación y adaptación al futuro. Pero lo que muchas empresas aún desconocen es que una mala clasificación legal de su IA puede implicar consecuencias legales y reputacionales devastadoras.
¿Quieres explorar cómo aplicar la IA en tu empresa de forma legal y eficaz?
Con la entrada en vigor, el pasado 2 de febrero de 2025, de las disposiciones sobre sistemas de uso prohibido en el Reglamento de Inteligencia Artificial de la Unión Europea (EU AI Act), determinar si un sistema de IA encaja en esta categoría ya no es una cuestión meramente teórica. Esta calificación tiene implicaciones directas en la viabilidad jurídica y económica del producto, así como en la responsabilidad de quienes intervienen en su desarrollo, puesta en el mercado o utilización.
Multas millonarias por usar inteligencia artificial prohibida
Hacer uso de una inteligencia artificial prohibida puede desencadenar graves consecuencias económicas. El régimen sancionador del EU IA Act prevé multas administrativas que pueden alcanzar hasta 35 millones de euros o el 7% del volumen de negocios mundial total correspondiente al ejercicio financiero anterior, optándose por la cifra de mayor cuantía (Artículo 99 Sanciones).
Además, la autoridad competente puede ordenar la retirada inmediata del producto del mercado, la interrupción de su uso, y exigir la destrucción de los datos y modelos implicados. Estas medidas pueden generar pérdidas económicas adicionales por inversiones no recuperables, paralización de operaciones y cancelaciones contractuales, a lo que se suma el grave deterioro reputacional que supone operar al margen del marco normativo europeo.
El EU AI Act prohíbe explícitamente ciertos usos de la IA por considerarlos incompatibles con los derechos fundamentales y la dignidad humana (Artículo 5 Prácticas prohibidas). Entre ellos:
- Manipulación cognitivo-conductual de personas o grupos vulnerables.
- Puntuación social: clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales.
- Predicción de delitos.
- Identificación biométrica y categorización de personas.
- Sistemas de identificación biométrica en tiempo real y remoto, como el reconocimiento facial.
- Detección emocional.
Casos de inteligencia artificial prohibida en Europa
Algunos ejemplos a modo ilustrativo:
- Una plataforma de e-commerce que personaliza colores, sonidos o mensajes urgentes mediante IA para inducir compras impulsivas sin que el usuario lo perciba.
- Un sistema de análisis de emociones en tiendas físicas que recopila y clasifica expresiones faciales de los clientes mediante cámaras de seguridad, sin su consentimiento expreso.
Tal como se mencionó anteriormente, aunque la entrada en vigor completa del Reglamento de Inteligencia Artificial de la UE (EU AI Act) está prevista para el 2 de agosto de 2026, desde el pasado 2 de febrero de 2025 ya son aplicables las prohibiciones relativas a ciertos sistemas de IA. Por ello, es fundamental que las empresas verifiquen desde ahora si sus sistemas cumplen con los requisitos establecidos por la normativa. ¿Qué implica esto para tu negocio?
Si estás desarrollando o utilizando soluciones de IA que incurren en usos prohibidos, tu empresa podría estar expuesta a riesgos legales.
Delvy: expertos legales en inteligencia artificial alineada al AI Act
En DELVY, impulsamos la innovación con IA alineada al AI Act.
¿Estás desarrollando una solución basada en inteligencia artificial? Asegúrate de que tu inteligencia artificial no vaya a estar prohibida y que la innovación no cruce las líneas rojas del nuevo Reglamento de IA de la UE.
En DELVY acompañamos a startups y empresas tecnológicas para que integren la IA con total seguridad jurídica.
Nuestro equipo, especializado en derecho tecnológico, puede ayudarte a:
- Evaluar legalmente tu sistema de IA para evitar usos prohibidos.
- Detectar a tiempo posibles riesgos regulatorios.
- Diseñar estrategias legales que acompañen tu crecimiento con IA.
Solicita ya tu informe de viabilidad legal y asegura el futuro de tu tecnología en Europa.
¿Tienes dudas sobre si tu sistema podría incurrir en un uso prohibido? Escríbenos
Autoría: Aitana Sanz
