Más de 50 definiciones claras y actualizadas para comprender la Inteligencia Artificial, el reglamento europeo AI Act, el RGPD y los grandes conceptos de la ética digital.
Del AI Act a la explicabilidad, del sesgo algorítmico a la supervisión humana: este glosario reúne el vocabulario esencial de la Data Science, el Machine Learning y la gobernanza ética de los sistemas de IA. Una referencia pensada para directivos, juristas, científicos de datos y responsables de cumplimiento normativo.
Primer reglamento europeo sobre inteligencia artificial (Reglamento UE 2024/1689). Regula la comercialización y el uso de los sistemas de IA mediante un enfoque basado en el riesgo (inaceptable, alto, limitado, mínimo) e impone obligaciones de transparencia, gobernanza y supervisión humana.
Conjunto finito y ordenado de instrucciones para resolver un problema o realizar una tarea. En IA, el algoritmo aprende las reglas a partir de los datos en lugar de recibirlas de forma explícita.
Evaluación independiente de un sistema de IA orientada a verificar su cumplimiento normativo, equidad y robustez. Es el núcleo del enfoque de los labels ADEL y de la Plataforma DEO.
Proceso de sensibilización y desarrollo de competencias de los equipos en torno a los retos de la Data Science y la ética de la IA, condición para una adopción responsable.
Método de Machine Learning en el que el modelo aprende a partir de datos etiquetados (entradas asociadas a salidas conocidas) para predecir nuevos casos.
Método en el que el modelo detecta por sí solo estructuras, agrupaciones o anomalías en datos no etiquetados (clustering, reducción de dimensionalidad).
Distorsión sistemática de los resultados de un sistema de IA, que reproduce o amplifica las discriminaciones presentes en los datos de entrenamiento o en el diseño del modelo. Su detección es un reto central de la IA responsable.
Conjuntos de datos de tal volumen, velocidad y variedad que superan las herramientas tradicionales de procesamiento. Materia prima de numerosos modelos de IA.
Conjunto de datos utilizado para entrenar un modelo. Su calidad, representatividad y gobernanza condicionan directamente la fiabilidad y la equidad del sistema.
Commission Nationale de l'Informatique et des Libertés: la autoridad francesa encargada de velar por la protección de los datos personales y la aplicación del RGPD.
Principio que consiste en integrar los requisitos normativos (RGPD, AI Act) desde la fase de diseño de un sistema, y no a posteriori.
Conjunto de obligaciones que deben cumplir los sistemas de IA según su nivel de riesgo: documentación técnica, gestión de riesgos, transparencia, supervisión humana, registro de eventos.
Etapa de depuración y normalización de los datos (corrección de errores, gestión de valores faltantes, deduplicación) previa a cualquier modelización fiable.
Disciplina que combina estadística, informática y conocimiento del dominio para extraer valor de los datos, desde la recopilación hasta la modelización predictiva.
Subdisciplina del Machine Learning basada en redes neuronales profundas de varias capas, responsable de los avances recientes en visión, lenguaje e IA generativa.
En el sentido del AI Act, organización que utiliza un sistema de IA bajo su propia autoridad. Tiene obligaciones de supervisión humana y seguimiento de incidentes.
Plataforma de auto-evaluación y auditoría de la madurez ética de los sistemas de IA, soporte de los labels ADEL de GoodAlgo.
Data Protection Officer: el responsable encargado de gestionar el cumplimiento del RGPD dentro de una organización.
Reflexión sobre los valores, deberes y responsabilidades que deben guiar el diseño y el uso de las tecnologías digitales al servicio del ser humano.
Enfoque desarrollado por Jérôme Béranger: hacer evolucionar la ética de forma continua con la tecnología, en lugar de cristalizarla en reglas estáticas.
Integración de los principios éticos desde la fase de diseño de un sistema digital: transparencia, equidad, respeto de los derechos fundamentales.
Capacidad de explicar de forma comprensible las decisiones de un sistema de IA. Requisito clave para la confianza, la auditoría y el cumplimiento del AI Act.
Propiedad de un modelo que trata a individuos y grupos sin discriminación injustificada, medida mediante pruebas estadísticas específicas.
Modelo de muy gran tamaño (foundation model) preentrenado en corpus inmensos, adaptable a múltiples tareas — base de las modernas IA generativas.
Reentrenamiento específico de un modelo preentrenado sobre datos concretos para adaptarlo a un caso de uso empresarial.
Conjunto de políticas, roles y procesos que garantizan la calidad, seguridad y cumplimiento normativo de los datos a lo largo de todo su ciclo de vida.
Familia de sistemas de IA capaces de producir contenidos originales (texto, imagen, audio, código) a partir de instrucciones. Cubierta por el label ADEL-AI Use.
General-Purpose AI: modelos de IA de uso general sujetos a obligaciones específicas de transparencia y documentación en virtud del AI Act.
Categoría del AI Act que agrupa las IA que pueden afectar a la salud, la seguridad o los derechos fundamentales (contratación, crédito, sanidad, justicia…). Sujeta a las obligaciones más estrictas.
Producción por parte de una IA generativa de una información plausible pero falsa. Riesgo mayor que debe gestionarse mediante la supervisión humana.
Conjunto de técnicas que permiten a las máquinas realizar tareas asociadas a la inteligencia humana: percepción, razonamiento, aprendizaje, toma de decisiones.
Diseño y uso de la IA que respeta la ética, los derechos fundamentales y la normativa, con transparencia y rendición de cuentas.
IA lícita, ética y robusta, según el marco de la Comisión Europea: un sistema digno de confianza a lo largo de todo su ciclo de vida.
Fase de explotación operativa de un modelo entrenado: produce predicciones o contenidos sobre nuevos datos en condiciones reales.
Certificación GoodAlgo que acredita el compromiso ético de un actor o sistema de IA, disponible en versiones ADEL-Project, ADEL-AI Act y ADEL-AI Use (niveles Bronze, Silver, Gold).
Large Language Model: modelo de Deep Learning entrenado sobre inmensos corpus textuales, capaz de comprender y generar lenguaje natural.
Aprendizaje automático: rama de la IA en la que un modelo aprende las reglas a partir de los datos en lugar de instrucciones explícitas.
Construcción de un modelo matemático que representa un fenómeno a partir de datos, para predecirlo o explicarlo.
Nivel de avance de una organización en su enfoque de IA responsable, medido por la Plataforma DEO y materializado mediante los labels ADEL.
Defecto de un modelo demasiado ajustado a sus datos de entrenamiento, que generaliza mal sobre nuevos datos.
Cualquier información relativa a una persona física identificada o identificable, protegida por el RGPD.
Uso de modelos estadísticos y de IA para anticipar eventos o comportamientos futuros a partir de datos históricos.
En el sentido del AI Act, entidad que desarrolla o comercializa un sistema de IA. Asume la mayor parte de las obligaciones de cumplimiento.
Herramienta propia de GoodAlgo para la auto-evaluación y el seguimiento de la madurez ética digital de los proyectos y sistemas de IA.
Reglamento General de Protección de Datos (UE 2016/679): marco europeo que protege los datos personales de los ciudadanos y regula su tratamiento.
Capacidad de un sistema de IA para mantenerse fiable y seguro ante errores, datos inusuales o ataques adversariales. Requisito del AI Act.
Modelo inspirado en el cerebro, compuesto por capas de neuronas artificiales, en el corazón del Deep Learning.
Aplicación de la Responsabilidad Social Empresarial a los retos del ámbito digital: ética de los algoritmos, sobriedad digital, inclusión.
Principio que garantiza que un ser humano mantiene el control sobre un sistema de IA: capacidad de intervenir, corregir o detener una decisión. Obligación para las IA de alto riesgo.
Valorización de pequeños volúmenes de datos de calidad, a menudo más pertinente y frugal que el Big Data para muchos casos industriales.
En el sentido del AI Act, sistema automatizado que, para objetivos dados, genera resultados (predicciones, recomendaciones, decisiones) que influyen en su entorno.
Medidas técnicas y organizativas que protegen los datos contra la pérdida, la alteración o el acceso no autorizado.
Capacidad de hacer inteligibles el funcionamiento y las finalidades de un sistema de IA para sus usuarios y las autoridades.
Cualquier operación sobre datos personales (recopilación, almacenamiento, análisis, intercambio), regulada por el RGPD.
Registro de los eventos de un sistema de IA que permite reconstruir y auditar sus decisiones a posteriori.
Transformación de datos brutos en valor empresarial: insights, automatización, apoyo a la toma de decisiones.
Representación gráfica de los datos y resultados de IA para hacerlos legibles y accionables (p. ej. la herramienta VIZIAA de GoodAlgo).
eXplainable AI: conjunto de métodos que hacen que las decisiones de los modelos de IA sean interpretables por el ser humano, indispensable para la confianza y el cumplimiento normativo.
Capacidad de un modelo para abordar una tarea sin ejemplos específicos previos, apoyándose en su conocimiento generalizado.
Nuestros expertos te acompañan desde la auditoría ética hasta la certificación ADEL. Evalúa gratuitamente la madurez de tus sistemas de IA.