¿Cómo utilizar la Inteligencia Artificial en entornos regulados?
La inteligencia artificial está transformando la manera en que las organizaciones procesan información, automatizan tareas y toman decisiones. En industrias reguladas, como la farmacéutica, biotecnológica, de productos médicos, laboratorios y otras organizaciones que operan bajo requisitos GxP, su incorporación presenta una oportunidad significativa, pero también nuevos desafíos.
La pregunta ya no es solamente si una organización regulada puede utilizar inteligencia artificial, sino cómo hacerlo de manera controlada, trazable y acorde con los requisitos de calidad, seguridad e integridad de datos.
¿Qué significa utilizar IA en un entorno regulado?
Utilizar inteligencia artificial en un entorno regulado significa incorporar modelos o herramientas capaces de procesar información, reconocer patrones, realizar predicciones, clasificaciones o generar contenido dentro de procesos que están sujetos a requisitos de calidad y cumplimiento.
Esto puede incluir desde algoritmos utilizados para detectar anomalías en procesos productivos hasta modelos de machine learning para analizar resultados de laboratorio o herramientas de inteligencia artificial generativa utilizadas para consultar documentación técnica.
¿Para qué puede utilizarse en entornos GxP?
La inteligencia artificial puede tener aplicaciones en diferentes etapas de las operaciones de una organización regulada. La utilidad concreta dependerá del proceso, los datos disponibles, el nivel de criticidad y los controles implementados.
Análisis de grandes volúmenes de datos
Uno de los usos más evidentes de la IA es el análisis de grandes cantidades de información. En laboratorios y organizaciones reguladas se generan datos provenientes de análisis, equipos, procesos productivos, controles ambientales, mantenimiento, documentación y sistemas de calidad.
Los algoritmos pueden ayudar a identificar patrones, correlaciones, tendencias o comportamientos anómalos que serían difíciles de detectar mediante una revisión manual de grandes volúmenes de información. Por ejemplo, un modelo podría utilizar datos históricos para detectar determinados patrones de comportamiento en resultados analíticos o identificar desviaciones respecto de un comportamiento esperado.
La IA, en este caso, funciona como una herramienta de análisis y apoyo, mientras que la interpretación y las decisiones críticas deben permanecer bajo controles definidos.
Detección de anomalías
Los modelos de machine learning pueden utilizarse para identificar comportamientos que se alejan de determinados patrones históricos o esperados.
Esta capacidad puede resultar útil en procesos donde existen grandes cantidades de variables y resulta difícil establecer manualmente todas las combinaciones que podrían representar una anomalía.
En manufactura, por ejemplo, pueden analizarse parámetros del proceso para detectar comportamientos inusuales. En un laboratorio, pueden analizarse series históricas de resultados para identificar cambios o patrones que requieran investigación.
Sin embargo, detectar una anomalía no significa automáticamente determinar que existe una desviación o un problema de calidad. La salida del modelo debe formar parte de un proceso controlado de evaluación.
Análisis de tendencias en Control de Calidad
Los laboratorios generan grandes volúmenes de resultados a lo largo del tiempo. La IA puede utilizarse como herramienta complementaria para analizar estos datos e identificar tendencias, relaciones o comportamientos que merezcan una evaluación más detallada.
Esto puede ayudar a complementar las herramientas estadísticas tradicionales y mejorar la capacidad de los equipos de Calidad para detectar señales tempranas.
El objetivo no debería ser reemplazar el análisis técnico del profesional, sino facilitar la identificación de información relevante dentro de grandes conjuntos de datos.
Revisión y clasificación documental
La documentación constituye una parte fundamental de cualquier sistema de calidad. Procedimientos, instructivos, especificaciones, registros, informes, protocolos y otros documentos pueden generar grandes volúmenes de información que deben mantenerse actualizados y disponibles.
Los modelos de IA y procesamiento de lenguaje natural pueden utilizarse para facilitar tareas como clasificación, búsqueda semántica, extracción de información o identificación de determinados contenidos.
En este contexto, los modelos de lenguaje pueden ser especialmente útiles como asistentes para acceder rápidamente a información existente.
La EMA reconoce, por ejemplo, que los modelos de lenguaje pueden utilizarse para procesar grandes volúmenes de documentación, automatizar tareas de extracción de información y optimizar actividades administrativas, aunque también advierte sobre riesgos como respuestas inexactas, resultados irrelevantes y seguridad de los datos.
Automatización de tareas administrativas
No todas las aplicaciones de IA en entornos regulados tienen que intervenir directamente sobre decisiones de calidad. También existen oportunidades para utilizarla en tareas administrativas o de soporte.
Por ejemplo, puede ayudar a clasificar información, resumir documentación, identificar información faltante, organizar datos o facilitar determinadas actividades de búsqueda. Estas aplicaciones pueden ser un buen punto de partida porque permiten obtener beneficios de productividad sin necesariamente asignar a la IA un rol crítico dentro del proceso.
¿Qué riesgos tiene utilizar IA en un entorno regulado?
La implementación de IA introduce riesgos que deben ser evaluados antes de utilizarla dentro de un proceso GxP. Uno de los principales errores es considerar que una herramienta de IA es simplemente otro software de uso general.
En realidad, dependiendo de su función, pueden aparecer riesgos relacionados con la calidad de los datos, comportamiento del modelo, reproducibilidad, explicabilidad, seguridad, privacidad, cambios en el modelo y confiabilidad de los resultados.
Calidad de los datos
Un modelo de inteligencia artificial depende de los datos con los que se entrena, valida o utiliza. Si los datos son incompletos, incorrectos, inconsistentes o no representan adecuadamente el contexto de uso, el resultado del modelo puede ser poco confiable.
Por eso, la gobernanza de datos debe formar parte de cualquier estrategia de IA aplicada a entornos regulados. No alcanza con preguntarse qué modelo utilizar. También es necesario preguntarse:
¿De dónde provienen los datos?
¿Son completos y consistentes?
¿Están correctamente identificados?
¿Existe trazabilidad sobre sus modificaciones?
¿Son representativos del proceso real?
¿Quién puede acceder a ellos?
¿Cómo se conservan?
Resultados incorrectos o "alucinaciones"
Los sistemas de inteligencia artificial generativa pueden producir respuestas que parecen correctas pero contienen información incorrecta.
Este fenómeno, conocido habitualmente como "hallucination" o alucinación, representa un riesgo especialmente importante cuando la herramienta se utiliza para generar información técnica o regulatoria. Por eso, un modelo generativo no debería considerarse automáticamente una fuente de verdad.
Las respuestas deben evaluarse de acuerdo con el contexto de uso y, cuando corresponda, ser revisadas por personal competente. La propia EMA señala la posibilidad de respuestas irrelevantes o inexactas en el uso de modelos de lenguaje dentro de entornos regulatorios.
Pérdida de trazabilidad
En un entorno GxP es necesario poder reconstruir qué información se utilizó y cómo se llegó a determinados resultados.
Si una herramienta de IA genera una recomendación pero no existe información suficiente sobre los datos utilizados, la versión del modelo o las condiciones en las que se produjo el resultado, puede ser difícil evaluar posteriormente su confiabilidad.
IA y Data Integrity: una relación que no puede ignorarse
La implementación de inteligencia artificial en un entorno regulado debe analizarse también desde la perspectiva de Data Integrity.
Los principios de integridad de datos, como ALCOA+, continúan siendo relevantes independientemente de que los datos sean procesados manualmente o mediante algoritmos. La incorporación de IA no elimina la necesidad de garantizar que la información sea atribuible, legible, contemporánea, original y exacta, junto con las demás características asociadas a ALCOA+.
De hecho, la utilización de modelos complejos puede aumentar la necesidad de documentar adecuadamente el origen de los datos, los procesos utilizados y los controles aplicados.
Las principales agencias regulatorias ya están avanzando en esta dirección. FDA y EMA han establecido principios comunes que ponen el foco en un uso de la IA basado en riesgo, centrado en las personas, con datos gobernados, evaluación del desempeño y gestión del ciclo de vida.
Para las organizaciones GxP, esto significa que la adopción de IA no debería comenzar por la herramienta, sino por el proceso, los datos y el riesgo.
La inteligencia artificial puede convertirse en una poderosa herramienta para la transformación digital de laboratorios, industrias farmacéuticas y otras organizaciones reguladas, siempre que se incorpore sobre una infraestructura tecnológica sólida y dentro de un sistema de calidad capaz de controlar su utilización.
