La Universidad de Barcelona anuncia con orgullo que el Prof. Karim Lekadir, Profesor de Investigación ICREA en la facultad de matemáticas e informática y director del grupo de investigación BCN-AIM, ha publicado un artículo de consenso innovador que introduce el marco FUTURE-AI para una inteligencia artificial confiable en el ámbito sanitario. Este importante trabajo establece un nuevo estándar para garantizar que la IA en salud sea ética y confiable
La inteligencia artificial (IA) ofrece posibilidades emocionantes para mejorar la atención sanitaria, pero la confianza sigue siendo un desafío debido a preocupaciones sobre seguridad y ética. Para abordar estos problemas, un grupo diverso de 117 expertos de 50 países colaboró durante tres años para desarrollar el marco FUTURE-AI. Entre ellos, se encuentran representantes de universidades e instituciones de investigación de prestigio, como el Imperial College London, la Universidad de Oxford, la Universidad Técnica de Múnich, la Escuela de Medicina de la Universidad de Stanford, la Escuela de Medicina de Harvard, Helmholtz Munich y la Universidad Macquarie de Sídney.
Desde una perspectiva local, España ha desempeñado un papel activo en el artículo de consenso, con el liderazgo de la Universidad de Barcelona y la participación de expertos de la Fundación TIC Salut Social –que representa al Departamento de Salud de Cataluña y su Programa de IA en Salud–, el Centro de Regulación Genómica, y el Instituto de Investigación Sanitaria La Fe y el Hospital Universitario y Politécnico La Fe.
Recientemente aceptado por BMJ, este artículo de consenso proporciona directrices para el desarrollo y la implementación de herramientas de IA confiables en el sector sanitario. El marco incluye buenas prácticas y recomendaciones que abarcan todo el ciclo de vida de la IA, desde el diseño, desarrollo y validación hasta la regulación, implementación y monitoreo.
Seis principios clave de FUTURE-AI
En resumen, el marco FUTURE-AI actúa como un código de buenas prácticas para la IA en sanidad, basado en seis principios fundamentales:
- Equidad (Fairness): Las herramientas de IA deben funcionar igual de bien para todas las personas, sin importar su edad, género u origen.
- Universalidad (Universality): Las herramientas de IA deben ser adaptables a distintos sistemas sanitarios y entornos en todo el mundo.
- Trazabilidad (Traceability): Las herramientas de IA deben ser monitoreadas de cerca para garantizar su correcto funcionamiento y poder corregir cualquier problema que surja.
- Usabilidad (Usability): Las herramientas de IA deben ser fáciles de usar e integrarse sin problemas en la rutina diaria de médicos y profesionales sanitarios.
- Robustez (Robustness): Las herramientas de IA deben entrenarse con variaciones del mundo real para ser resistentes a cambios en los datos. Para mantener su precisión, deben evaluarse y optimizarse de forma continua.
- Explicabilidad (Explainability): Las herramientas de IA deben poder explicar sus decisiones de manera clara, para que tanto médicos como pacientes las comprendan.
Más información:
La publicación completa está disponible en BMJ, ofreciendo una visión detallada del marco FUTURE-AI. Para más información, visita el sitio web de FUTURE-AI y descubre cómo estas directrices están dando forma al futuro de la inteligencia artificial en la atención sanitaria.
