Veille en intelligence artificielle en santé Février 2025 | | Objectif de la veille Nourrir une vision stratégique tout en fournissant des outils concrets aux équipes du réseau de la Santé et des Services sociaux, à travers des articles portant sur les technologies et connaissances susceptibles de soutenir le développement et l'intégration de l'intelligence artificielle(IA) en santé. Le CEIAVD a choisi de ne publier que des articles en accès libre pour garantir leur disponibilité à un large public. Leur sélection est déterminée par une démarche éditoriale. L'IA appliquée au domaine clinique possède un spectre trop vaste à couvrir de manière exhaustive par notre activité de veille qui se veut plus généraliste. Vous voulez que l'on diffuse un article ou un événement? ceiavd@ssss.gouv.qc.ca 🍁 Canada 💙 Québec 🛠️ Outils ⭐ Recommandation | Trois publications du MSSS disponibles uniquement aux employés du réseau de la santé Reconnaissance vocale et transcription basée sur l’IA en santé
Les aspects couverts dans cette capsule sont les différents champs d’application de la transcription vocale, le potentiel de leur utilisation et enfin les recommandations pour son introduction responsable. IA et Objets connectés en santé
Les aspects couverts sont les différents champs d’application des IoMT, les défis au niveau de la sécurité et comment l’intelligence artificielle (IA) peut aider à les dépasser et comment l’IA associée aux IoMT peut aider à déceler les patients à risque. Bonnes pratiques d’utilisation de l’IA générative du MCN et points de vigilance en santé
Les objectifs sont de faire connaître au MSSS, à Santé Québec et au réseau de la santé et des services sociaux (RSSS) les éléments clés de ce guide du MCN et de démontrer la cohérence des travaux du MCN avec ceux menés au MSSS pour une utilisation responsable et adéquate de cette technologie.
Portrait numérique - Intelligence artificielle générative et données personnelles (2024) - Académie de la transformation numérique
La section 1 couvre la connaissance, l'utilisation, les obstacles, l'impact sur l'emploi, la confiance et l'intention de payer concernant l'intelligence artificielle générative. La section 2 traite de la protection des données personnelles, de l'aisance à partager ces données en ligne et des fraudes. 💡Dans l'œil de l'Obvia : notes de breffage pour les acteurs publics
Destinées spécifiquement aux acteurs publics dont le secteur d’intervention est concerné par les enjeux de l’intelligence artificielle, les notes de breffage Dans l'œil de l'Obvia visent à résumer et vulgariser les enjeux en lien avec une thématique de la transformation numérique, tout en s’appuyant sur des travaux de recherche menés à l’ Observatoire international sur les impacts sociétaux de l'IA et du numérique (OBVIA), au Québec et à l’international. Janvier 2025 : Améliorer la transparence algorithmique grâce aux registres publics Autres notes de breffage pouvant alimenter vos réflexions! Pourquoi la sobriété numérique ? L’IA comme outil de promotion de la santé et de réduction de la maladie Comment intégrer l’IA de manière responsable au sein de l’administration publique? Le Québec se positionne à l’égard de l’IA. Que peuvent faire les acteurs publics? Dons nos prochaines éditions, nous nous chargerons de publier les notes pouvant s'appliquer au système de santé. Si vous souhaitez en savoir plus : 📝Pour recevoir les notes de breffage 👇
https://www.obvia.ca/form/inscription-notes-de-breffage-da | 💙 High-reward, high-risk technologies? An ethical and legal account of AI development in healthcare - Un article de Catherine Régis, Joé T. Martineau et Maelenn Corfmat
Considering the disruptive potential of AI technology, its current and future impact in healthcare, as well as healthcare professionals’ lack of training in how to use it, the paper summarizes how to approach the challenges of AI from an ethical and legal perspective. It concludes with suggestions for improvements to help healthcare professionals better navigate the AI wave
🍁FairSense: Integrating Responsible AI and Sustainability
A new AI-driven platform extends bias detection to include text and visual content, while leveraging energy-efficient AI frameworks. FairSense-AI balances energy efficiency and bias safety. FUTURE-AI: international consensus guideline for trustworthy and deployable artificial intelligence in healthcare
Over a two year period, the FUTURE-AI guideline was established through consensus based on six guiding principles—fairness, universality, traceability, usability, robustness, and explainability. To operationalise trustworthy AI in healthcare, a set of 30 best practices were defined, addressing technical, clinical, socioethical, and legal dimensions. The recommendations cover the entire lifecycle of healthcare AI, from design, development, and validation to regulation, deployment, and monitoring. Benchmarking the most popular XAI used for explaining clinical predictive models: Untrustworthy but could be useful
This study aimed to assess the practicality and trustworthiness of explainable artificial intelligence (XAI) methods used for explaining clinical predictive models.
A caution against customized AI in healthcare
This article critiques the shift towards personalized AI in healthcare and other high-stakes domains, cautioning that without careful deliberation, customized AI systems can compromise the diversity and reach of human knowledge by restricting exposure to critical information that may conflict with users’ preferences and biases.
An institutional framework to support ethical fair and equitable artificial intelligence augmented care
We present the PULSE framework, aimed to establish an integrative and ethically governed ecosystem for the patient-guided, patient-contextualized use of multi-domain health data for AI-augmented care. AI safety solutions mapping: An initiative for advanced AI governance
Project SAFE, initiated with the previous iteration of the Global Partnership on AI (GPAI), is partnering with the Mohammed Bin Rashid School of Government in Dubai and its Project GRASP (Global Risk and AI Safety Preparedness) to address safety challenges through international cooperation. At its core, GRASP maps AI risks to the tools and methodologies developed to address them. | Self-Improving Diffusion Models with Synthetic Data
This paper introduces Self-IMproving diffusion models with Synthetic data (SIMS), a novel approach to utilize synthetic data effectively without incurring Model Autophagy Disorder (MAD) or model collapse, setting new performance benchmarks and addressing biases in data distributions. IMWA: Iterative Model Weight Averaging Benefits Class-Imbalanced Learning Tasks
The paper proposes Iterative Model Weight Averaging (IMWA) for class-imbalanced learning tasks. IMWA divides training into episodes, averaging multiple models within each episode. This iterative approach improves performance more than vanilla Model Weight Averaging (MWA) with the same computational cost.
Monitoring performance of clinical artificial intelligence in health care: a scoping review
The objective of this review was to provide an overview of the diverse methods described, tested, or implemented for monitoring performance of clinical artificial intelligence (AI) systems, while also summarizing the arguments given for or against these methods. Meta Large Concept Models (LCM): End of LLMs?
What are LCMs and how is LCM different from LLMs Ex-Google, Apple engineers launch unconditionally open source Oumi AI platform that could help to build the next DeepSeek
Oumi, backed by 13 top research universities, raised $10 million to launch a platform offering researchers and developers a toolkit for building, evaluating, and deploying foundation models. Unlike major players investing billions in data centers, Oumi takes a different approach. Overview of basic design recommendations for user-centered explanation interfaces for AI-based clinical decision support systems: A scoping review
The article reviews design recommendations for user-centered explanation interfaces in AI-based clinical decision support systems. It aims to provide an overview of best practices from scientific literature to improve the usability and effectiveness of these systems in healthcare. Tackling the small imbalanced horizontal dataset regressions by Stability Selection and SMOGN: a case study of ventilation-free days prediction in the pediatric intensive care unit and the importance of PRISM
The article discusses a novel approach to improve regression accuracy on small, imbalanced datasets in bioinformatics. It highlights the use of Stability Selection and SMOGN to predict Ventilator-Free Days in pediatric ICU patients, emphasizing the importance of PRISM as a predictor. Extensive benchmarking of a method that estimates external model performance from limited statistical characteristics
This study benchmarks a method to estimate external model performance using limited statistical characteristics. Results from five US data sources show accurate estimations, demonstrating the method's feasibility in predicting model transportability and potentially accelerating model deployment in clinical settings. A scoping review of robustness concepts for machine learning in healthcare
The article aims to identify and map the types of robustness addressed in the literature for ML models in healthcare, analyzing how these concepts are differently tackled across various data types and predictive models. | 💙Innovation en IA : la détection de la propagation du cancer du cerveau sans chirurgie
Une équipe de recherche a développé un modèle d’intelligence artificielle (IA) pour détecter la propagation du cancer du cerveau métastatique au moyen d’une imagerie par résonance magnétique (IRM), permettant ainsi de suivre l’état des malades, sans avoir à procéder à une chirurgie agressive. 💙L'intelligence artificielle générative : savoir quand l'utiliser plutôt que comment
L'article explique que l'intelligence artificielle générative (IAG) est omniprésente et qu'il est crucial de déterminer quand l'utiliser plutôt que comment. Il met en garde contre l'illusion de contrôle et prône une utilisation réfléchie et sobre de l'IAG pour minimiser les risques éthiques et techniques. Ambient artificial intelligence scribes: physician burnout and perspectives on usability and documentation burden
This study evaluates the pilot implementation of ambient AI scribe technology to assess physician perspectives on usability and the impact on physician burden and burnout.
Digital Information Ecosystems in Modern Care Coordination and Patient Care Pathways and the Challenges and Opportunities for AI Solutions
Our perspective paper explores the digital information ecosystems in modern care coordination, focusing on the processes of information generation, updating, transmission, and exchange along a patient’s care pathway.
Planning and implementing real-world artificial intelligence (AI) evaluations: lessons from the AI in Health and Care Award
The AI in Health and Care Award, part of the NHS AI Lab, allocated over £100 million from 2020 to 2024 to support AI technologies. This document reviews lessons from Phase 4 evaluations, focusing on practical guidance for real-world AI implementation in health and care.
Optimal placement of ambulance stations using data-driven direct and surrogate search methods
The paper focuses on optimizing the placement of ambulance stations in Umeå, Sweden, using data from 2018. The goal is to minimize the median response times for priority 1 alarms, the most urgent type of alarms, by implementing and validating various optimization approaches. The Siren Call for Business Model Innovation in Healthcare
This essay explores the necessity and return on investment for business model innovation in Canada's healthcare system, questioning the traditional approach of rapid product development.The discussion aims to redefine healthcare innovation strategies to enhance healthcare delivery and sustainability.
Artificial Intelligence In Health And Health Care: Priorities For Action
This article discusses the integration of AI in health care, emphasizing the need for safe, effective, and equitable use. It highlights four strategic areas: trustworthy AI, AI-competent workforce, AI research investment, and clear AI liability policies. These steps aim to guide health care advancements.
Evaluation and practical application of prompt-driven ChatGPTs for EMR generation
This study investigates the application of prompt engineering to optimize prompt-driven ChatGPT for generating electronic medical records (EMRs) during lung nodule screening. A Review on Medical Image Segmentation: Datasets, Technical Models, Challenges and Solutions
This review strategically covers the evolving trends that happens to different fundamental components of medical image segmentation such as the emerging of multimodal medical image datasets, updates on deep learning libraries, classical‐to‐contemporary development in deep segmentation models and latest challenges with focus on enhancing the interpretability and generalizability of model.
AI for IMPACTS Framework for Evaluating the Long-Term Real-World Impacts of AI-Powered Clinician Tools: Systematic Review and Narrative Synthesis
This study aimed to create a framework for assessing AI in health care, extending beyond technical metrics to incorporate social and organizational dimensions. The framework was developed by systematically reviewing, analyzing, and synthesizing the evaluation criteria necessary for successful implementation, focusing on the long-term real-world impact of AI in clinical practice. | Deux publication de Santé Québec
💙Politique cadre de gouvernance des renseignements personnels et des renseignements de santé et de services sociaux
💙Plan de transformation - Ensemble, pour une transformation durable et des résultats qui comptent - Comité de transition - Janvier 2025
💙Répercussions de l’automatisation et de l’IA sur la main-d’œuvre au Québec
C’est dans ce contexte que le Centre des Compétences futures (CCF), qui a pour mission
d’aider les Canadiens à acquérir les compétences nécessaires pour se démarquer sur un
marché du travail en pleine évolution, a approché l’Institut du Québec (IDQ) afin
d’explorer l'impact concret de l'IA sur l’emploi au Québec. Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act
These guidelines provide an overview of AI practices that are deemed unacceptable due to their potential risks to European values and fundamental rights. Artificial Intelligence and Cybersecurity: Balancing Risks and Rewards. White paper
This document examines the key lessons learned from the AI project, highlighting challenges in data acquisition, project timeline extension, dedicated personnel involvement, and cybersecurity concerns. It underscores the necessity of prioritizing AI projects and ensuring dedicated resources for effective and timely implementation while maintaining robust cybersecurity measures. 💡The Future of AI-Enabled Health: Leading the Way
AI in healthcare can be transformative, but if action is not taken on six pivotal transitions,
the health sector is at risk of not reaching its full potential and falling behind. The AI act : road to compliance - A Practical Guide for Internal Auditors
This paper aims to assist internal auditors in their role by providing a comprehensive overview of the AI Act and its requirements. 💡Shake up of tech and AI usage across NHS and other public services to deliver plan for change
The government has announced a new plan to leverage technology and AI tools like "Humphrey" to streamline public services, eliminate delays through improved data sharing, and reduce costs, including consultant spending. | Consultez la liste des formations et d'une multitude d'autres médiums pour en apprendre sur l'IA dans la section Ressources de notre site web
⭐École d'été interdisciplinaire en numérique de la santé
Les inscriptions sont ouvertes! Un rabais* de 20% est offert au personnel des CIUSSS et CISSS valide jusqu'au premier 1er mars 2025.
L’EINS est organisée par le groupe de recherche interdisciplinaire en informatique de la santé (GRIIS) de l’Université de Sherbrooke dans le cadre de la chaire en numérique de la santé du ministère de l’Économie et de l’Innovation du Québec. Les sujets abordés traitent, entre autres, des systèmes de santé apprenants, de la modélisation des connaissances et de données en santé, de l’analyse de données en santé, des enjeux éthiques et légaux ainsi que de la gestion du changement en santé. Principles of Health Interoperability
This book provides an introduction to health interoperability and the main standards used. Health interoperability delivers health information where and when it is needed. Everybody stands to gain from safer more soundly based decisions and less duplication, delays, waste and errors. An executive’s guide to AI
Staying ahead in the accelerating artificial-intelligence race requires executives to make nimble, informed decisions about where and how to employ AI in their business. One way
to prepare to act quickly: know the AI essentials presented in this guide. | Avis de non-responsabilité Utilisation de l'anglais
Pour maintenir l'intégrité du sens, nous avons choisi de ne pas traduire les titres et résumés. Vous pouvez utiliser les outils de traduction automatique disponibles dans certains navigateurs pour traduire les articles en anglais : faites un clic droit sur la page et sélectionnez « Traduire en français ». Notez que l'utilisation de ces outils peut entraîner des différences de sens par rapport au contenu original. Utilisation de l'IA
Certains résumés de cette veille, générés avec des outils d'IA pour réduire le nombre de mots, peuvent contenir des imprécisions. Les articles originaux n'ont pas été lus en entier par l'auteure de cette veille, donc le CEIAVD décline toute responsabilité quant aux inexactitudes ou omissions. Les résumés visent à orienter le lectorat sur le contenu. Pour des informations complètes et précises, consultez les articles originaux. Hyperliens
Les veilles incluent des liens vers des sites Web créés et mis à jour par des tiers afin de faciliter la consultations des articles. Le CEIAVD n'endosse ni ne garantit, de manière explicite ou implicite, l'exactitude ou l'exhaustivité du contenu de ces hyperliens ou des opinions qui y sont exprimées. Le CEIAVD décline toute responsabilité quant à ces sites Web externes. | | | | |
