Lundi, Microsoft et Epic ont annoncé qu’ils introduisaient le modèle de langage d’IA GPT-4 d’OpenAI dans le secteur des soins de santé afin de l’utiliser pour rédiger les réponses aux messages des professionnels de la santé aux patients et pour analyser les dossiers médicaux en vue d’y déceler des tendances.
Epic est l’une des plus grandes sociétés américaines de logiciels de soins de santé. Son logiciel de dossier médical électronique serait utilisé dans plus de 29 % des hôpitaux de soins aigus aux États-Unis, et plus de 305 millions de patients ont un dossier électronique dans Epic dans le monde entier. Par ailleurs, l’utilisation par Epic d’algorithmes prédictifs dans le domaine des soins de santé a fait l’objet de critiques par le passé.
Dans l’annonce de lundi, Microsoft mentionne deux façons spécifiques dont Epic utilisera son service Azure OpenAI, qui fournit un accès API aux grands modèles de langage (LLM) d’OpenAI, tels que GPT-3 et GPT-4. En termes simples, cela signifie que les entreprises peuvent engager Microsoft pour leur fournir des services d’IA générative en utilisant la plateforme cloud Azure de Microsoft.
La première utilisation de GPT-4 consiste à permettre aux médecins et aux professionnels de la santé de rédiger automatiquement des réponses à leurs patients. Le communiqué de presse cite Chero Goswami, directeur de l’information à UW Health dans le Wisconsin, qui déclare : « L’intégration de l’IA générative dans certains de nos flux de travail quotidiens augmentera la productivité de beaucoup de nos prestataires, leur permettant de se concentrer sur les tâches cliniques qui requièrent vraiment leur attention ».
La deuxième utilisation apportera des requêtes en langage naturel et une « analyse de données » à SlicerDicer, l’outil d’exploration de données de Epic qui permet d’effectuer des recherches sur un grand nombre de patients afin d’identifier des tendances qui pourraient être utiles pour faire de nouvelles découvertes ou pour des raisons financières. Selon Microsoft, cela aidera « les responsables cliniques à explorer les données d’une manière conversationnelle et intuitive ». Imaginez que vous parliez à un chatbot analogue à ChatGPT et que vous lui posiez des questions sur les tendances dans les dossiers médicaux des patients, et vous aurez une idée de la situation.
Produire des choses qui « ressemblent à des faits »
Toutefois, le partenariat entre Microsoft et Epic suscite des inquiétudes parmi les chercheurs en modèles de langage de grande taille, notamment en raison de la capacité de GPT-4 à inventer des informations qui ne sont pas représentées dans son ensemble de données.
En outre, certaines personnes se demandent si les LLM sont l’outil adéquat pour ce travail. « Le travail sur le dialogue et la génération de langage naturel est un domaine actif de recherche et de développement depuis des années », déclare le Dr. Margaret Mitchell, scientifique en chef de l’éthique à Hugging Face. « Je me demande ce que ces systèmes ne fournissent pas et qui fait qu’Epic et Microsoft estiment qu’il ne vaut pas la peine d’investir dans ces systèmes et qu’ils devraient plutôt investir dans quelque chose qui n’est pas adapté à l’objectif visé.
Une autre inquiétude vient des biais potentiels de GPT-4 qui pourraient discriminer certains patients sur la base du sexe, de la race, de l’âge ou d’autres facteurs. Même si Epic utilise une version affinée de GPT-4 spécifiquement formée à l’usage médical, des biais peuvent apparaître sous la forme de formulations subtiles dans les communications automatisées entre médecins et patients, ou en essayant de transmettre des conclusions sur des données médicales, même si ces conclusions sont tirées d’un système externe existant tel que SlicerDicer.
L’application du GPT-4 par Epic et Microsoft semble contourner ces règles en évitant d’impliquer que GPT-4 lui-même fournisse des communications de manière autonome (sans professionnel de la santé dans la boucle) ou peut-être en fournissant un diagnostic ou une analyse de données sur des dossiers de patients individuels, seulement en agrégat, dans le cas de SlicerDicer.
