Utiliser l’IA pour la documentation clinique de façon responsable : une liste de vérification pour thérapeutes

La liste de vérification

• Consentement : la personne sait que l’IA est utilisée, ce qu’elle fait, où vont ses renseignements, et qu’elle peut refuser sans que ses soins changent.
• Trajet des données : vous savez si l’audio et les transcriptions restent sur votre ordinateur ou vont à une entreprise, laquelle, pour combien de temps, et s’ils servent à entraîner un modèle.
• Chaque ligne relue : rien n’est signé avant que vous ayez tout relu en vous fiant à votre souvenir de la séance.
• Rien que la séance n’appuie pas : aucun diagnostic, aucun terme de sévérité ou de risque qui n’a pas été dit ou évalué ; aucune citation, date ou histoire inventée.
• Rien d’important ne manque : le risque abordé et la réponse, le consentement, les plans de sécurité et tout ce qui sort de l’ordinaire figurent dans la note.
• Biais vérifiés : le langage sur la culture, le genre, le handicap, la classe sociale ou la religion est exact, respectueux et, autant que possible, celui de la personne.
• Votre voix et votre jugement : l’analyse et le plan sont les vôtres, pas un résumé choisi par l’outil.
• Vous signez : la note est signée par vous, et les corrections après signature gardent la version antérieure.
• Vos règles : vous avez vérifié ce que dit votre organisme de réglementation ou professionnel sur l’IA et l’enregistrement là où vous exercez.

Bien relire une ébauche

Les modèles de langage écrivent avec aisance, et un texte fluide inspire facilement confiance. Les orientations de l’Organisation mondiale de la Santé sur les grands modèles multimodaux nomment le biais d’automatisation, l’habitude d’accepter ce que produit un système sans examen suffisant, comme un risque pour les professionnels de la santé. Quelques habitudes gardent la relecture honnête :

• Relisez peu après la séance, pendant que vous vous en souvenez encore.
• Vérifiez chaque citation, chiffre, nom et date par rapport à la transcription ou à votre souvenir.
• Lisez lentement l’analyse et le plan : c’est là qu’une conclusion non appuyée fait le plus de tort.
• Supprimez ce que vous n’auriez pas écrit vous-même.

Les biais

Les systèmes d’IA apprennent à partir de données qui portent les schémas du monde qui les a produites. Dans une étude très citée, Obermeyer et ses collègues ont montré qu’un algorithme servant à gérer les soins de millions de patients sous-estimait les besoins d’un groupe, parce qu’il prédisait les coûts de santé plutôt que la maladie. Un modèle qui rédige des notes peut faire de même à petite échelle : décrire le même comportement autrement selon la personne. Relisez en y prêtant attention, et corrigez.

Comment Olive Grove vous aide

Dans Olive Grove, la reconnaissance vocale et l’IA qui rédige les notes fonctionnent sur votre ordinateur, et il n’y a aucun fournisseur d’IA en ligne. Chaque ébauche est signalée comme ébauche d’IA. La barre de révision compte les éléments Risque, Conflits, Non appuyé et Manquant ; Afficher les sources place à côté de toute phrase les lignes de transcription d’où elle vient le plus probablement ; et une seconde passe signale le risque omis et les affirmations que la transcription n’appuie pas, sans modifier la note. Signer la note vous demande de confirmer que vous l’avez lue et qu’elle est exacte, et une note signée est verrouillée : Déverrouiller pour modifier garde la version signée et consigne la raison. Vérifier mes notes parcourt vos notes à la recherche de termes de diagnostic, de sévérité ou de risque que la séance n’a jamais employés.

Voyez Relire, corriger et signer une ébauche de note, Vérifier et corriger vos notes en lot, Notes, Où vont les données et L’IA privée pour les notes de thérapie.