Introduction

1En 2016, un rapport sur l’avenir de l’intelligence artificielle (IA) a été publié soulignant les progrès de l’apprentissage machine et d’autres techniques d’IA pour accomplir une gamme de tâches complexes, notamment dans le domaine de la santé (Crawford et al., 2016). Mais ce rapport identifie aussi un point aveugle majeur dans la réflexion sur l’IA en santé : l’évaluation des conséquences sociales de ces technologies. Des systèmes sont déjà déployés dans les hôpitaux, et pourtant, les effets de ces technologies sur les pratiques cliniques, sur la communication patient/soignant, sur les patients eux-mêmes ne sont peu voire pas évalués. Une méfiance s’installe et elle est légitime, car certains biais, certaines erreurs aux conséquences sociales, politiques, économiques et humaines majeures ont déjà été révélées soulignant aussi une forme d’opacité algorithmique (Burell, 2016). Cette méfiance doit nous inciter à aborder plusieurs enjeux relatifs à la conception et l’implantation de l’IA dans le domaine de la santé.

2L’IA en santé fait couler beaucoup d’encre, l’accent étant souvent mis sur ses potentialités dans le diagnostic, la prise de décision clinique et les récents développements aliment aussi une vision d’une médecine personnalisée et prédictive (Hogle, 2016 ; Powles et Hodson, 2017). Or, parallèlement au développement de ces technologies d’apprentissage machine, des travaux interrogent les conséquences sur la pratique clinique de la diffusion de l’IA dans le domaine de la santé (Blease et al., 2019). Ces travaux tentent d’identifier les lacunes et les limites de l’IA, mais aussi ses implications sur les patients et les soignants (Caruana et al., 2015 ; Sabelli et al., 2011 ; Ruckenstein et Schüll, 2017). Elish et Byod (2018) ont suivi un projet mené par le M.D. Anderson Cancer Center au Texas qui avait pour ambition d’utiliser IBM Watson pour soutenir un objectif fondamental dans la mission de cette organisation de santé : éradiquer le cancer. La promesse était que Watson révolutionnerait le traitement du cancer, en offrant des traitements plus personnalisés et une prise de décision clinique améliorée. Cependant, Elish et Byod (2018) écrivent que dans l’année qui a suivi le déploiement de cette IA, un audit très critique mené par l’Université du Texas a révélé que cette « intelligence cognitive » avait été survalorisée dans les discours (offrant une promesse d’éradication du cancer) et sous-utilisée par les professionnels.

3Il y a une tendance à inscrire le développement de l’IA en santé dans un récit techno-déterministe (Elish et Byod, 2018). Et les efforts de « branding » du terme Intelligence Artificielle (IA) par les entreprises mettent en avant une forme d’objectivité algorithmique face à la prise de décision humaine biaisée (Zarsky, 2016). La rhétorique du déterminisme technologique est ici encore bien présente et accompagne le développement de l’IA en santé reléguant les processus par lesquels la technologie est configurée et reconfigurée dans la pratique au second plan (Leonardi et Jackson, 2004). Par ailleurs, des chercheurs nous invitent à porter une attention sur les normes sociales, les valeurs culturelles qui sont sous-jacentes à la conception et au développement des algorithmes, car les données ne sont pas des référentiels neutres (Mackenzie, 2005 ; Cardon, 2018 ; Collins, 2018). Les données que les algorithmes contiennent ne sont jamais brutes et objectives, mais toujours produites, déduites et interprétées. Gregory et Bowker (2016) soulignent d’ailleurs comment les effets politiques, économiques et sociaux des données sont déterminés par des décisions qui sont prises lors de la conception de ces technologies.

4Les travaux cités précédemment nous invitent à ne pas négliger ce que l’on nomme l’interopérabilité sociale (Lesh et al., 2007 ; Catoir-Brisson, 2018). Autrement dit, à porter une attention particulière à la relation qui se constitue entre les utilisateurs et les données générées par des algorithmes, et ce, dès la conception de technologies d’apprentissage machine. Dans une étude sur les données cliniques, Neff (2013) souligne la nécessité de traduire les données générées par des algorithmes dans le monde social des patients et des prestataires de soins de santé, en plaidant pour une forme d’interopérabilité sociale. D’ailleurs, pour Neff (2013), les concepteurs de technologies médicales négligent des aspects clés de l’interopérabilité sociale des données générées par des algorithmes d’apprentissage. Ce chercheur soulève une question importante : comment ces données seront-elles intégrées dans les pratiques de travail des médecins et infirmières, dans les routines complexes des équipes médicales et des hôpitaux ? Ainsi, prendre en compte l’interopérabilité sociale c’est porter une attention particulière à la relation qui se constitue entre les utilisateurs et ces technologies d’apprentissage machine. C’est donc penser l’intégration des technologies dans des pratiques situées en mettant l’accent sur la communication, l’interaction avec les utilisateurs et le sens qu’ils donnent aux informations générées par des algorithmes. Poser la question de l’interopérabilité sociale de l’IA en santé, c’est aussi s’interroger sur les significations que vont donner les patients aux données générées par des technologies de types senseurs corporels ou alors sur la place accordée à la prise décision partagée quand un algorithme proposera un plan traitement (Blease et al., 2019). Autant d’enjeux qui soulignent l’importance d’intégrer l’interopérabilité sociale dans le processus de conception de technologies d’apprentissage machine dans le contexte de la santé (Baumer, 2017).

5Dans cet article, nous proposons de mieux comprendre l’interopérabilité sociale en analysant, lors de la phase de conception de technologies impliquant des algorithmes d’apprentissage, la relation que des professionnels de la santé et des patients construisent avec ces technologies en devenir. Pour ce faire, nous prendrons appui sur deux projets de recherche menés en partenariat avec des organisations de santé. Une recherche impliquant des soignants engagés dans la conception d’un algorithme d’apprentissage visant à réduire les surcharges cognitive et informationnelle à l’hôpital. Et, un autre projet mené avec des personnes vivant avec la maladie de Parkinson pour lesquelles une technologie d’auto-suivi visant à générer des données de santé pour soutenir leur prise en charge clinique est en développement. Sur le plan méthodologique, dans ces deux projets nous avons mis en œuvre une approche de design participatif/co-design (Simonsen et Robertson, 2012). Cette approche a permis d’impliquer les futurs utilisateurs de ces technologies dès le début du processus de conception et a contribué à révéler des usages anticipés, des attentes et progressivement à comprendre la signification que les professionnels et les patients attribuent aux données générées par des algorithmes. Ainsi, le parti-pris méthodologique conduit à travailler sur l’interopérabilité sociale et la manière dont les acteurs la définissent tout en s’engageant dans la conception d’une technologie d’apprentissage machine située dans des pratiques et évoluant au gré des itérations successives. Pour terminer, la discussion des deux cas présentés nous amènera à prolonger la réflexion autour la prise en considération de l’interopérabilité sociale dans le design de technologies d’apprentissage machine et à ouvrir des pistes de recherche futures.

Interopérabilité sociale et agentivité algorithmique

6La notion d’interopérabilité dans le contexte de la santé est un sujet qui a déjà fait couler beaucoup d’encre (Balka et al., 2012 ; Daniel et al., 2011 ; Joubert, 2011). Dans la littérature, deux types d’interopérabilité sont étudiés, soit l’interopérabilité technique et sémantique. La tendance est de mettre l’accent sur l’échange de données et de faire en sorte que les différents systèmes d’information médicaux se parlent. Pour cela il faut que les logiciels « parlent le même langage » et par conséquent, « l’interopérabilité doit être à la fois technique, en définissant des formats communs afin de permettre aux différents logiciels du marché de s’interconnecter, et sémantique, en définissant un vocabulaire normalisé pour caractériser les données métiers des professionnels de la santé. » (Gagneux, 2016, p. 47). Balka et al., (2012) proposent de catégoriser l’interopérabilité selon 3 types : l’interopérabilité technique (renvoyant à l’implantation de système informatique qui sont interconnectés et qui partagent, échangent des données), l’interopérabilité sémantique (renvoyant à l’usage de terminologies et de définitions partagées, normalisées afin de s’assurer que l’information échangée est comprise) et enfin l’interopérabilité sociale (renvoyant à l’intégration de systèmes d’information dans des pratiques). La notion d’interopérabilité sociale reste un concept émergent dans le domaine de l’IA en santé (Neff, 2013). Et comme Neff (2013) l’écrit « Making these types of data socially interoperable means understanding the differences in how people generate, use, and even talk about data. » (p. 119). Parler d’interopérabilité sociale c’est comprendre la manière dont les individus traduisent dans leur monde social une information générée par un algorithme afin de la rendre significative peur eux. Par conséquent, c’est bien la relation et le sens que les utilisateurs vont construire avec ces données qui est au cœur du concept d’interopérabilité sociale. Et ce travail de traduction, d’intégration des données et informations générées par les algorithmes dans le monde social des acteurs est négligé lors de la conception et du développement des technologies d’apprentissage machine.

7Dans le domaine de la santé, le codage algorithmique des états corporels et de l’expérience individuelle en informations numériques et leurs traductions subséquentes dans les activités cliniques transforment le corps du patient en donnée désincarnée, manipulables et interprétables (Berg, 2017 ; Lupton, 2016). Mol (2002) parle d’ailleurs de corps multiple et d’autres chercheurs (Oudshoorn et Somers, 2006 ; Lupton, 2013) de patient numérique afin de souligner cette forme de désincarnation induite par la numérisation. Le patient devient une icône sur un écran (Verghese, 2008), ce qui crée des situations très paradoxales ou le flux de données sur le patient attire souvent plus l’attention que le patient lui-même qui est physiquement assis dans le cabinet du médecin. Le médecin interagit donc avec des données mises en forme, formatées, traitées, agencées par un algorithme à partir desquels il va poser un diagnostic. Ainsi, c’est confronté à ce patient numérique que le clinicien va être amené à poser des actions, à agir, à prendre des décisions cliniques que ce soit d’ordonner des tests supplémentaires, de recommander un traitement. Face à ce corps désincarné, certains s’inquiètent quant à l’intégration des algorithmes dans la pratique clinique (Zarsky, 2016). C’est donc bel et bien l’interaction homme-machine et la relation que le praticien va avoir avec ces données qui sont ici au cœur des questions soulevées (Mort et al., 2005). Questions qui renvoient à ce que nous avons nommé précédemment l’interopérabilité sociale. Par ailleurs, ne peut-on pas penser que ce qui va rendre les algorithmes socialement pertinents et utiles, c’est leur capacité d’agir en tant que partenaires dans la communication (Esposito, 2013) ? Il est donc important de remettre au cœur de la question, celle de l’interaction, de l’agentivité des algorithmes (‘Agency’ - Pickering, 1995).

8Actuellement, nous assistons à une conception de l’IA qui reste centrée sur l’individu (Nilsson, 2009). Il s’agit de reproduire artificiellement les capacités cognitives et psychologiques de l’être humain. Or, les algorithmes d’apprentissage sont des agents sociaux, ils font une différence, ils ne sont pas neutres (Dourish, 2016 ; Vayre, 2018). Le rôle communicatif des algorithmes doit être pris en compte, car cela a de nombreuses conséquences sur notre manière de « faire sens » des données générées et de les intégrer aux pratiques (cliniques ou de soins), de les rendre intelligibles. Autrement dit, nous nous devons de penser l’interopérabilité sociale.

Penser l’interopérabilité sociale via le design de technologies d’apprentissage machine située dans des pratiques

9Afin de mieux comprendre cette notion d’interopérabilité sociale qui est au cœur du design de technologies d’apprentissage machine, nous allons discuter de deux projets de recherche. Plus spécifiquement, nous souhaitons montrer comment les futurs utilisateurs de données générées par des algorithmes ont « leur mot à dire » sur les usages anticipés de ces technologies au cours du processus de conception. Nous examinerons à travers ces deux recherches la manière dont les acteurs engagés dans le processus de conception de technologies reposant sur des algorithmes d’apprentissage définissent l’interopérabilité sociale et contribuent par conséquent à la conception d’une technologie située dans des pratiques cliniques ou de soins. Une technologie qui évoluera, se transformera au grès des itérations successives.

Le projet CogNeat

Contexte de la recherche et méthode

L’interopérabilité sociale du point de vue des soignants

11Les différents ateliers de design participatif menés avec les soignants ont permis de révéler des usages anticipés d’un algorithme d’apprentissage. C’est ce que nous allons prendre le temps de décrire. Nous allons notamment regarder de plus près ce que nous apprennent les ateliers sur l’interopérabilité sociale de l’algorithme à concevoir, et ce du point de vue des futurs utilisateurs. Dès la rencontre initiale au démarrage du projet, les participants abordent la question de l’interopérabilité des systèmes d’information (extrait 1) en mettant de l’avant l’interopérabilité technique (travailler avec plusieurs systèmes d’information qui ne « se parlent pas ») et sociale (l’intégration de l’information verbale et les risques associés aux délais pour accéder à l’information).

Extrait 1 – Rencontre initiale/Gérer l’interopérabilité des systèmes d’information
Med2 : Pour moi, ce que je trouve qu’est la surcharge c’est le input de plusieurs sources en même temps. Oui, il y a l’ordinateur, j’ai mon Méditech qui est mon système d’information habituellement dédié, je n’ai pas accès à mon imagerie, il faut que j’aille sur un autre poste, mais le rapport peut être retrouvé là une fois qu’il est lu. Après j’ai l’information verbale qui va être donnée par les infirmières sur ces patients-là, qui représente aussi l’information qui est dans le système, comme le potassium est à 6.1, là je vais voir aussi visuellement sur l’écran. Puis, il y a beaucoup de délais pour aller chercher l’information. Donc une fois qu’on est sur le poste, d’aller chercher le patient, d’aller chercher les résultats, il y a un délai associé à ça qui est non négligeable.
[…]
Med3 : Juste aussi, on a beaucoup. On a notre système de Méditech avec tous les labos et l’information du patient, mais il y a aussi plein d’affaires en papier. Donc moi je trouve que c’est la gestion des deux. Une sorte d’information ici, une sur l’ordinateur aussi de trouver le déroulement du patient à l’urgence c’est en papier, donc il faut aller trouver ce papier qui avec l’infirmière, les signes vitaux, tout ça, donc moi je trouve que c’est un peu le mélange pour trouver l’information aussi.

12Au cours de cette rencontre initiale, les participants vont rapidement anticiper des usages de la technologie à concevoir, dont notamment celui d’alléger leur surcharge cognitive en les aidant à prioriser en temps réel les informations relatives aux patients ayant des résultats de laboratoires ou de radiographie anormaux (extrait 2).

Extrait 2 : Rencontre initiale/Aider à prioriser
Med2 : Il y a déjà des améliorations dans ce qui a été fait avec Méditech [le système d’information médical existant] comme d’avoir des choses visuelles sur des résultats critiques. Alors la troponine et le lactate deviennent flaggées tout de suite, puis déjà là quand on regarde, parce que nous, la façon qu’on se log, on ouvre puis il y a la liste de patients. Moi j’ai le dossier, dans les dix patients, il y en a trois qui vont avoir des résultats anormaux, il y en a cinq qu’on évalue en même temps, puis là tu y vas selon le timing à peu près. Actuellement avec notre système, c’est difficile de voir, est-ce qu’on devrait prioriser celui qui a plus de résultats anormaux. Tu sais, en fait des priorisations, si on est pour aller vers ça, ok. Alors l’information de six patients à évaluer, puis il y en a un plus rouge parce que lui a tous les labos complètement anormaux.
Med4 : Oui, puis il a les radios qui viennent de rentrer qui ne sont pas normales, puis les tests ne sont pas normaux, puis lui il serait comme en haut dans la liste par exemple.
Med2 : Exactement. En fait de prioriser, de prioriser la liste des patients, puis ça, ça pourrait être fait, tu sais, par rapport à ce que le Méditech fait dans le background avec le nom des patients, ou quels sont les patients à prioriser en fonction de pourcentage de labos anormaux, ou de ce qui est flaggé, c’est possible. Parce que moi, j’ai de la difficulté à prendre la décision parce que tu regardes, tu fais ton premier trois heures le matin puis tous les labos arrivent en même temps, tu en as sept à évaluer parce que tu sors de (inaudible), puis là c’est lequel que je vois en premier, quel est le plus prioritaire, mais de commencer à cycler à travers tous les bilans pour trouver lequel est le plus malade, lequel a besoin de mon attention tout de suite, c’est ce que j’ai besoin. Je perds beaucoup de temps à faire ça parce que là je suis assis à mon poste puis je me dis, ok lequel je devrais voir, parce que tous les dossiers sont empilés dans une pile, puis là tu avances un peu puis tu te rends compte que celui qui est le plus malade tu l’as mis en dernier.

13L’extrait 2 pointe des éléments importants qui nous informent sur ce que devrait faire la technologie à concevoir, à savoir : soutenir l’acte de priorisation des décisions cliniques et pour cela se connecter aux systèmes d’information existants pour aller chercher l’information déjà identifiée comme anormale et la rassembler afin qu’elle soit rendue accessible rapidement. L’algorithme à concevoir devra être en mesure de structurer l’information disponible de manière à mettre en exergue les résultats anormaux. Les médecins décrivent ici l’importance de pouvoir interagir avec une technologie qui pré-organise l’information de manière à ce que cette structure de l’information « fasse sens » et appuie leur activité clinique. Au cours du projet, les participants abordent à plusieurs reprises le fait que l’algorithme à concevoir doit s’intégrer à leur activité clinique. Ils décrivent ici une forme d’interopérabilité sociale, comme l’illustre l’extrait 3.

Extrait 3 – Atelier de design participatif 1/Un algorithme s’intégrant aux pratiques existantes
Med2 : Je vais vous dire mon idée, vous me dites ce que vous en pensez. Mon idée c’est qu’il ne faut pas que ça prenne de place, il ne faut pas que cela me gêne parce que je veux continuer à travailler comme d’habitude. Donc ce que c’est, c’est vraiment Méditech, parce que nous notre Méditech est ouvert 90 % du temps, puis si tu as les autres icônes pour les autres informations, on va prioriser, mais ce que tu as c’est que l’appli et tout ça, ils se merge autour de ton système, donc tu continues à travailler de façon normale, mais n’importe quand que tu as des rapports anormaux, l’intégration de toute l’information se fait automatiquement, donc les choses critiques qui sortent, là ça passe.
Inf3 : Tu as des lumières.
Med2 : Ou il passe en avant. Donc toutes les choses critiques que tu as à ton nom, puis là aussitôt qu’il y a quelque chose, un signe vital qui est anormal ça te le montre, puis là ça fait juste te le dire, mettons signes vitaux anormaux, des choses comme ça, que tu peux ignorer si l’infirmière te dit c’est beau, c’est correct, tu peux juste l’ignorer, tout ça, ou que le potassium est haut. Donc en fait de priorisation, ce que tu veux c’est de prioriser l’information, donc ceux qui ont des résultats anormaux, ils sortent tout de suite en haut là, puis, encore je suis capable de travailler comme que je fais d’habitude. Que j’ai rien rajouté/
[…]
Med2 : Mais pour me permettre, parce que je ne cherche pas une nouvelle façon d’intégrer l’information, je veux une chose qui va prioriser l’information quand elle sort, pour me dire des affaires anormales. Moi c’est comme ça que je le visualise, parce qu’il ne sera pas capable d’intégrer toute l’information, donc il faut que tu continues de travailler un peu avec ce qu’on a de base. Donc ce qu’on a de base c’est Méditech parce que j’ai mes rapports antérieurs, j’ai mes imageries antérieures, j’ai les rapports, j’ai le discharge summary. Donc tout ça c’est encore là, mais tout ce qui rentre d’anormal le système intelligent le flag/
Inf3 : Mais qu’est-ce que tu améliorerais par exemple dans ton idée ?
Med2 : Donc là, les rapports de laboratoire anormaux, ça [le système intelligent] il va te le prioriser pour te dire ce que tu as parce que là on n’a pas/
Inf3 : Tu veux les faire ressortir.

14Cet extrait souligne l’importance d’intégrer la technologie à la pratique clinique afin qu’elle la supporte, mais ne l’entrave pas. Plus spécifiquement, les données qui pourront être générées par l’algorithme devront s’intégrer à l’univers informationnel existant et agréger des informations cliniques afin de soutenir la prise de décision clinique. Un autre élément qui ressort de cet extrait, c’est que l’IA à concevoir devra supporter l’activité cognitive des professionnels en leur signalant des tests et résultats anormaux pour un patient. En fait, cet élément est important pour les professionnels et renvoie à l’idée d’une interaction homme-machine qui les aidera à prioriser l’information tous en les soutenant dans leur pratique clinique actuelle. Il est important de voir aussi que pour les soignants les données générées par l’algorithme doivent absolument être contextualisées pour « faire sens » et supporter la prise de décision clinique. L’extrait 4 souligne un élément essentiel de la relation que les médecins construisent avec les informations priorisées qui pourraient être générées par une technologie d’apprentissage machine.

Extrait 4 – Atelier de design participatif 1/« faire sens » de l’information
Med4 : Je donne l’exemple, si j’écris hypocalcémie par exemple, dans ma liste de problèmes est-ce qu’elle est contrôlée, à ce moment-là il faut que je fasse le suivi, c’est là que je parle de système intelligent, si je mets hypocalcémie, traitée, stable, ça ne fera pas un flag, mais si je mets hypocalcémie de nouveau ça devrait faire un flag, là oublie pas de suivre ton hypocalcémie.
Inf1 : Ça c’est toute la question du contexte. C’est l’exemple de l’anémie, si tu ajoutes deux trucs à côté, tu lui donnes son contexte puis là ça change complètement.

15Cet extrait souligne un autre élément lié à l’interopérabilité sociale, c’est la question centrale du sens, de la signification que les données générées par un algorithme vont avoir dans le contexte réel de la pratique clinique. Il est essentiel pour les médecins de remettre l’information identifiée par l’algorithme comme anormale dans son contexte. Par ailleurs, ils vont discuter à de nombreuses reprises de l’importance de remettre en contexte les données générées, car des résultats de laboratoires anormaux n’auront pas la même signification dépendant du contexte et de leur mise en relation avec d’autres informations comme l’âge du patient, ses antécédents médicaux, les médicaments qu’il prend, etc. Les professionnels soulèvent un enjeu important qui renvoie à la manière dont un algorithme peut structurer symboliquement et matériellement leur expérience et pratique clinique. Les informations et connaissances qui sont produites par un algorithme manipulant des relations entre des données qui prennent sens selon le contexte clinique soulèvent des enjeux importants en termes de conception. Ces informations relatives à l’interopérabilité sociale de l’algorithme à concevoir sont importantes et ont été largement discutées avec les développeurs, notamment lorsqu’il a été question de choisir la base de données qui allait entraîner l’algorithme, mais aussi quand il a été question de sélectionner le langage de programmation de l’algorithme ainsi que le type d’apprentissage machine privilégié. On voit ici comment des informations liées à l’interopérabilité sociale sont venues nourrir le processus de conception de l’algorithme, les choix techniques en termes de langage de programmation et de choix de base de données pour entraîner l’algorithme.

16Nous avons souhaité avec ces extraits identifier la manière dont de futurs utilisateurs (dans ce cas des soignants) pensent l’interopérabilité sociale d’une technologie reposant sur le développement d’un algorithme d’apprentissage qui doit les aider à réduire leur surcharge cognitive et informationnelle. Ce qui était important pour nous est de montrer comment la prise en compte de l’interopérabilité sociale dès le début du processus de conception, contribue à ancrer le développement même de la technologie dans des pratiques cliniques existantes. Et de faire en sorte que le design de l’algorithme d’apprentissage se fasse par itérations successives intégrant les connaissances générées au cours des ateliers sur les pratiques situées dans lesquelles devra s’intégrer l’IA en devenir.

Le projet iCARE-PD

Le projet iCARE-PD : contexte et méthode

18Les besoins en termes de prise en charge clinique, de suivi et de coordination de l’offre de soins pour les personnes atteintes de la maladie de Parkinson constituent un défi majeur pour les organisations de santé. L’accès mal coordonné à l’offre de soins à domicile met à rude épreuve les personnes vivant avec cette maladie, ceux-ci devant surmonter d’importants obstacles pour accéder à certains services dans un système de santé fragmenté. Le projet iCARE-PD vise à étudier le design et l’implantation d’un modèle de soins intégrés pour des personnes vivant avec la maladie de Parkinson (Kessler et al., 2019). Ce modèle repose sur une prise en charge coordonnée entre les différents prestataires de soins (integrated care), la mise en œuvre d’un programme d’autogestion des soins par les patients et les aidants (self-management support) et la conception et l’implantation de technologies de santé (Technology enabled care). Plusieurs technologies impliquant le développement d’algorithmes vont être développées dans le cadre de ce projet, et ce afin de soutenir le processus d’autogestion.

19Un des objectifs de ce projet est de concevoir dans le cadre d’une approche de co-design (Bowen et al., 2013 ; Donetto et al., 2015) une plateforme numérique nommée « eCARE-PD » (Figure 2). L’objectif de ce projet n’est pas de concevoir une technologie qui va uniquement permettre au patient d’assurer un auto-suivi de sa santé, mais qui a pour objectif double de générer des données pour les médecins et infirmières afin que ceux-ci puissent réajuster le plan de traitement des patients quand leurs symptômes évoluent. C’est ce que Bardram et Frost (2018) nomment « double-loop technology », c’est-à-dire une technologie de santé qui intègre deux cycles d’interaction (figure 2). Un premier cycle d’interaction entre le patient et la plateforme et un second cycle d’interaction entre les soignants et le système. Pour Bardram et Frost, « designing a double-loop, rather than a single-loop, personal health system is far more complex since this is not merely a user-experience and technological design challenge but a socio-technical design challenge as well » (2018, p. 172). L’enjeu est donc de concevoir une technologie qui via un algorithme va générer et mettre en forme des données de santé qui devront « faire sens » tant pour les patients et leurs aidants que pour les médecins et infirmières. Le système devra donc permettre aux patients de visualiser les données générées par les différents outils d’auto-suivi et les aider dans la prise en charge de leur maladie au quotidien. Mais les données collectées devront aussi permettre aux médecins d’identifier des signes cliniques évocateurs de l’évolution, de la progression de la maladie, et d’autres paramètres cliniques qui leur permettront de revoir le plan de traitement du patient afin de le personnaliser.

20Ce projet intègre donc le développement de plusieurs technologies de type outils d’auto-suivi, senseurs corporels et autres technologies visant à générer des données de santé qui vont être traitées par un algorithme afin de permettre aux médecins d’adapter le traitement des patients. De manière générale, lorsque l’on pose la question de l’interopérabilité sociale des données générées par des algorithmes, le patient est bien souvent oublié dans le processus de conception de ces technologies. Or, quelles significations ont les données produites par des technologies de types senseurs corporels pour des personnes atteintes de la maladie de Parkinson ? Que pouvons-nous savoir de la signification que donnent les patients et leurs aidants aux données produites et traitées par un algorithme ? Par ailleurs, les patients n’utilisent pas toujours les données générées par les outils d’auto-suivi de la manière dont les concepteurs ou les soignants les avaient anticipés. Fiore-Gartland et Neff (2015) parlent de « data valences » pour souligner les différences entre les attentes et les valeurs attribuées aux données par différents acteurs dans le processus de conception (développeurs, médecins, patients et aidants). Et comme ils l’écrivent : « We use the term data valences to reflect the multidimensional differences in the expectations for and values around data. […] We define data valences as the multidimensional expectations and values that mediate the social and material performance of data, or what data can do and will do within a particular social system. As a concept, data valence allows us to examine how data are rhetorically evoked and how the conversations, discourses, practices, and contexts of data diverge and multiply, even when the interpretation of data is relatively stable or settled. » (2015, p. 1470).

21La méthodologie mise en œuvre dans le cadre de ce projet repose sur une approche de co-design qui comporte plusieurs étapes itératives au cours desquelles les patients et les soignants sont considérés comme des partenaires à part entière du processus de conception. Cette approche contribue à prendre en compte la question de l’interopérabilité sociale des données générées par un algorithme dès le début du processus de conception. Il a été demandé aux participants de collaborer au processus de conception via l’organisation d’ateliers de design participatif (2 ateliers avec des patients et des aidants et un atelier avec des soignants). Au cours des ateliers, diverses techniques de facilitation sont utilisées pour engager les participants (Grosjean et al., 2019b). Ces techniques combinent 3 actions : (a) raconter (partager des expériences de vie avec la maladie via une activité de « Trajectory Mapping »), (b) faire (interagir avec un prototype et redessiner des pages écrans) et (c) mettre en scène des futurs possibles (imaginer et représenter des solutions futures et scénarios d’utilisation).

22L’analyse présentée dans cet article va porter sur les ateliers de design participatif menés avec les patients et dont l’objectif était le suivant : The purpose of the study is to design a self-management technology (eCARE-PD platform) to enable patients to manage collaboratively with care partners and health care providers their own health and care [document de présentation, décembre 2018]. Plus spécifiquement, le but des ateliers était de comprendre et préciser le contexte d’utilisation de la plate-forme eCARE-PD en permettant aux patients via une activité de cartographie de leur trajectoire de soins (« Trajectory Mapping ») d’échanger autour de leur trajectoire de vie avec la maladie, mais aussi à propos de leurs besoins et défis à relever au quotidien. Ensuite, les patients et les aidants étaient invités à contribuer à concevoir les fonctionnalités à intégrer à la plateforme eCARE-PD lors d’une activité au cours de laquelle ils interagissaient avec un prototype basse fidélité (figure 3) et naviguaient sur des pages tout en les commentant et en proposant des changements, transformation dans le design des interfaces.

23Au cours de leur interaction avec le prototype, les participants partageaient leurs points de vue sur le système d’auto-suivi censé générer des données cliniques pour leur neurologue. Nous avons enregistré les discussions au cours de l’atelier et fait des photos des différents artefacts créés par les participants (propositions de changement dans les interfaces, recommandations écrites). Les discussions ont été transcrites et une analyse thématique des transcriptions a été réalisée.

L’interopérabilité sociale du point de vue des patients et des aidants

24Notre objectif est de révéler la manière dont les patients et les aidants envisagent, anticipent cette interopérabilité sociale, à savoir comment ils définissent la relation qu’ils vont construire avec les données générées par la plateforme. Ces informations vont être très utiles pour penser le développement même de la technologie, et notamment en révélant les données qui sont jugées pertinentes à suivre pour les patients et les aidants ; données qui vont nourrir l’algorithme. En se connectant au prototype, les participants interagissaient avec système leur demandant de sélectionner 3 ou 4 priorités de santé qu’ils souhaitaient suivre (figure 4), ce qui a fait réagir plusieurs patients, comme l’illustre l’extrait 5.

Extrait 5. Atelier de design participatif du 20 décembre 2018/Avoir un contrôle sur les données à suivre et à générer
P10 : I’m also interested in the notion of full package that contract all the different aspects of this disease, and your progression through those various (inaudible). This is aimed in that direction, I’m not sure it’s the perfect model, but it’s aimed in that direction. We said that the attempt to try and put barriers or a wall around a small chunk of it I disagree with. I think it needs to be open to tracking all aspects of the disease over time, and not just say three elements or whatever, that would be my biggest comment I guess.
P11 : I agree with that gentleman, what he said about tracking everything about the disease, because limiting it to the two or three or four priorities is irrelevant, because in my experience with the disease, and his experience with the disease, we all experience probably all of these things over time, but at any given time, three or four is an umbrella.

25L’extrait 5 porte sur les actions, les choix qui devront être faits (en termes de choix de priorités de santé à suivre) pour générer des données visualisables et utilisables tant par les patients que les médecins. Les données générées par l’outil d’auto-suivi vont circuler à travers de multiples mondes sociaux (ceux des patients, des aidants et des médecins) et leur contexte d’usage va donc être différent dépendamment de l’utilisateur. Le prototype proposé aux patients avait un script (Akrich, 1992) qui les obligeait à identifier uniquement 3 ou 4 priorités de santé pour lesquelles ils collecteraient des données. Comme le montre l’extrait 5, les patients expriment d’emblée une résistance à voir la technologie configurer de telle manière qu’elle les contraint à ne sélectionner que 3 ou 4 priorités de santé. Par conséquent les scripts anticipés par les développeurs entrent en confrontation avec les usages décrits par les patients et les aidants au cours de l’atelier. C’est une forme d’interopérabilité sociale qui est ici soulevée par les patients, et elle concerne la signification que ceux-ci donnent aux données collectées par l’algorithme. Il faut que les choix concernant les données à être collectées et traitées par l’algorithme soient d’emblée des données qui ont un sens pour les patients. Ceux-ci veulent pouvoir suivre leurs symptômes, l’évolution de leur maladie et ne pas se limiter à traquer, collecter uniquement 3 ou 4 priorités de santé car ceci n’est pas cohérent avec leur expérience de vie avec la maladie. Cet élément est important, car il pose d’emblée la question du type de données de santé à collecter, à suivre pour que celles-ci aient un sens dans le monde social des patients.

26Ainsi, le processus de conception de technologies d’apprentissage machine en santé impliquant des patients présente des enjeux importants quant à l’intégration au cours du processus de développement des multiples usages et contexte d’usage des données générées par des algorithmes. Par conséquent, penser l’interopérabilité sociale c’est aussi prendre en compte dans la conception d’algorithmes d’apprentissage ce que Fiore-Gartland et Neff (2015) nomment « social valences of data ». En effet, les patients, les développeurs, les médecins n’accordent pas la même valeur aux données générées par un algorithme d’apprentissage. Pour le médecin, ces données devront lui permettre d’affiner son diagnostic et d’adapter le plan de traitement des patients atteint de la maladie de Parkinson. Mais pour les patients, ces données devront leur permettre de mieux comprendre, suivre et prendre en charge au quotidien leur symptôme et leur maladie. Nous pouvons voir que l’interopérabilité sociale renvoie alors à ces différentes relations que les individus entretiennent avec les données, la valeur qu’il leur accorde ; émergent alors différentes significations dans la manière d’interpréter ces données (Fiore-Silfvast et Neff, 2013).

27Les pratiques d’auto-suivi des priorités de santé par les patients vont générer de nombreuses données représentant leur corps (via le suivi de symptômes moteurs), leur émotion sous forme de graphiques visualisables à l’écran (figure 3). Cette représentation visuelle de leur corps, de leurs symptômes, de leur émotion reconfigure indéniablement leur expérience de vie avec la maladie. En effet, au fur et à mesure que des données corporelles ou autres sont traduites via la technologie en données mesurables et disponibles, celles-ci sont interprétées au gré des interactions qui se tissent entre les patients, les aidants et la plateforme d’auto-suivi dans notre cas. Dans l’extrait 6 les patients illustrent par leurs commentaires le fait que pour eux voir des graphiques, visualiser les données collectées, agir sur ces données en les commentant, les annotant leur permet de « donner du sens » à ces données, de les contextualiser.

Extrait 6. Atelier de Design Participatif 8 janvier 2019/Besoin de manipuler, annoter les données pour leur donner sens
P3a : I think that the graphing for me was important for me actually, the lines, because when he first got diagnosed, I tracked everything from his diet, to his vitamins, to his intake of water ; absolutely everything to figure out how to manage any symptoms.[…] So for me seeing the graph helps because I did that manually, and then I’d go back and say : what did you do the week that you feel so crappy, you know, and then let’s not do that again.
P11a : And that’s what this graph needs to represent is, the points on the graph that are low and high, we need to be able to add notes. Why was it low, why was it high/
P3b : Yes, because maybe, you know, it was, you got bad news from somebody in the family, right ? Maybe that’s why you had a bad week ; it had nothing to do with what you ate or what you did, or what your exercise was the week before, so adding notes in there, actually adding notes and being more detailed throughout this platform would be very beneficial/
[…]
P11b : Well a year later when I see my doctor and some red flags. These are the times and dates and problems, so that he can look at it and go, ah, this is why you’re having those issues. At least provide some advice.
C3 : That’s interesting.
P3c : I think it would be interesting for a doctor. I don’t know if that’s the intent of this, to be able to at some point sit down with all this information and try to find, even from an artificial intelligence standpoint, correlations, you know ? As you’re trying to manage/

28C’est comme si ce corps désassemblé, désincarné traduit en données numériques devait « reprendre corps » à travers des manipulations, annotations et ainsi être intégré à des pratiques sociales qui vont permettre de faire sens de ses données (P3a, P11a, P3b). C’est ce corps multiple que les patients se proposent d’énacter à travers de multiples pratiques visant à créer des liens entre les données générées et leur réalité quotidienne, reconfigurant alors ces données dans un contexte d’usage qui va leur donner sens. D’une certaine manière, les patients et les aidants décrivent ici, la manière dont ils envisagent l’interopérabilité sociale des données générées par cette technologie. Le codage de l’expérience individuelle et des états corporels (auto-suivi des priorités pour chaque patient) en informations numériques et leurs traductions subséquentes dans le monde social des patients, dans leur réalité est une activité centrale qui est associée l’usage de ces technologies. L’extrait 6 illustre aussi une autre dimension de ce que nous avons nommé « data valences » et qui traduit bien l’interopérabilité sociale des données générées par les algorithmes. Une interopérabilité qui est prise dans un tissu de conversations impliquant ici les patients, les aidants, les données et le médecin (P11b, P3c). Les participants évoquent ici les interactions qui peuvent avoir lieu autour des données ou à propos des données. En d’autres termes, les données produites par un algorithme participent à l’échange entre le médecin et le patient ; ceux-ci vont s’appuyer sur les données générées par l’algorithme pour évaluer ou interpréter les données ensemble. Ainsi, les patients évoquent la possibilité qu’une relation se construise autour de données produites et partagées par un algorithme.

29Nous avons donc souhaité comprendre - à travers ces exemples - les expériences subjectives partagées par des patients et des aidants qui seront amenés à générer et utiliser des données produites par un algorithme afin d’en révéler l’interopérabilité sociale. Autrement dit, au cours des ateliers de design participatifs, les participants sont amenés à penser l’intrication des techniques, des logiques sous-jacentes à leur conception et les contextes d’usage. Ce qui doit nous amener - concepteurs et chercheurs - à reconnaître que les algorithmes sont à la fois socialement produits et socialement productifs plutôt que de les voir agir de manière déterministe. Par ailleurs, dans une perspective communicationnelle, la référence première n’est pas l’individu, mais les relations, interactions que celui-ci entretient, construit avec son environnement et les autres. C’est donc notre manière d’interagir avec des algorithmes qui doit être au cœur des travaux menés en sciences de la communication. Après tout, ce qui est intéressant dans l’interaction avec les algorithmes n’est pas ce qui se passe dans le cerveau artificiel de la machine, mais ce que la machine « dit » à ses utilisateurs et les conséquences que cela peut avoir sur la prise de décision clinique, sur la pratique clinique ou sur la prise en charge de sa maladie par un patient.

Conclusion

30La démarche proposée dans les deux projets de recherche présentés, nous incite à prolonger la réflexion sur le développement des méthodes intégrant l’approche de design participatif lors de la conception et du développement de technologies d’apprentissage machine. Ces technologies en santé intègrent des algorithmes de plus en plus complexes issus de l’apprentissage machine, du traitement du langage naturel et de domaines connexes qui vont « faire une différence » dans les mondes sociaux des futurs utilisateurs. Cette solution visant à intégrer les utilisateurs dans le processus de conception de ces algorithmes contribue à penser leur interopérabilité sociale dès la phase initiale de conception et ainsi de ne pas négliger les relations, significations que les utilisateurs vont donner aux informations générées par des algorithmes. Le design participatif contribue à inscrire le développement de ces technologies d’apprentissage machine dans une approche sociotechnique afin de penser l’assemblage entre l’IA (les algorithmes et les machines) et les humains. Mais aussi de mieux comprendre les processus de conception et la manière dont ils interagissent avec les utilisateurs ceci dans le but de comprendre leur impact sur la vie quotidienne des patients ou sur la pratique clinique des prestataires de soins.

31Par conséquent, la conception d’algorithmes d’apprentissage situés dans des pratiques doit être privilégiée car il est nécessaire de reconnaître le « travail invisible » que les professionnels de la santé et les patients entreprennent avec les données de santé produites via des algorithmes. Un design participatif ancré dans des pratiques contribuerait à mieux comprendre la flexibilité interprétative, les « intégrations astucieuses » des algorithmes dans des pratiques. Nous pourrions alors parler de « algorithms-in-practice » en référence à la notion de « technology-in-practice » développées par Orlikowski (2007). En effet, les algorithmes d’apprentissage qui nourrissent les IA en santé produisent de nouvelles données à partir de bases de données sur lesquels ils ont été entrainés qui permettent une gamme d’interactions sociales et matérielles qu’il ne faut pas négliger. Par conséquent, l’introduction de l’IA dans le domaine de la santé transforme indéniablement la manière de travailler et de produire des connaissances, de prendre des décisions cliniques. Ainsi, les données générées par ces algorithmes ne doivent pas être vues comme des données immuables, mais plutôt pensées comme imbriquées dans un réseau de relations fait d’individus aux statuts différents, de matérialité et se manifestant à travers des pratiques situées. Ces algorithmes s’inscrivent dans un environnement hétérogène assemblant des objets, des discours et des pratiques situés dans des environnements différents (à l’hôpital, à la maison). Il nous paraît important – dans le cadre de recherches futures – de saisir cet arrangement sociotechnique afin de révéler l’agentivité des algorithmes et de poursuivre notre compréhension de leur interopérabilité sociale.