Expérimentation SAMU 13, Appels d’urgence
augmentés par IA – Protection des données
privées

Projet d’Appels d’urgence augmentés par IA au sein du SAMU 13

Dans le cadre de l’appel à projet Tiers-Lieux d’Expérimentation du Ministère de la Santé dont le consortium Quatre-Vingt a été lauréat, HighWind, le Centre d’Innovations et d’Usage en Santé (CIUS) ainsi que les hôpitaux de Marseille (AP-HM) ont décidé d’expérimenter l’utilisation de l’Intelligence Artificielle pour améliorer la réception et le traitement des appels d’urgence avant le décroché.

L’objectif du projet est de pouvoir détecter plus rapidement les personnes en situation d’urgence vitale (« Priorité 0 ») grâce à l’intelligence artificielle de type Vision par Ordinateur œuvrant à qualifier la nature et sévérité des situations d’urgence sur la base d’éléments détectés en termes de Traumatologie, Contexte et Émotions. 

Jusqu’à présent, les appels d’urgence sont décrochés par ordre chronologique, peu importe le niveau de gravité de la situation. Cette expérimentation a pour but de détecter dans une file d’attente, les personnes en urgence vitale, afin de prioriser leur décroché que ce soit lors des situations d’urgence du quotidien ou lors de crises de grande ampleur.

L’expérimentation vient complémenter le processus existant d’appels d’urgence du SAMU (composer le #15 depuis un téléphone), il ne se substitue en rien à ce service vital, mais œuvre pour améliorer la prise en charge des patients et augmenter leurs chances de survie face à une urgence vitale.

Cadre juridique de protection des données

Au sein du Règlement Général sur la Protection des Données (RGPD) européen, la collecte, le traitement, l’analyse et le stockage des informations collectées par HighWind s’inscrit dans le cadre défini par l’Article 6, paragraphe 1 du RGPD relatif à l’objectif de sauvegarde des intérêts vitaux de la personne concernée ou de tiers. 

HighWind s’engage à ce que l’ensemble des informations collectées soient anonymisées et ne servent qu’à améliorer la prise en charge de la personne appelant les urgences ou de futures personnes appelant les urgences. HighWind est une start-up française exclusivement dédiée au développement de technologies de communications en situations d’urgence pour améliorer la prise en charge et la survie des personnes, et ne fait ni commerce ni échange des données collectées. 

HighWind confirme avoir effectué l’ensemble des démarches nécessaires auprès de l’autorité administrative de référence (CNIL) pour assurer la licéité du traitement, et qui se traduit suivant les recommandations de l’autorité par : 

• Utilisation de la méthodologie de référence MR-004 ; 
• Déclaration de conformité déposée auprès de la CNIL (référence n°2237296 v 0 approuvée le 27 Janvier) ; 
• Enregistrement auprès du Health Data Hub (référence n°22085149) ; 
• Analyse d’impact de la CNIL (référence AIPD24000135),
• Hébergement : au sein d’un serveur possédant la certification hébergement de données de santé (HDS)

Quelles données sont collectées et à quoi servent-elles? 

HighWind collecte les données suivantes qui sont envoyées volontairement par le requérant qui appelle le SAMU dans les Bouches-du-Rhône et choisi de transmettre ces informations à HighWind pour essayer d’améliorer sa prise en charge par les opérateurs de régulation du SAMU : 

• Numéro de téléphone portable de l’appelant : permet d’envoyer le texto au requérant avec le lien pour qu’il fournisse des photos et sa position GPS
• Date et heure de l’appel d’urgence : pour créer un identifiant unique et anonyme de chaque signalement d’urgence
• Position GPS de la situation d’urgence : afin d’afficher précisément où se trouve la victime et améliorer l’envoi de moyens 
• Photo principale prise par le requérant : pour que l’intelligence artificielle « vision par ordinateur » puisse analyser la situation déterminer sa nature et gravité afin de détecter des cas d’urgence vitale
• Photo Selfie du requérant : afin que l’intelligence artificielle analyse le niveau de douleur de l’appelant au cas où il appellerait pour lui-même mais ne serait pas capable de prendre une photo de sa blessure (ex : blessure dans son dos) 

HighWind a fait le choix de ne pas avoir une intégration profonde au sein du système du SAMU 13 et l’AP-HM, permettant d’éviter tout risque de cybersécurité mais surtout éviter d’obtenir l’identité du requérant ainsi que le contenu de l’échange vocal. HighWind ne pourra jamais connaître le prénom et le nom de la personne appelant ni le contenu de l’échange vocal.

Quelles données sont conservées/détruites ? 

HighWind détruit de manière automatique le numéro de téléphone portable de l’appelant, afin d’assurer la plus haute forme d’anonymisation de la donnée. Les autres informations précédemment mentionnées sont conservées sur un serveur approuvé comme Hébergement de Données de Santé (HDS) afin de ré-entraîner l’intelligence artificielle et améliorer la prise en charge et les chances de survies de personnes qui appelleraient les urgences dans le futur.

Que dois-je faire pour faire supprimer/modifier les données personnelles ayant été envoyées ?

Conformément au droit européen, tout utilisateur de la solution, ne souhaitant pas que les informations transmises servent à l’amélioration de l’IA pour sauver d’autres personnes, peut solliciter HighWind pour modifier/supprimer ses données en envoyant un email à : adrien.ricci@highwind-ems.com avec pour objet : SUPPRESSIONS DONNEES PERSONNELLES – #date #heure de son urgence, et spécifiant dans le contenu du message le souhait de modification/suppression de la donnée et autant d’informations que possible pour aider à retrouver les données de l’utilisateur (position GPS, nature de l’urgence, etc.)

Si l’appel a eu lieu il y a un moins de 12heures, l’utilisateur est invité à fournir son numéro de téléphone afin de faciliter le travail d’HighWind pour retrouver sa situation d’urgence. Au-delà de ces 12heures, HighWind est susceptible d’avoir procédé à la suppression automatique de ce numéro de téléphone dans un souci d’anonymisation de la donnée.

Au-delà de ces 12heures, et n’ayant plus la capacité de retrouver de manière exacte les données spécifiques de l’utilisateur compte tenu de leur anonymisation, HighWind procèdera à la suppression des données d’une vingtaine d’appels autour de  la date & heure spécifiée par le requérant souhaitant avoir ses données supprimées.

Pourquoi contribuer aux travaux d’HighWind en ne demandant pas la modification/suppression de mes données ?

HighWind est une entreprise exclusivement dédiée à l’amélioration de la prise en charge des personnes en situations d’urgence ou de crise (catastrophe naturelle, attaque terroriste, etc.) et qui est particulièrement engagée dans l’anonymisation des informations qui lui sont transmises. Autoriser HighWind à conserver les données transmises permet de ré-entraîner l’IA de pré-diagnostics de situations d’urgence et ainsi améliorer la prise en charge à la fois d’autres personnes mais également du requérant si sa situation d’urgence était susceptible de se répéter dans le futur, ce qui peut hélas souvent arriver. 

Est-ce que l’IA décide ou non d’envoyer des secours ? 

Non. En accord avec l’AI Act de l’Union Européenne, l’IA d’HighWind a pour simple objectif d’alerter un opérateur humain (assistant de régulation médicale ou médecin régulateur) qu’un appel d’urgence en attente relève potentiellement d’une situation d’urgence vitale. L’IA ne forcera pas le décroché de l’appel, ne raccrochera pas un autre appel, ne priorisera pas une personne sur une autre et ne décidera pas de l’envoi de moyens, toutes ces actions restent entièrement sous le contrôle du personnel du SAMU dont c’est le métier. L’IA vient uniquement alerter sur une situation potentiellement grave et essayer de comprendre pourquoi cette situation est grave en portant à la connaissance de l’humain des éléments qu’il n’aurait peut-être pas pu détecter par un échange vocal ou à l’œil nu. 

L’IA n’a pas non plus été conçue pour décider que votre situation d’urgence n’était « pas grave », elle a uniquement pour rôle d’alerter qu’une situation d’urgence est potentiellement « très grave », pour tout le reste elle ne se prononcera pas, mais la prise de photo aidera grandement l’humain à mieux comprendre votre situation, vous répondre plus vite, donner de meilleurs conseils et envoyer plus rapidement une ambulance suivant ce qu’il jugera bon de faire. 

Le service d’appels d’urgence IA est-il gratuit pour les personnes appelant les urgences ?

Tout à fait, l’expérimentation est financée en propre par HighWind et par France 2030 au travers des Tiers-Lieux d’Expérimentation, au-delà du coût de la donnée inhérent à chaque opérateur téléphonique auquel à souscrit le requérant, HighWind ne fait pas payer son service et n’a pas vocation à le faire payer à la population en France.

A part avec le SAMU 13, ce service est-il accessible ailleurs en France ?

Non, le SAMU 13 qui opère dans les Bouches-du-Rhône est véritablement un précurseur des initiatives d’appels d’urgence augmentés par IA et pour l’instant aucun autre service d’urgence n’en dispose. HighWind travaille actuellement à mettre en œuvre un service similaire également avec les pompiers, l’IA devant être entraînée avec les spécificités de leurs propres situations d’urgence. Compte tenu du RGPD, et du cadre exceptionnel de collecte d’information pour la sauvegarde des intérêts vitaux des personnes, HighWind ne devrait pour l’instant pas être en état de fournir ce service à la Police en France pour le moment. 

L’IA remplacera-t-elle l’opérateur humain à l’avenir dans les appels d’urgence ?

Les travaux d’HighWind ainsi que le règlement européen sur l’AI Act ne vont pas dans ce sens compte tenu de la haute criticité des appels d’urgence et de l’importance du contact humain. L’IA représente néanmoins un excellent levier pour aider à la compréhension, notamment dans des cas où la vitesse est essentielle (urgence vitale où chaque minute compte) ou face à des situations de très grande ampleur (catastrophes naturelles ou humaines) générant une masse d’appels d’urgence simultanée au-delà  des capacités de traitement par des humains. HighWind travaille sur ce dernier point au travers des exercices de gestion de crise FR-ALERT aux côtés des autorités françaises, mais toujours dans une dynamique de détection de personnes en situations d’urgence vitale afin d’aider les opérateurs humains à les identifier plus rapidement.