Aller au contenu principal

Des fabricants de casques de sommeil utilisent les ondes cérébrales pour entraîner des IA

Une enquête révèle que des entreprises de neurotechnologie utilisent les enregistrements EEG de leurs clients pour entraîner des modèles d'IA sans consentement explicite initial. Les sociétés concernées ont depuis mis à jour leurs politiques de confidentialité face aux préoccupations sur la vie privée.

Une investigation menée par Science, en collaboration avec l'AI Accountability Network du Pulitzer Center, met en lumière les pratiques de plusieurs fabricants de bandeaux de sommeil et de méditation. Ces appareils, conçus pour suivre les cycles de repos, collectent des données d'électroencéphalographie (EEG), soit les signaux électriques du cerveau. Des dizaines de millions d'heures d'enregistrements auraient ainsi été accumulées pour développer des modèles de fondation neuronaux.

Interaxon, l'entreprise canadienne derrière le bandeau Muse, a déjà entraîné un modèle d'IA à l'aide de 50 000 heures d'enregistrements EEG. Bien que la société affirme anonymiser les données en supprimant les noms et adresses, sa politique de confidentialité ne mentionnait pas explicitement cet usage avant l'enquête. Nadia Kumentas, directrice marketing d'Interaxon, a reconnu que les utilisateurs devaient être informés explicitement, entraînant une mise à jour des conditions d'utilisation.

Un manque de transparence généralisé

Le cas d'Interaxon n'est pas isolé. Emotiv, un autre fabricant de casques EEG, entraîne son modèle Large Brain en partie grâce aux données de ses clients utilisant des appareils haut de gamme. Suite aux interrogations des chercheurs, Emotiv a également modifié sa politique de confidentialité pour préciser l'usage de données neurales désidentifiées, désormais soumis à un consentement préalable (opt-in). L'enquête souligne que plus des deux tiers des entreprises étudiées autorisent le transfert de données d'entreprise sans le consentement de l'utilisateur, ce qui pose un risque en cas d'acquisition par un tiers.

Sur le plan technique, ces modèles diffèrent des modèles de langage classiques (LLM). Au lieu de texte, ils analysent l'activité électrique cérébrale pour identifier des schémas récurrents. La startup Piramidal, en partenariat avec la Cleveland Clinic, a par exemple entraîné un modèle sur 4 millions d'heures de données pour détecter les crises d'épilepsie. Toutefois, ces appareils grand public, dotés de seulement un à six électrodes contre 19 à 25 pour les systèmes cliniques, ne permettent pas de lire les pensées.

Des précédents en matière de sécurité

La sécurité de ces données sensibles reste fragile. En février, un ingénieur avait découvert qu'il pouvait accéder aux enregistrements EEG d'autres utilisateurs via l'application Android d'un masque de sommeil connecté, à cause d'identifiants codés en dur. Parallèlement, l'industrie intensifie ses efforts de collecte. La startup Coundit a entrepris de rassembler 10 000 heures de données pour traduire les signaux cérébraux en langage, tandis que Meta développe BrainQwerty, une interface cerveau-ordinateur non invasive affichant une précision de 61 % pour la saisie au clavier.

Notre lecture

Cette exploitation des données neurales illustre un nouveau front pour la protection de la vie privée. Si Colorado et la Californie ont déjà adapté leurs lois pour inclure les données cérébrales, le flou juridique actuel permet aux fabricants de transformer un outil de bien-être en une source de données massive pour l'IA. Pour le joueur ou l'utilisateur technophile, cela souligne la nécessité de surveiller les mises à jour de confidentialité des périphériques de santé connectés, dont les capteurs deviennent de plus en plus intrusifs.

The Share Players • Actualités • Vidéos • Calendrier • Bibliothèque • Bons Plans

⚡

L'Actu

Chargement des actualités majeures du jour...
𝕏
@TheSharePlayers Actualité rapide
Chargement des derniers posts @TheSharePlayers...
Chargement des dernières vidéos YouTube...

Sorties à venir

Synchronisation du calendrier IGDB...

Bons Plans du Moment

Sélection automatisée des meilleures baisses de prix PC & Consoles (Physique & Démat')

Voir tous les bons plans
Chargement des meilleures offres multi-supports...
0 jeux sélectionnés
Prêt pour votre commande
Action effectuée