Faudra-t-il apprendre le droit à l’oubli à l’IA ?

droit-a-oubli-ia

Le prochain grand défi, en matière de protection de la vie privée, sera-t-il d’apprendre le droit à l’oubli à l’intelligence artificielle ?

La machine peut-elle apprendre à oublier ?

Telle est la question posée par une tribune publiée par le magazine Wired :

Pratiquement toutes les entreprises modernes collectent, d’une manière ou d’une autre, des données sur leurs clients ou utilisateurs, et ces données sont stockées, vendues, revendues, analysées et utilisées pour entraîner des systèmes d’IA. (…)

Aujourd’hui, quand des données sont aspirées dans cette machinerie complexe, il n’y a aucun moyen efficient de les récupérer, ainsi que leur influence sur la production qui en résulte. Si on réfléchit au droit à l’oubli, il faut reconnaître que la récupération de données spécifiques auprès d’un grand nombre d’entreprises privées et d’intermédiaires constitue un défi unique. Mais il faut également réaliser que même si on parvient à relever ce défi, il restera une question difficile : comment apprendre à une machine à “oublier” quelque chose ?

Un défi au cœur des questions éthiques de l’IA

Une lecture chaudement recommandée donc, surtout à un moment où l’Union européenne cherche à s’emparer de la question du développement d’une éthique de l’intelligence artificielle :

En l’absence de lois facilement applicables, de règles qui fixent les limites d’une technologie qui change “l’art du possible”, nous n’avons qu’un système décentralisé sans humain aux commandes. Les algorithmes ne savent pas choisir ce qu’il doivent désapprendre, et ceux qui en ont la charge n’auront peut-être aucune raison, capacité ou envie de traiter le problème.

(Source : Wired)