TELECOM PARIS ALUMNI
Retour aux actualités
Article suivant Article précédent

Revue TELECOM 192 - Quel cadre juridique pour la transformation digitale ?

Articles Revue TELECOM

-

11/04/2019

QUEL CADRE JURIDIQUE POUR LA TRANSFORMATION DIGITALE ?



Par Alain Bensoussan dans la revue TELECOM n° 192


A l’heure où le digital bouleverse nos vies et les modèles classiques de développement, dans de très nombreux cas, face aux enjeux à relever, les solutions viendront par le droit.
Quel sera le cadre juridique de ce nouveau monde digital ?
La gouvernance du monde digital qui sera le nôtre demain et qui en réalité est déjà celui d’aujourd’hui ne pourra se faire sans la reconnaissance au niveau mondial de véritables Droits de l’Homme numériques.
A nos yeux, ce modèle devra reposer sur deux grandes valeurs : propriété et dignité.
Il conviendra d’intégrer les droits de l'Homme et placer l’individu et sa dignité, mais également la dignité des algorithmes au cœur du digital et au centre de tout.


Propriété et dignité

• Propriété : c’est toute la question de l’appropriation par l’individu de ses données personnelles et l’idée que l’individu doit avoir la maîtrise de son patrimoine informationnel ;

Dignité : la régulation de la transition digitale doit avoir comme épicentre la notion de dignité. Ce qui entraîne une évidence : dans l’attente d’un droit en devenir, les intelligences artificielles doivent être conçues « éthique by design ». Cette orientation, gravée dans un code de l’honneur des codeurs, impliquera l’interdiction d’algorithmes liberticides et d’algorithmes indignes.


La propriété

Ce que nous annoncions il y a déjà dix ans semble aujourd’hui inéluctable : l’évolution devra tôt ou tard conduire à passer d’un droit à la protection à un droit à la propriété des données personnelles.

A l’heure de l’hyperconnexion et du big data, seul un droit de propriété sur ses données personnelles permettra à chacun d’organiser leur protection, les modalités de leur détention et de leur échange.

Quatre arguments peuvent être invoqués comme autant de paradoxes à l’appui d’une telle reconnaissance qui viendrait, en France comme en Europe, consacrer un véritable droit de l’homme numérique, et qui soulignent le paradoxe et l’incongruité de la situation de statu quo actuel.


La propriété des données, un droit naturel

La première situation, pour le moins paradoxale, réside dans la contradiction consistant à :

• refuser, en l’état actuel du droit, toute propriété sur ses données à caractère personnel,

• tout en reconnaissant dans le même temps un quasi droit naturel consistant pour chacun à se considérer légitimement propriétaire de celles-ci.

En effet, il est acquis, lorsqu’on évoque les données à caractère personnel, que l’emploi du possessif est de mise : on parle ainsi de « ses » données, de « sa » date de naissance, de « son » adresse, de « son » numéro de sécurité sociale, etc., soulignant ainsi un incontestable sentiment d'appropriation de ses données.

A telle enseigne qu’à la question « Etes-vous propriétaire de vos données personnelles ? », chacun répond : « Evidemment ! »

Et pourtant, il n’existe, à ce jour, dans notre droit civil, aucune reconnaissance juridique de la propriété des données personnelles !

RGPD : une reconnaissance en trompe l’œil du droit de propriété

Le second argument, tout aussi paradoxal, résulte du refus obstiné, en droit interne, de toute reconnaissance d’un droit sur ses propres données personnelles, à l’heure où le RGPD consacre indirectement mais largement un ensemble de droit des personnes sur leurs propres données, droit qui confine à la véritable patrimonialité.

Ainsi, le RGPD renforce les droits des personnes sur les données les concernant, en posant notamment comme préalable que l’effectivité des droits sera améliorée dans la mesure où les personnes disposeront d’une information pertinente sur ces derniers et pourront d’autant mieux les exercer auprès du responsable de traitement.

On le voit, les droits des personnes sur l’utilisation qui peut être faite de leurs données couvre un spectre particulièrement vaste.

Comment, dans ces conditions, continuer à nier l’existence de tout droit de propriété sur ses données ?


Données personnelles, théorie du don et précapitalisme

Le troisième paradoxe réside dans la prise de conscience, née à la suite, notamment, d’affaires récentes (dont l’affaire Cambridge Analytics) ayant mis en lumière l’utilisation que faisaient les Gafa des données personnelles qu’elles collectaient.

Certains pointent le fait que les citoyens sont devenus des producteurs de données sur Internet, les plateformes les récupérant pour leur donner une valeur commerciale auprès des annonceurs.

En oubliant, au passage, de rémunérer le citoyen numérique.

Certes, celles-ci proposent un service gratuit en échange, mais ces plateformes en tirent une valeur bien plus importante que le service fourni.

Ce qui aboutit à un système de marché asymétrique avec :

• la mise à disposition, par l’internaute, de ses propres données, selon l’économie du don chère à cet auteur, d'une part ;

• l’exploitation de ces données, dans le cadre d’une économie purement libérale, d'autre part.

Or, c’est précisément cette asymétrie que viendrait corriger l’affirmation d’un véritable droit sur la propriété de ses propres données, mettant les acteurs de ce marché sur un pied d’égalité.


Le vol, soustraction frauduleuse de la chose d’autrui

Enfin, et ce n’est pas le moindre des paradoxes : comment refuser, en droit civil, un droit de propriété sur des données personnelles, à l’heure où le droit pénal consacre le vol des données personnelles ?

Il y a ici une incohérence entre le droit pénal et le droit civil puisque, a priori, devant le juge pénal, le vol existe dès lors que l’on soustrait la chose d’autrui alors qu'au regard du droit civil, point de chose « d’autrui » puisqu’il n’existe pas de propriété sur les données.


Le droit à l’oubli numérique

Un mot sur le droit à l’oubli numérique, ce magnifique concept qui organise le droit d’évoluer en faisant de chacun d’entre nous, l’archiviste de son propre passé sous réserve du devoir de mémoire qui permet aux générations futures de savoir ce qui s’est passé avant elles.

A ce jour, l’histoire de chaque internaute est gravée dans le marbre binaire.

« A défaut du pardon laisse venir l’oubli » disait Alfred de Musset.

Du temps de Musset, le papier jaunissait et les relations se perdaient.

Aujourd'hui, l'information reste de manière quasi permanente, à disposition de tous ceux qui souhaitent la consulter par le biais de Google.

Le droit à l’oubli ne permet pas seulement d’oublier mais de revivre c’est-à-dire de vivre sans avoir son casier judiciaire privé face à lui dans Google.


La dignité

La dignité doit être au cœur de tout.

Partageons tout d’abord un constat : à l’heure du développement sans précédent des nouvelles technologies, où l’IA est partout et nous vivons sous la gouvernance des algorithmes, ce sont les codeurs qui écrivent l’avenir et les contours du monde de demain.

D’où la nécessité de réfléchir à une régulation du code reposant sur le refus de tout codage qui porterait atteinte aux droits de l’homme.

Les bâtisseurs du XXIème siècle sont les codeurs de l’intelligence artificielle.

Les infrastructures d’intelligence artificielle sont nos nouvelles cathédrales et le code, le béton virtuel de cette nouvelle urbanisation.

« Tous codeurs » : loin d’une provocation, il faut plutôt voir dans ce leitmotiv une exigence de survie décente des hommes dans un monde piloté par des IA.

Ce qui ne va pas sans soulever des défis majeurs, d’ordre éthique et juridique.

Nous n’avons donc plus de libre arbitre : nous sommes en état de dépendance intellectuelle.

Les IA se jouent du droit classique.

Le droit « classique » peut-il encadrer les IA ? Assurément non.

Il va falloir nécessairement trouver des solutions.

Le code qui commande les activités des humains, doit être maîtrisable par ces derniers pour résister à ce nouvel esclavagisme.


Les principes généraux d’un futur droit des IA

Une chose est certaine : il faudra nécessairement créer un droit particulier.

Le droit classique est inopérant.

Des solutions tangentielles existent, mais qui sont totalement inadaptées aux IA que je vous ai décrites.

Les IA sont dangereuses, mais elles sont aussi merveilleuses.

Les principes de ce nouveau droit gouverné par le concept de dignité concerneront :

• le droit à la vie ;

• le droit à l’intimité ;

• le droit à la décision.


D’une certaine façon, le monde des robots, des algorithmes et de l’IA est déjà le nôtre.

Le monde de demain sera le monde de la mixité. Les hommes devront apprendre à vivre et à survire aux côtés des robots.

Cette mixité, il faut l’organiser.

Ainsi, il faudra nécessairement tenir compte du droit le plus difficile à appréhender : le droit à la décision en dernier ressort.

Il s’agit de la question la plus difficile à trancher pour réguler cette nouvelle civilisation.

Qui aura le dernier mot ?

Qui tranchera, en dernier ressort, des humains ou des IA, en position finale dans une situation critique ?

Même si cela sera sans doute difficile à faire entendre et à plaider, il nous semble que les décisions devraient obéir au mécanisme suivant : priorité aux IA et pouvoir résiduel aux humains en cas de défaillance de l’IA.

En effet, ces IA, en situation critique, devraient être en position de décision.

Lorsque deux IA sont unanimes par rapport aux humains, alors les IA doivent être dominantes.

Par contre, si elles sont perdues ou non unanimes, dans ce cas, la décision doit revenir aux humains.

Dans le cadre de cette régulation que nous appelons de nos vœux, une évidence : dans l’attente d’un droit en devenir, les IA doivent être conçues « ethics by design ».

Cette orientation, gravée dans un code de l’honneur des codeurs, impliquera l’interdiction d’algorithmes liberticides et d’algorithmes indignes.

C’est la raison pour laquelle il devient urgent de mettre en place une charte universelle du code dont le principe serait de refuser le code qui porterait atteinte aux droits de l’homme (concept de codage Ethics by Design).

Cette charte permettra de définir un droit à l’humanité dans les futurs algorithmes.

Le Monde de demain devra être régulé par les droits humains de l’IA. 



Biographie de l'auteur


Alain Bensoussan, avocat à la Cour d’appel de Paris, précurseur du droit des technologies avancées, Alain Bensoussan a fait de l’élaboration de concepts nouveaux l’une de ses marques de fabrique : domicile virtuel, droits de l’homme numérique, vie privée résiduelle, etc. En 2012, après avoir créé Lexing®, premier réseau international qui fédère des avocats en droit du numérique et des technologies avancées, il lance au sein de son cabinet un département sur le droit des technologies robotiques, y voyant « la reconnaissance par le droit d’une mutation technologique au moins aussi importante que l’ont été l’informatique et les réseaux sociaux au 20eme siècle ». Alain Bensoussan est président de l'association française du droit des robots (ADDR).


278 vues Visites

J'aime

Commentaires0

Veuillez vous connecter pour lire ou ajouter un commentaire

Articles suggérés

Articles Revue TELECOM

Revue TELECOM 194 - Editorial Laura Peytavin et Yves Poilane

User profile picture

Rédaction Revue TELECOM

13 novembre

Articles Revue TELECOM

Revue TELECOM 193 - La kippa bleue

User profile picture

Rédaction Revue TELECOM

15 juin

Articles Revue TELECOM

Revue TELECOM 193 - La transformation digitale (numérique) 2.0

User profile picture

Rédaction Revue TELECOM

15 juin