Overblog
Editer l'article Suivre ce blog Administration + Créer mon blog

Publié par Jean-Pierre FORESTIER

L’essentiel
 

- Les voitures autonomes, et plus généralement l’Intelligence Artificielle, posent-elle un nouveau problème de responsabilité.

 

- En cas d’accident provoqué par votre véhicule « autonome », si vous avez à tout moment la possibilité de « reprendre la main », votre responsabilité est identique à celle que vous avez en conduisant les véhicules actuels.

- Par contre, si vous n’avez aucune possibilité de « reprendre la main », vous n’êtes pas plus responsable que si vous voyagez dans un transport en commun.

- Ce n’est pas que les algorithmes de l’Intelligence Artificielle soit explicables ou non qui est juridiquement important, mais que le constructeur de ces algorithmes ait pris la responsabilité de les faire utiliser par un tiers.

- La décision de responsabilité du conducteur d’une voiture autonome déclarerait de facto la fin de la voiture autonome où on rêve d’être assis en train de lire son journal.

 

D’autres facteurs pourraient laisser la voiture autonome au rang des fantasmes :

- la vulnérabilité aux malveillances

- l’impossibilité de protéger les données personnelles du conducteur-utilisateur.

 

La redéfinition des responsabilités

« Parmi les chantiers ouverts par l’explosion des nouvelles technologies se trouve donc inévitablement celui de la redéfinition des responsabilités engagées concernant des produits intégrant une part d’informatique de plus en plus grande.

Comment allouer la responsabilité entre les sous-traitants, les programmateurs informatiques, les intégrateurs, les prestataires de services, les vendeurs de ces produits, leurs propriétaires, les usagers ou les bénéficiaires ? Voire à l’IA elle-même comme certains le fantasment ? »

interroge Nathalie Devillier.

Professor Member of the Expert Group on Liability and New Technologies at the European Commission

Mon expérience du droit

… est certes limitée, mais variée :

    - Enseignement de la propriété intellectuel à des étudiants en sciences. Des brevets, j’ai surtout retenu que :

               - est une invention brevetable ce qui est « inattendu »

               - n’est pas brevetable, ce qui est déductible de « l’art antérieur ». Art dans le sens de ce qui est fait par l’homme, comme un feu d’artifice ou … l’Intelligence artificielle !

     - Comme président du conseil syndical de mon immeuble j’ai appris que le seul interlocuteur important est celui qui engage sa responsabilité. 

 

 

- Et surtout, j’ai baigné dans le droit dès mon enfance au contact de mon père magistrat. Il a, entre autre, participé à la création du Service financier ce qui était alors le Tribunal de Grande Instance de Paris (dans L’ivresse du pouvoir, Isabelle Huppert était assise à « son bureau » ), une des premières grandes affaires qu’il ait instruites fut une pyramide de Ponzi, de moindre d’ampleur que celle de Bernard Madoff mais avec la même utilisation de rabatteurs « à particules".

    

De plus, la logique et l’importance de l’observation dans « La compréhension de la discipline juridique » étant tout à fait semblables à celles des sciences, je me suis permis les réflexions ci-dessous, même si elles apparaissent incomplètes à un pur juriste j’espère qu’elles pourront vous être utiles. 

 

La voiture autonome

Même si l’Intelligence Artificielle, et plus spécifiquement l’algorithme Inception V4 de Google de reconnaissance du mélanome, apparaît comme une aide à bon indice de confiance, nous avons vu que le médecin reste le seul responsable de son diagnostic.

    

 

 

 

 

Mais l’exemple qui occupe le plus les esprits, et les fantasmes (ce n’est sans doute pas un hasard) est l’hypothétique « voiture autonome » et la responsabilité de « l’autopilote « assassin » de Tesla » dont s’inquiète Nathalie Devillier.

 

Plus ou moins sous-jacente, la question de ma collègue s’étend à la responsabilité (point cardinal du droit) de toute l’Intelligence Artificielle.

Deux cas distincts

Il faut immédiatement scinder deux cas d’utilisation de la voiture autonome.

 

1er cas : vous avez à tout moment la possibilité de « reprendre la main » du véhicule.

 

 

 

 

 

 

 

 

 

2eme cas : vous êtes assise sans la possibilité matérielle de prendre les commandes.

 

Accident

En cas d’accident provoqué par le véhicule, plus particulièrement un accident dont un tiers est victime et dont, avec une voiture « normale », non autonome, vous seriez considérée comme responsable, examinons les deux cas :

 

1er cas : Vous devez garder à tout instant et en toutes circonstances la maîtrise de votre véhicule, que celui-ci ait ou non une possibilité d’autonomie, donc, si j’étais le juge, je vous déclarerais responsable.

 

 

 

 

 

 

 

2eme cas : vous n’êtes pas plus responsable que le passager d’un transport en commun automatique, comme celui de la ligne 4 de la RATP, ou bien plus ancien, les véhicules automatiques légers (VAL) de Lille (1983) puis Toulouse (1993).

 

 

Les taxis autonomes comme ceux de Navya entrent, comme tous les taxis, dans la catégorie des transports en commun.

 Dans ce cas, c’est le transporteur qui est responsable. En prenant un ticket de transport vous avez établi un contrat entre le transporteur et vous.

 

 

La seule possibilité d’interagir sur la conduite du véhicule est de tirer la sonnette d’alarme. Si vous le faites vous devenez responsable de cet acte et il vous sera demandé de le justifier.

     

 

  Par analogie, pour la voiture totalement autonome, le vendeur ou le loueur seraient responsable puisque c’est avec eux que vous avez signé le contrat de vente/location.

Expertises  

…Le cas de la voiture totalement autonome et assimilable à un transport en commun étant réglé, concentrons-nous sur le cas où vous avez à tout moment la possibilité de reprendre la conduite/maîtrise du véhicule. Comme juge, je vous ai déclaré légalement responsable mais vous mettez en cause le vendeur/loueur qui lui va se retourner contre le constructeur, qui lui même va se retourner contre le fournisseur d’IA, puis vers « les sous-traitants, les programmateurs informatiques, les intégrateurs, les prestataires de services ».

 

      Si j’étais le juge, je vérifierais d’abord que le véhicule a bien reçu le Certificat de conformité prouvant que le véhicule est conforme aux directives et règlements européens.

 

 

 

Si un message apparaît au moment où le conducteur démarre son moteur. Si ce message est semblable à celui de la navigation guidée par satellite (GPS) :

« La conduite autonome est un système d’assistance. Il ne peut en aucun cas se substituer à l’analyse du conducteur. Toute manœuvre est à vérifier scrupuleusement par le conducteur »

... si le conducteur clique sur OK sa responsabilité devient évidente !  

Mais ce système ne serait qu’une aide à la conduite, pas celui qui pilote un véhicule autonome.   

 

Si j’étais le juge, je vérifierais évidemment aussi s’il y a eu malveillance de la part d’un ou des acteurs (constructeur, sous-traitant, etc.), comme cela été le cas dans l’affaire du Diesel Gate.

 

    

 

 

Si j’étais le juge …. L’aspect « inattendu » peut également être évoqué si les circonstances qui ont entraîné cet accident n’étaient pas déductibles de « l’art antérieur », par exemple, comme dans une publicité, un piano à queue tombant du quatrième étage.

Sachant que l’inattendu pour les premiers véhicules autonomes est simplement la chute de … neige ! Je ne sais pas si ce problème a été résolu; des publicités montrent un véhicule autonome circulant dans la neige mais pas encore sous la neige.

Petit bonus concernant les recherche sur un autre véhicule qui cherche à être autonome : les derniers avions de combat américains « bourrés » d’IA ne peuvent/pouvaient pas voler sous la pluie.

Algorithmes

      Si j’étais le juge, je chercherais à savoir si le véhicule (que vous ne conduisiez pas et dont vous aviez la possibilité de conduire : rappel) présente ou non de défaut de fabrication, non seulement mécanique, électronique, mais également algorithmique.

Ce n’est pas la « part d’informatique de plus en plus grande » dans les machines qui différencie les responsabilités actuelles des précédentes (fabricant, sous-traitants, etc.) mais que certains ne soient pas expertisables.

Comme l’indique clairement Nozha Boujemaa, tous les algorithmes de l’intelligence artificielle sont explicables mais, par contre ceux « relevant du deep learning ne le sont pas ».

Non seulement l’apprentissage par la machine est profond, mais certaines « connexions » relève du « non explicable », donc non prévisible par l’art antérieur.

Ce n’est pas le « manque de transparence » qui rend l’enquête difficile, mais l’impossibilité de connaître ce « non explicable ».

 

 

 

 

Mais est-ce si important ?

      Si j’étais le juge… Que ces algorithmes soit explicables ou non ne m’apparaîtrait pas déterminant, ce qui reste la base juridique, c’est que le constructeur de ces algorithmes ait pris la responsabilité de les faire utiliser par un tiers. Je considérerais la défaillance d’un de ces algorithmes comme un défaut de fabrication.

Décision finale

      Si j’étais le juge, au final, considérant que vous avez à tout moment la possibilité de reprendre le volant du véhicule ; déconnecté de tout fantasme, en absence de défaut de conformité ou de fabrication, de malveillance ou « d’inattendu », … je persisterais à vous déclarer, puisque vous êtes la conductrice, comme seule responsable.

... aussi responsable que quand vous conduisez le véhicule que vous utilisez actuellement.

 

 

 

 

Mon jugement serait identique pour les autres technologies embarquées comme, par exemple, l’assistance pour réaliser un parfait « créneau » : Intelligent Park Assist ou Parking Steering Assistance selon les marques

 

 

 

Cette décision de justice aurait l’effet immédiat de provoquer la fin des voitures « entièrement » autonomes. Plus personne ne voudrait en acheter !

 

Le fantasme d’être assis à lire son journal s’évanouirait.

 

Pour l’éviter ce jugement désastreux, au moins dans le contexte de la législation étasunienne, le juge accepterait certainement un arrangement entre les parties, et en payant une indemnité convenable à la victime, le constructeur du véhicule autonome éviterait une enquête approfondie sur ses algorithmes lui permettant ainsi d’en préserver tous les … fantasmes ... et des réalités plus financières

 

Sachant que l’indemnisation n’est pas versée par l’auteur de l’accident mais un assureur ou un fond.

Le lobbying actuel des constructeurs de véhicules « autonomes » auprès des assureurs irait-il dans le même sens ? Celui de la préservation du mystère ?

     

Plus généralement, utilisant nos fantasmes, et peut-être les leurs, les patrons de l’Intelligence Artificielle n’essaieraient-ils pas de rendre complexe ce qui n’est qu’un simple élément de base du droit ? Tous ces mystères et ces fantasmes recouvriraient-ils ce qui ne doit pas être dévoilé ?

 

Mais explorons un autre aspect, comme le feraient certainement les juristes, ou les scientifiques :

 

Données personnelles

Non seulement il faudra que le juge puisse avoir accès aux données techniques et algorithmiques mais aussi et surtout à l’antériorité de l’accident.

Tout ce qui s’est passé avant l’accident doit être entre les mains du juge et d’abord des experts commis par lui.

 

 

Donc toutes les informations, à tout moment, devront obligatoirement être enregistrées sur une « boîte » installée sur le véhicule, semblable à celle des avions. Comme également le cas du transport aérien (quand cela est techniquement possible), toutes les informations seraient également envoyées en permanence dans un « cloud ».

Les informations pourront dépasser le domaine technique et comprendre

- une surveillance de l’attention du conducteur (Driver Attention Alert)

- quel propos vous avez échangé avec vos passagers ;

- si vous téléphoniez, à qui et ce que vous avez dit ;

- la musique que vous écoutiez ;

- et peut être votre rythme cardiaque, etc.

Ce serait le « mouchard » amélioré des camions et des véhicules professionnels.

Vous sentez bien déjà poindre Big Brother et les difficultés d’un « environnement juridique plus sûr ».

Vous rappelez, Nathalie Devillier, que « Le Conseil constitutionnel a d'ailleurs fermé la porte à une justice automatisée dans sa récente décision relative à la Loi relative à la protection des données personnelles. »

 

Même en utilisant une Intelligence Biophysique permettant de reconnaître une image précise à l’aide d’un système flou, plastique, redondant et statistique (comme le cerveau), le problème des données personnelles subsistera.

Et si la voiture autonome ne pouvait pas circuler simplement parce qu’il serait impossible de protéger les données personnelles, ni celles du conducteur-utilisateur, ni celles de ses passagers ?

 

Si elle existait un jour, cette voiture resterait donc réservée aux usages professionnels, ou peut-être aux taxis, aux navettes  …

 

Vulnérabilité

S’y ajoutent les problèmes non plus de justice mais de police.

À la « Le mot smart ou intelligent ne signifierait-il pas plutôt vulnérable aux attaques ? » la réponse est oui. Hélas OUI !

Non seulement « voilà votre magnifique voiture qui prend le large sans vous ! », mais dans le paragraphe sur « les défauts de sécurité », Jean-Paul Delahaye signale à propos des fausses images :

« C’est inquiétant: on pourrait par exemple fabriquer un faux panneau «Stop» qu’un véhicule autonome interpréterait comme un panneau lui donnant la priorité ! »

Inquiétant, en effet !

 

La voiture autonome restera un mythe ou un fantasme … au moins tant que les informaticiens refuseront de mimer « vraiment le cerveau »…

voir mon Vers une Intelligence biophysique dans www.beaubiophilo.com … mais il faudra sans doute plus d’une génération pour y parvenir

 

 

 

 

… à moins que derrière ces fantasmes ne cache une autre réalité.

- Les algorithmes de l’Intelligence Artificielle relevant de l’apprentissage profond (deep learning) sont réputés inexplicables.

- Ce « mystère » pourrait avoir pour origine l’apparition de chaos mathématiques engendrés par les systèmes itératifs de l’apprentissage profond.

- Le passage continu entre le monde déterministe et le monde probabiliste est fascinant et mystérieux, mais guère rassurant !

- Avertissement à mes lecteurs et lectrices pour lesquels les « maths » provoquent un rejet épidermique : ne craignez rien, si une équation mathématique apparaît, c’est simplement pour montrer qu’elle existe ; laissez-vous simplement aller ; papillonnez de schémas en philosophies ; jusqu’à être précipité, tel Alice, dans le monde mystérieux et fascinant du chaos des vagues de Biarritz.

Commenter cet article