Techno-optimiste, pessimiste ou réaliste ?

« Pour soulever des préoccupations éthiques critiques concernant l’optimisme effréné à l’égard du progrès ou de la digitalisation de notre société, il faut avant tout bien définir la technologie », explique Jochanan Eynikel, philosophe d’entreprise. Impliqué dans la plateforme entrepreneuriale Etion, il se concentre sur l’interaction entre l’éthique, la philosophie et l’économie. Il a également écrit les ouvrages Check-In et Robot aan het stuur. « La technologie repose sur des artefacts, des logiciels et du matériel. Des choses artificielles qui ont une utilité. Contrairement à l’art, par exemple, qui s’inscrit uniquement dans une démarche artistique. »

« La technologie ratisse large : d’une canne à un appareil auditif. Les deux ont une utilité et cette utilité montre que votre technologie n’est pas neutre. Que voulez-vous en faire ? Permettre aux gens de mieux entendre ? Fabriquer des armes pour attaquer les autres ? Ou pour vous protéger ? Chacun est libre de concevoir une technologie. Vous pouvez créer quelque chose de simple, mais la plupart des technologies sont trop complexes pour qu’on les développe soi-même. »

Certaines entreprises se chargent donc de développer des produits et des services technologiques. Sur quelles valeurs se fondent-elles ? Si l’une entend vendre un maximum de produits, l’autre attache de l’importance à l’inclusion ou à la vie privée, par exemple. »

Il est clair que les entreprises ne sont pas des institutions démocratiques. « Vous pouvez démocratiser la technologie en établissant des règles, comme le fait l’Union européenne avec la législation RGPD et celle sur l’IA en cours d’élaboration. Ce n’est pas une mauvaise chose. Il n’appartient pas aux entreprises privées ni aux particuliers de fixer les règles du jeu. Mais le gouvernement doit veiller à ne pas surréglementer, ce qui rendrait impossible le développement de la technologie. Une bonne réglementation fixe une limite inférieure morale. »

Et quel est le rôle du citoyen ? « Il existe une relation triangulaire entre le gouvernement, les entreprises et les citoyens. Aucun parent ne laisse ses enfants abuser du digital sans retenue. Il n’est pas judicieux de laisser des enfants devant un iPad toute la journée sans surveillance. Si le gouvernement peut encourager l’éducation aux médias, les citoyens doivent aussi prendre leurs responsabilités. »

« Personne ne peut plus ignorer la digitalisation », admet Eynikel. Il prône le progrès critique, une sorte de troisième voie. « Il y a les techno-optimistes qui voient la technologie comme une avancée humaine. À leurs yeux, nous avons évolué avec l’innovation et, grâce à elle, de la roue à l’intelligence artificielle.

De nouveaux problèmes surgissent en période de transition majeure, mais les optimistes estiment que la technologie peut résoudre chaque problématique. Les techno-pessimistes voient systématiquement la déchéance humaine dans les nouvelles technologies. Ils se focalisent sur ce que nous avons à perdre. Pour ma part, je me qualifie de techno-réaliste. Si nous développons la technologie sur la base de valeurs humaines, j’ose être optimiste. »

L’IA va-t-elle changer la relation entre les humains et les machines ? Est-ce une bonne ou une mauvaise chose ? « Les humains interagissent depuis toujours avec la technologie. Et cette technologie prendra un visage de plus en plus humain, littéralement. Pensez au robot Sophia. Nous devons, par conséquent, réfléchir à ce qui fait de nous des êtres humains.

Depuis Descartes, nous supposons que c’est la raison. La rationalité est évidemment un trait humain majeur, mais nous constatons aujourd’hui que les ordinateurs possèdent un haut degré de raison. Ils égalent, voire surpassent les humains, comme c’est le cas aux échecs. »

« L’imagination. Une machine est incapable d’imaginer ce qui n’existe pas encore. L’intelligence artificielle et l’apprentissage automatique sont des systèmes sophistiqués de reconnaissance de schéma. L’homme travaille aussi souvent de manière très systématique, mais il lui arrive de s’écarter de cette méthode, comme ce fut le cas dans le cadre de nombreuses percées scientifiques majeures. L’éthique repose sur la capacité à se représenter les choses. Une machine n’a aucun sens de l’empathie. Une question émerge : en quoi sommes-nous uniques ? Rectifions le célèbre “je pense donc je suis” en “j’imagine donc je suis”. »

Aucun secteur n’échappe à la digitalisation. « Le secteur des soins de santé investit massivement dans les nouvelles technologies. Pensez à la robotique. Il importe toutefois de réfléchir à la finalité d’une telle technologie », affirme Jochanan Eynikel.

« L’intelligence artificielle peut diagnostiquer un cancer de la peau mieux que quiconque. Nous nous en réjouissons. Mais vous ne voulez pas pour autant qu’un système informatique vous annonce votre cancer. Ou qu’un ordinateur vous présente les traitements envisageables. Il s’agit de savoir ce que vous voulez faire exactement avec votre technologie et ce que vous voulez éviter. »

« Le secteur des soins ne nécessite pas forcément une approche différente de la technologie, mais la vulnérabilité humaine y joue un rôle central. C’est très différent des robots qui assemblent des voitures. Nous devons donc être plus prudents, mais pas trop conservateurs. »