L’essor de la robotique redéfinit le droit fondamental à la dignité humaine et à la liberté

L’essor de la robotique ne fait pas que bouleverser notre vie quotidienne. Il pose des questions sur l’avenir de nos droits fondamentaux, à commencer par le premier d’entre-eux : la dignité humaine (art. 7 de la Constitution fédérale). En effet, même si nous sommes encore loin de la « singularité », l’irruption dans nos vies de robots capables de copier à la quasi-perfection les interactions et émotions humaines nous pousse à nous interroger sur la relation humain-machine. Ces questions pouvaient relever de la science-fiction il y a quelques années à peine, mais portent désormais toutes sur des cas bien réels.

Ainsi, la dignité humaine tolère-t-elle que l’on impose à un humain de se faire soigner par un robot dans un contexte de pénurie de main d’œuvre dans le domaine des soins ? Et commande-t-elle que ce soit désormais les robots qui soient chargés des tâches triviales, abrutissantes, harassantes ou dangereuses en lieu et place des humains ? Est-il compatible avec ce droit fondamental d’être « aux ordres » d’un robot ? Ou de lui confier des décisions cruciales pour la suite de notre existence comme trouver un emploi… ou le perdre ? La dignité humaine comporte-elle le droit de n’avoir des interactions humaines qu’avec des congénères humains ? Ces questions méritent un débat éthique et juridique approfondi. Dans ce cadre, il faudra avoir à l’esprit que nos réponses ne seront pas universelles : certaines sociétés comme celles qui sont sous l’influence du Shintoïsme ayant une toute autre approche de la relation avec les « choses ».

L’essor de la robotique pose aussi la question de l’avenir du droit fondamental à la liberté, mais aussi de son indispensable pendant : le devoir de responsabilité. En effet, même si vivre dans un monde de plus en plus gouverné par des algorithmes n’est pas une nouveauté si l’on considère certains algorithmes non-numériques à l’impact considérable comme le « frein à l’endettement », l’usage intensif d’algorithmes pour prendre des décisions ne peut que restreindre le libre arbitre. Car celui qui se fie à un algorithme pour prendre une décision ne décide en réalité pas, il obéit. Et, bien souvent, il n’a aucune idée du mécanisme derrière la décision que lui propose ou impose l’algorithme, car c’est en général une « boîte noire », percluse de biais ou d’erreurs.

Quant à la responsabilité, elle est aussi menacée de disparition par l’essor des robots de plus en plus « intelligents » et autonomes. En effet, en l’absence de règles claires sur la responsabilité en cas de dommages, il y a un fort risque que plus personne ne les assume. La solution ne réside certainement pas dans l’attribution d’une personnalité juridique aux robots (qui resteraient financièrement incapables d’assumer un éventuel dommage). Elle ne réside pas non plus dans une confiance aveugle en les entreprises technologiques. Ces dernières tentent certes de nous faire croire qu’elles se soucient de minimiser les dommages que pourraient causer leurs créations, par exemple avec le jeu « moral machine ». Mais cette poudre aux yeux détourne des vrais enjeux : la question n’est en effet pas de savoir si un véhicule autonome, confronté au dilemme peu réaliste de devoir renverser un vieillard et un chaton pour épargner des enfants, fera le choix le plus « moral » possible, mais bien de savoir qui paiera les dégâts (peu importe si les victimes sont les enfants ou le couple vieillard-chaton).

(Texte paru dans la « newsletter » d’octobre 2019 de TA-Swiss, fondation pour l’évaluation des choix technologiques)

Evaluation par les clients : l’employeur ne peut pas en faire ce qu’il veut

Cela fait quelques années que je m’intéresse à l’évaluation des travailleurs par leur employeur et à ses conséquences en droit suisse du travail. J’ai déjà notamment traité des évaluations en courbe de Gauss (forced ranking), mais aussi des achats-test et des clients-mystère. J’ai récemment publié un article dans une revue scientifique de droit du travail (ARV-DTA pour ne pas la nommer) une analyse de la nouvelle tendance qu’ont certains employeurs de confier à leur clients l’évaluation de leur personnel (avec, en prime, une brève histoire de l’évaluation dans le monde du travail). Cette mode est grandement facilitée par les nouveaux outils numériques, qui permettent de donner son avis sur tout, tout le temps sur tout et en quelques clics seulement. En voici un résumé :  Continuer la lecture

Les algorithmes votent à la place des citoyens : un cauchemar signé avenir.suisse

Récemment, avenir.suisse, qui nous avait plutôt habitué à son mépris pour la démocratie tant directe que parlementaire, a publié un document sur la démocratie directe numérique. J’ai d’ailleurs déjà abordé leurs fadaises à propos du vote électronique. Mais une lecture attentive d’une de leurs propositions passée inaperçue fait autrement plus froid dans le dos que les grandes lignes dont ont parlé les médias. En effet, une de leurs propositions n’est rien de moins que la réalisation d’une des pires dystopies qui soit : le remplacement due la volonté populaire par celles des algorithmes. Continuer la lecture

avenir.suisse nous refait le coup de la « génération Z » et du vote électronique

Voilà un soutien dont le vote électronique se serait bien passé. Alors que la Confédération vient d’y renoncer pour les prochaines élections fédérales, que La Poste/Scytl abandonnent leur système pour des raisons de sécurité, que les Cantons commencent à se rendre compte que cela va terminer en coûteux fiasco et que la publication des rapports d’audit mandatés par la Chancellerie fédérale confirme que ce n’est pas du tout au point, voilà que la boîte à idées néolibérale (ou ultralibérale, je ne sais plus trop) avenir.suisse publie un plaidoyer pour la « démocratie directe numérique » qui prône sa généralisation. Arguant que le vote électronique « renforcerait la démocratie » (rires enregistrés), que ce serait « sûr » (rires enregistrés), plus sûr même que le vote traditionnel sur papier (énormes éclats de rires enregistrés) et que… roulement de tambour… cela permettrait d’éviter que la « génération Z », (enfin, les millenials, quoi) ne se détourne des urnes. Car c’est bien connu, cette fameuse « génération » ne vit que par le numérique et ne veut que du numérique.

Alors celle-là, ça faisait longtemps qu’on ne l’avait plus entendue. Continuer la lecture

Les cyberattaques russes contre les élections US montrent (à nouveau) les risques du vote électronique

La NZZ a récemment présenté un rapport de la commission des services secret du Sénat étatsunien sur les tentatives russes d’ingérence dans le processus électoral de 2016. S’il est clair que les enjeux géopolitiques dépassent largement ce qui se passe en Suisse, ce rapport n’en est pas moins fort intéressant dans un contexte où diverses organisations (notamment celle des Suisses de l’étranger) et administrations (certains cantons, dont FR et NE) veulent instaurer coûte que coûte le vote électronique. Il est aussi fort regrettable qu’aucun média romand n’en ait parlé. Il est vrai que ces derniers semblent être plutôt favorables au vote électronique.

Ce rapport est très inquiétant. Il montre en effet que des hackers ont mené tentatives de manipuler les résultats dans tous les états US. Continuer la lecture

Vote électronique Scytl/La Poste: c’est bien pire qu’une « simple » faille

Hier, une faille importante a été révélée dans le logiciel de vote électronique de La Poste. Ce n’est hélas pas un énième problème de sécurité informatique. C’est bien pire. Car, en plus de la faille elle-même (qu’un expert à qualifié de « stupéfiante » et qu’un autre a considéré comme relevant « d’une programmation négligente »), ce sont les circonstances de sa découverte et la réaction tant de La Poste que des autorités qui doivent fortement nous inquiéter.  Continuer la lecture

Quelques propositions socialistes pour faire face à la révolution numérique

Sur mandat du groupe socialiste aux chambres fédérales, j’ai rédigé une série de propositions sur la révolution digitale. J’y préconise notamment de renforcer les droits fondamentaux. En effet, c’est à mon avis un excellent moyen pour que la population puisse profiter des avantages qu’offrent les nouvelles technologies tout en étant, si besoin, protégée contre les risques. Continuer la lecture

Lancement de l’initiative pour un moratoire sur le vote électronique

Mon intervention lors de la conférence de presse de lancement de l’initiative pour un moratoire sur le vote électronique de ce matin:

Trois dangers majeurs que le vote électronique fait courir à notre démocratie

Continuer la lecture

Le « dilemme du véhicule autonome », ou comment les techs enfument le débat de la responsabilité des IA et des robots

Récemment, la revue scientifique « Nature » a publié les résultats d’une étude du MIT (l’étude en Anglais) sur le « dilemme du véhicule autonome » (version actualisée du « dilemme du tramway »). C’est-à-dire comment devrait réagir l’intelligence artificielle (IA) aux commandes d’un tel véhicule face à un accident imminent qu’on ne peut éviter qu’en causant d’autres dommages (y compris aux occupants du véhicule).

capture-decran-2018-11-06-a-11-03-24

 

 

 

 

 

 

Continuer la lecture

La réponse de la droite à la précarité ? Encore plus de précarité !

La majorité de droite du Conseil national vient d’accepter un postulat PLR qui veut répondre à l’« ubérisation » des rapports de travail. Ce phénomène est généré par des plates-formes comme Uber, Batmaid ou Upwork qui prétendent uniquement « mettre en relation clients et prestataires de services ». Elles refusent donc d’être les employeurs de ces prestataires (quoi qu’en dise le droit en vigueur dans les pays où elles déploient leurs activités). Cette méthode vise surtout à exonérer les plates-formes de toutes les règles de protection des travailleurs, notamment leur assujettissement aux assurances sociales. Ce n’est rien d’autre que de la sous-enchère et de la concurrence déloyale, car ces travailleurs précaires ont souvent des revenus très très bas (16.- bruts/h pour les chauffeurs Uber !), ne serait-ce qu’à cause des marges exorbitantes prélevées par la plateforme qui les emploie et, parce que cette dernière refuse de payer les charges sociales, ils ont souvent d’importantes lacunes d’assurances sociales. En cas d’accident, de chômage, de maladie, d’invalidité… ou d’atteinte de l’âge de la retraite, ils seront donc mal couverts. Au final, c’est la collectivité qui paiera la note en leur versant aide sociale et prestations complémentaires, pendant que les plates-formes encaissent les bénéfices. Tout le monde est perdant : les travailleurs concernés, qui vivent dans la misère ; les concurrents de ces plates-formes, qui, parce qu’ils paient leur dû, sont moins concurrentiels ; leurs travailleurs, dont l’emploi est menacé ; et les contribuables, qui ramassent les pots cassés. Continuer la lecture