Privatisation du passeport électronique : une attaque contre l’autonomie communale et une discrimination numérique

Attester d’une identité et émettre des documents d’identité comme des passeports est une tâche importante des cantons et des communes. La révolution numérique nécessite que cela soit désormais possible en ligne. Mais, au lieu d’écouter les nombreux cantons et communes qui étaient prêts à développer une identité électronique (eID), le Parlement fédéral imposé sa privatisation. Si la loi sur les services d’identification électronique est acceptée le 7 mars prochain, ce sont de grandes entreprises comme des assurances, des caisses-maladies ou des banques qui pourront émettre un identifiant électronique pour attester de l’identité des citoyens et des résidents suisses. Ces entreprises privées auront donc le droit d’émettre de véritables passeports numériques. Cette privatisation est aussi une atteinte à l’autonomie communale.

Continuer la lecture

Pourquoi je soutiens et j’utiliserai l’application de traçage de proximité

Je suis très attaché à la protection des données et j’ai œuvré pour la renforcer. Je me suis engagé pour éviter que les GAFA ne fassent main basse sur nos données et ne nous enferment dans leurs écosystèmes où règnent leurs lois. J’ai donc été de d’abord sceptique face aux projets de traçage de proximité (contact tracing) que les Etats comptent déployer pour lutter contre le covid-19. Le risque d’une surveillance généralisée, d’une utilisation ultérieure de données sensibles à des fins contraires à l’intérêt public et d’une captation de ces données par des multinationales est énorme.

Malgré cela, je soutiens le projet DP-3T, développé notamment par l’EPFL et l’ETHZ ( aussi appelé Swiss Proximity-Tracing-System, SPTS et actuellement en phase de test et qui a été approuvé par le préposé fédéral à la protection des données et à la transparence). Pas parce qu’en raison de l’ampleur de la crise, il faudrait sacrifier ses principes (surtout pas !). Pas parce que la lutte pour la sphère privée est déjà perdue (c’est faux !). Mais parce que c’est un projet qui permet de conjuguer l’intérêt public de lutter efficacement contre la pandémie tout en respectant la sphère privée. Je le soutiens d’abord parce qu’il est décentralisé, c’est-à-dire que les informations de proximité collectées par nos téléphones restent dans nos téléphones. Le serveur central (appelé à être géré par l’OFSP) se contente de vérifier que les annonces de cas positifs sont légitimes, et de retransmettre cette information.

Les personnes infectées sont ensuite redirigées vers les services médicaux, sans pour autant que leur identité ne soit révélée au système. Ce n’est pas l’algorithme qui prend les décisions subséquentes, comme faire un test ou décréter en quarantaine, mais bien un humain ; un médecin, sur la base d’un jugement clinique. Ce n’est pas un système de géolocalisation ou de suivi des déplacements et des contacts (même si certains l’ont prétendu).

Je soutien aussi le système DP-3T/SPTS parce qu’il est open source : transparent, documenté, examinable et corrigeable Enfin, je le soutiens parce que les données sont efficacement cryptées.

La clef du succès de cette application sera la confiance. Sinon, il sera impossible de convaincre assez de monde pour atteindre l’efficacité escomptée. La confiance se gagnera notamment par le volontariat. Ne serait-ce qu’en raison de la fracture numérique, il faut éviter qu’utiliser cette application ne soit obligatoire par décret étatique ou, indirectement, parce qu’il faudra démontrer qu’on l’utilise avant de bénéficier de prestations publiques ou privées, ou parce que les employeurs l’imposent à leur personnel (ce serait illégal). En outre, le volontariat ne peut être qu’un consentement éclairé : inciter la population à utiliser un outil numérique dans un but de santé publique ne peut fonctionner que si on sait exactement à quoi on s’engage. Au vu de certaines prises de positions, il y a encore du pain sur la planche en matière d’explication. La confiance se gagne aussi par un réel anonymat : il faudra veiller à ce qu’il n’y ait aucune possibilité de ré-identifier les utilisateurs. Il faudra enfin s’assurer que les données soient définitivement effacées et ne puisse pas être utilisées dans un autre but, même d’intérêt public, que celui prévu par la base légale.

Jusqu’à présent, la lutte numérique contre le Covid-19 ressemble surtout à une aubaine pour les GAFA, ceux qui captent les données comme ceux qui tuent les petits commerçants. Le projet DP-3T/SPTS, à condition d’en rendre l’utilisation réellement volontaire et limitée à la durée de la crise, permettra enfin que les progrès du numérique se servent exclusivement l’intérêt public. Car tant que les citoyens auront l’impression que les nouvelles technologies ne servent qu’à les mettre à la merci des géants du net ou à créer une surveillance généralisée, ils seront réticents face à bon nombre d’innovations. Un dernier élément m’a convaincu : la souveraineté numérique. Jusqu’ici, la plupart des nouveaux standards numériques – et des nouvelles règles qui en découlent, mais aussi la philosophie sous-jacente – viennent de Californie. En conséquence, les Etats peinent à appliquer leurs propres règles dans l’espace numérique. C’est une perte de souveraineté massive et insidieuse. Qu’une solution développée en Suisse devienne un nouveau standard serait un réjouissant retournement de tendance !

(Texte paru dans « Le Temps » du mardi 12 mai)

Pour les Suisses-ses de l’Etranger : vote électronique ou envoi électronique ?

Un des (rares) arguments récurrents en faveur du vote électronique est le vote des Suisses-ses de l’Etranger. Indépendamment de la question de leur accorder ou non le droit de vote (une question qui mérite d’être discutée comme c’est le cas ici), il est vrai qu’ils ont souvent des problèmes à l’exercer. En effet, en raison des lenteurs des services postaux hors de Suisse, les documents de vote arrivent souvent trop tard. Soit à leur domicile, soit, après avoir été remplis et renvoyés, au bureau de vote en Suisse. Certains considèrent que le vote électronique pourrait être une solution, notamment l’Organisation des Suisses de l’Etranger (OSE), qui exige depuis de nombreuses années la généralisation immédiate du vote électronique, sans faire grand cas des problèmes de sécurité. Il est vrai que, depuis la décision du Conseil fédéral de mettre un terme (hélas temporaire) aux essais de vote électronique suite à d’importants problèmes de sécurité, la participation électorale des Suisses de l’Etranger a chuté. De nombreuses personnes concernées se sont notamment plaintes de n’avoir reçu les documents électoraux qu’après le scrutin. Continuer la lecture

L’essor de la robotique redéfinit le droit fondamental à la dignité humaine et à la liberté

L’essor de la robotique ne fait pas que bouleverser notre vie quotidienne. Il pose des questions sur l’avenir de nos droits fondamentaux, à commencer par le premier d’entre-eux : la dignité humaine (art. 7 de la Constitution fédérale). En effet, même si nous sommes encore loin de la « singularité », l’irruption dans nos vies de robots capables de copier à la quasi-perfection les interactions et émotions humaines nous pousse à nous interroger sur la relation humain-machine. Ces questions pouvaient relever de la science-fiction il y a quelques années à peine, mais portent désormais toutes sur des cas bien réels.

Ainsi, la dignité humaine tolère-t-elle que l’on impose à un humain de se faire soigner par un robot dans un contexte de pénurie de main d’œuvre dans le domaine des soins ? Et commande-t-elle que ce soit désormais les robots qui soient chargés des tâches triviales, abrutissantes, harassantes ou dangereuses en lieu et place des humains ? Est-il compatible avec ce droit fondamental d’être « aux ordres » d’un robot ? Ou de lui confier des décisions cruciales pour la suite de notre existence comme trouver un emploi… ou le perdre ? La dignité humaine comporte-elle le droit de n’avoir des interactions humaines qu’avec des congénères humains ? Ces questions méritent un débat éthique et juridique approfondi. Dans ce cadre, il faudra avoir à l’esprit que nos réponses ne seront pas universelles : certaines sociétés comme celles qui sont sous l’influence du Shintoïsme ayant une toute autre approche de la relation avec les « choses ».

L’essor de la robotique pose aussi la question de l’avenir du droit fondamental à la liberté, mais aussi de son indispensable pendant : le devoir de responsabilité. En effet, même si vivre dans un monde de plus en plus gouverné par des algorithmes n’est pas une nouveauté si l’on considère certains algorithmes non-numériques à l’impact considérable comme le « frein à l’endettement », l’usage intensif d’algorithmes pour prendre des décisions ne peut que restreindre le libre arbitre. Car celui qui se fie à un algorithme pour prendre une décision ne décide en réalité pas, il obéit. Et, bien souvent, il n’a aucune idée du mécanisme derrière la décision que lui propose ou impose l’algorithme, car c’est en général une « boîte noire », percluse de biais ou d’erreurs.

Quant à la responsabilité, elle est aussi menacée de disparition par l’essor des robots de plus en plus « intelligents » et autonomes. En effet, en l’absence de règles claires sur la responsabilité en cas de dommages, il y a un fort risque que plus personne ne les assume. La solution ne réside certainement pas dans l’attribution d’une personnalité juridique aux robots (qui resteraient financièrement incapables d’assumer un éventuel dommage). Elle ne réside pas non plus dans une confiance aveugle en les entreprises technologiques. Ces dernières tentent certes de nous faire croire qu’elles se soucient de minimiser les dommages que pourraient causer leurs créations, par exemple avec le jeu « moral machine ». Mais cette poudre aux yeux détourne des vrais enjeux : la question n’est en effet pas de savoir si un véhicule autonome, confronté au dilemme peu réaliste de devoir renverser un vieillard et un chaton pour épargner des enfants, fera le choix le plus « moral » possible, mais bien de savoir qui paiera les dégâts (peu importe si les victimes sont les enfants ou le couple vieillard-chaton).

(Texte paru dans la « newsletter » d’octobre 2019 de TA-Swiss, fondation pour l’évaluation des choix technologiques)

Evaluation par les clients : l’employeur ne peut pas en faire ce qu’il veut

Cela fait quelques années que je m’intéresse à l’évaluation des travailleurs par leur employeur et à ses conséquences en droit suisse du travail. J’ai déjà notamment traité des évaluations en courbe de Gauss (forced ranking), mais aussi des achats-test et des clients-mystère. J’ai récemment publié un article dans une revue scientifique de droit du travail (ARV-DTA pour ne pas la nommer) une analyse de la nouvelle tendance qu’ont certains employeurs de confier à leur clients l’évaluation de leur personnel (avec, en prime, une brève histoire de l’évaluation dans le monde du travail). Cette mode est grandement facilitée par les nouveaux outils numériques, qui permettent de donner son avis sur tout, tout le temps sur tout et en quelques clics seulement. En voici un résumé :  Continuer la lecture

Les algorithmes votent à la place des citoyens : un cauchemar signé avenir.suisse

Récemment, avenir.suisse, qui nous avait plutôt habitué à son mépris pour la démocratie tant directe que parlementaire, a publié un document sur la démocratie directe numérique. J’ai d’ailleurs déjà abordé leurs fadaises à propos du vote électronique. Mais une lecture attentive d’une de leurs propositions passée inaperçue fait autrement plus froid dans le dos que les grandes lignes dont ont parlé les médias. En effet, une de leurs propositions n’est rien de moins que la réalisation d’une des pires dystopies qui soit : le remplacement due la volonté populaire par celles des algorithmes. Continuer la lecture

avenir.suisse nous refait le coup de la « génération Z » et du vote électronique

Voilà un soutien dont le vote électronique se serait bien passé. Alors que la Confédération vient d’y renoncer pour les prochaines élections fédérales, que La Poste/Scytl abandonnent leur système pour des raisons de sécurité, que les Cantons commencent à se rendre compte que cela va terminer en coûteux fiasco et que la publication des rapports d’audit mandatés par la Chancellerie fédérale confirme que ce n’est pas du tout au point, voilà que la boîte à idées néolibérale (ou ultralibérale, je ne sais plus trop) avenir.suisse publie un plaidoyer pour la « démocratie directe numérique » qui prône sa généralisation. Arguant que le vote électronique « renforcerait la démocratie » (rires enregistrés), que ce serait « sûr » (rires enregistrés), plus sûr même que le vote traditionnel sur papier (énormes éclats de rires enregistrés) et que… roulement de tambour… cela permettrait d’éviter que la « génération Z », (enfin, les millenials, quoi) ne se détourne des urnes. Car c’est bien connu, cette fameuse « génération » ne vit que par le numérique et ne veut que du numérique.

Alors celle-là, ça faisait longtemps qu’on ne l’avait plus entendue. Continuer la lecture

Les cyberattaques russes contre les élections US montrent (à nouveau) les risques du vote électronique

La NZZ a récemment présenté un rapport de la commission des services secret du Sénat étatsunien sur les tentatives russes d’ingérence dans le processus électoral de 2016. S’il est clair que les enjeux géopolitiques dépassent largement ce qui se passe en Suisse, ce rapport n’en est pas moins fort intéressant dans un contexte où diverses organisations (notamment celle des Suisses de l’étranger) et administrations (certains cantons, dont FR et NE) veulent instaurer coûte que coûte le vote électronique. Il est aussi fort regrettable qu’aucun média romand n’en ait parlé. Il est vrai que ces derniers semblent être plutôt favorables au vote électronique.

Ce rapport est très inquiétant. Il montre en effet que des hackers ont mené tentatives de manipuler les résultats dans tous les états US. Continuer la lecture

Vote électronique Scytl/La Poste: c’est bien pire qu’une « simple » faille

Hier, une faille importante a été révélée dans le logiciel de vote électronique de La Poste. Ce n’est hélas pas un énième problème de sécurité informatique. C’est bien pire. Car, en plus de la faille elle-même (qu’un expert à qualifié de « stupéfiante » et qu’un autre a considéré comme relevant « d’une programmation négligente »), ce sont les circonstances de sa découverte et la réaction tant de La Poste que des autorités qui doivent fortement nous inquiéter.  Continuer la lecture

Quelques propositions socialistes pour faire face à la révolution numérique

Sur mandat du groupe socialiste aux chambres fédérales, j’ai rédigé une série de propositions sur la révolution digitale. J’y préconise notamment de renforcer les droits fondamentaux. En effet, c’est à mon avis un excellent moyen pour que la population puisse profiter des avantages qu’offrent les nouvelles technologies tout en étant, si besoin, protégée contre les risques. Continuer la lecture