Pourquoi je soutiens et j’utiliserai l’application de traçage de proximité

Je suis très attaché à la protection des données et j’ai œuvré pour la renforcer. Je me suis engagé pour éviter que les GAFA ne fassent main basse sur nos données et ne nous enferment dans leurs écosystèmes où règnent leurs lois. J’ai donc été de d’abord sceptique face aux projets de traçage de proximité (contact tracing) que les Etats comptent déployer pour lutter contre le covid-19. Le risque d’une surveillance généralisée, d’une utilisation ultérieure de données sensibles à des fins contraires à l’intérêt public et d’une captation de ces données par des multinationales est énorme.

Malgré cela, je soutiens le projet DP-3T, développé notamment par l’EPFL et l’ETHZ ( aussi appelé Swiss Proximity-Tracing-System, SPTS et actuellement en phase de test et qui a été approuvé par le préposé fédéral à la protection des données et à la transparence). Pas parce qu’en raison de l’ampleur de la crise, il faudrait sacrifier ses principes (surtout pas !). Pas parce que la lutte pour la sphère privée est déjà perdue (c’est faux !). Mais parce que c’est un projet qui permet de conjuguer l’intérêt public de lutter efficacement contre la pandémie tout en respectant la sphère privée. Je le soutiens d’abord parce qu’il est décentralisé, c’est-à-dire que les informations de proximité collectées par nos téléphones restent dans nos téléphones. Le serveur central (appelé à être géré par l’OFSP) se contente de vérifier que les annonces de cas positifs sont légitimes, et de retransmettre cette information.

Les personnes infectées sont ensuite redirigées vers les services médicaux, sans pour autant que leur identité ne soit révélée au système. Ce n’est pas l’algorithme qui prend les décisions subséquentes, comme faire un test ou décréter en quarantaine, mais bien un humain ; un médecin, sur la base d’un jugement clinique. Ce n’est pas un système de géolocalisation ou de suivi des déplacements et des contacts (même si certains l’ont prétendu).

Je soutien aussi le système DP-3T/SPTS parce qu’il est open source : transparent, documenté, examinable et corrigeable Enfin, je le soutiens parce que les données sont efficacement cryptées.

La clef du succès de cette application sera la confiance. Sinon, il sera impossible de convaincre assez de monde pour atteindre l’efficacité escomptée. La confiance se gagnera notamment par le volontariat. Ne serait-ce qu’en raison de la fracture numérique, il faut éviter qu’utiliser cette application ne soit obligatoire par décret étatique ou, indirectement, parce qu’il faudra démontrer qu’on l’utilise avant de bénéficier de prestations publiques ou privées, ou parce que les employeurs l’imposent à leur personnel (ce serait illégal). En outre, le volontariat ne peut être qu’un consentement éclairé : inciter la population à utiliser un outil numérique dans un but de santé publique ne peut fonctionner que si on sait exactement à quoi on s’engage. Au vu de certaines prises de positions, il y a encore du pain sur la planche en matière d’explication. La confiance se gagne aussi par un réel anonymat : il faudra veiller à ce qu’il n’y ait aucune possibilité de ré-identifier les utilisateurs. Il faudra enfin s’assurer que les données soient définitivement effacées et ne puisse pas être utilisées dans un autre but, même d’intérêt public, que celui prévu par la base légale.

Jusqu’à présent, la lutte numérique contre le Covid-19 ressemble surtout à une aubaine pour les GAFA, ceux qui captent les données comme ceux qui tuent les petits commerçants. Le projet DP-3T/SPTS, à condition d’en rendre l’utilisation réellement volontaire et limitée à la durée de la crise, permettra enfin que les progrès du numérique se servent exclusivement l’intérêt public. Car tant que les citoyens auront l’impression que les nouvelles technologies ne servent qu’à les mettre à la merci des géants du net ou à créer une surveillance généralisée, ils seront réticents face à bon nombre d’innovations. Un dernier élément m’a convaincu : la souveraineté numérique. Jusqu’ici, la plupart des nouveaux standards numériques – et des nouvelles règles qui en découlent, mais aussi la philosophie sous-jacente – viennent de Californie. En conséquence, les Etats peinent à appliquer leurs propres règles dans l’espace numérique. C’est une perte de souveraineté massive et insidieuse. Qu’une solution développée en Suisse devienne un nouveau standard serait un réjouissant retournement de tendance !

(Texte paru dans « Le Temps » du mardi 12 mai)

Pour les Suisses-ses de l’Etranger : vote électronique ou envoi électronique ?

Un des (rares) arguments récurrents en faveur du vote électronique est le vote des Suisses-ses de l’Etranger. Indépendamment de la question de leur accorder ou non le droit de vote (une question qui mérite d’être discutée comme c’est le cas ici), il est vrai qu’ils ont souvent des problèmes à l’exercer. En effet, en raison des lenteurs des services postaux hors de Suisse, les documents de vote arrivent souvent trop tard. Soit à leur domicile, soit, après avoir été remplis et renvoyés, au bureau de vote en Suisse. Certains considèrent que le vote électronique pourrait être une solution, notamment l’Organisation des Suisses de l’Etranger (OSE), qui exige depuis de nombreuses années la généralisation immédiate du vote électronique, sans faire grand cas des problèmes de sécurité. Il est vrai que, depuis la décision du Conseil fédéral de mettre un terme (hélas temporaire) aux essais de vote électronique suite à d’importants problèmes de sécurité, la participation électorale des Suisses de l’Etranger a chuté. De nombreuses personnes concernées se sont notamment plaintes de n’avoir reçu les documents électoraux qu’après le scrutin. Continuer la lecture

L’essor de la robotique redéfinit le droit fondamental à la dignité humaine et à la liberté

L’essor de la robotique ne fait pas que bouleverser notre vie quotidienne. Il pose des questions sur l’avenir de nos droits fondamentaux, à commencer par le premier d’entre-eux : la dignité humaine (art. 7 de la Constitution fédérale). En effet, même si nous sommes encore loin de la « singularité », l’irruption dans nos vies de robots capables de copier à la quasi-perfection les interactions et émotions humaines nous pousse à nous interroger sur la relation humain-machine. Ces questions pouvaient relever de la science-fiction il y a quelques années à peine, mais portent désormais toutes sur des cas bien réels.

Ainsi, la dignité humaine tolère-t-elle que l’on impose à un humain de se faire soigner par un robot dans un contexte de pénurie de main d’œuvre dans le domaine des soins ? Et commande-t-elle que ce soit désormais les robots qui soient chargés des tâches triviales, abrutissantes, harassantes ou dangereuses en lieu et place des humains ? Est-il compatible avec ce droit fondamental d’être « aux ordres » d’un robot ? Ou de lui confier des décisions cruciales pour la suite de notre existence comme trouver un emploi… ou le perdre ? La dignité humaine comporte-elle le droit de n’avoir des interactions humaines qu’avec des congénères humains ? Ces questions méritent un débat éthique et juridique approfondi. Dans ce cadre, il faudra avoir à l’esprit que nos réponses ne seront pas universelles : certaines sociétés comme celles qui sont sous l’influence du Shintoïsme ayant une toute autre approche de la relation avec les « choses ».

L’essor de la robotique pose aussi la question de l’avenir du droit fondamental à la liberté, mais aussi de son indispensable pendant : le devoir de responsabilité. En effet, même si vivre dans un monde de plus en plus gouverné par des algorithmes n’est pas une nouveauté si l’on considère certains algorithmes non-numériques à l’impact considérable comme le « frein à l’endettement », l’usage intensif d’algorithmes pour prendre des décisions ne peut que restreindre le libre arbitre. Car celui qui se fie à un algorithme pour prendre une décision ne décide en réalité pas, il obéit. Et, bien souvent, il n’a aucune idée du mécanisme derrière la décision que lui propose ou impose l’algorithme, car c’est en général une « boîte noire », percluse de biais ou d’erreurs.

Quant à la responsabilité, elle est aussi menacée de disparition par l’essor des robots de plus en plus « intelligents » et autonomes. En effet, en l’absence de règles claires sur la responsabilité en cas de dommages, il y a un fort risque que plus personne ne les assume. La solution ne réside certainement pas dans l’attribution d’une personnalité juridique aux robots (qui resteraient financièrement incapables d’assumer un éventuel dommage). Elle ne réside pas non plus dans une confiance aveugle en les entreprises technologiques. Ces dernières tentent certes de nous faire croire qu’elles se soucient de minimiser les dommages que pourraient causer leurs créations, par exemple avec le jeu « moral machine ». Mais cette poudre aux yeux détourne des vrais enjeux : la question n’est en effet pas de savoir si un véhicule autonome, confronté au dilemme peu réaliste de devoir renverser un vieillard et un chaton pour épargner des enfants, fera le choix le plus « moral » possible, mais bien de savoir qui paiera les dégâts (peu importe si les victimes sont les enfants ou le couple vieillard-chaton).

(Texte paru dans la « newsletter » d’octobre 2019 de TA-Swiss, fondation pour l’évaluation des choix technologiques)

Les algorithmes votent à la place des citoyens : un cauchemar signé avenir.suisse

Récemment, avenir.suisse, qui nous avait plutôt habitué à son mépris pour la démocratie tant directe que parlementaire, a publié un document sur la démocratie directe numérique. J’ai d’ailleurs déjà abordé leurs fadaises à propos du vote électronique. Mais une lecture attentive d’une de leurs propositions passée inaperçue fait autrement plus froid dans le dos que les grandes lignes dont ont parlé les médias. En effet, une de leurs propositions n’est rien de moins que la réalisation d’une des pires dystopies qui soit : le remplacement due la volonté populaire par celles des algorithmes. Continuer la lecture

avenir.suisse nous refait le coup de la « génération Z » et du vote électronique

Voilà un soutien dont le vote électronique se serait bien passé. Alors que la Confédération vient d’y renoncer pour les prochaines élections fédérales, que La Poste/Scytl abandonnent leur système pour des raisons de sécurité, que les Cantons commencent à se rendre compte que cela va terminer en coûteux fiasco et que la publication des rapports d’audit mandatés par la Chancellerie fédérale confirme que ce n’est pas du tout au point, voilà que la boîte à idées néolibérale (ou ultralibérale, je ne sais plus trop) avenir.suisse publie un plaidoyer pour la « démocratie directe numérique » qui prône sa généralisation. Arguant que le vote électronique « renforcerait la démocratie » (rires enregistrés), que ce serait « sûr » (rires enregistrés), plus sûr même que le vote traditionnel sur papier (énormes éclats de rires enregistrés) et que… roulement de tambour… cela permettrait d’éviter que la « génération Z », (enfin, les millenials, quoi) ne se détourne des urnes. Car c’est bien connu, cette fameuse « génération » ne vit que par le numérique et ne veut que du numérique.

Alors celle-là, ça faisait longtemps qu’on ne l’avait plus entendue. Continuer la lecture

Les cyberattaques russes contre les élections US montrent (à nouveau) les risques du vote électronique

La NZZ a récemment présenté un rapport de la commission des services secret du Sénat étatsunien sur les tentatives russes d’ingérence dans le processus électoral de 2016. S’il est clair que les enjeux géopolitiques dépassent largement ce qui se passe en Suisse, ce rapport n’en est pas moins fort intéressant dans un contexte où diverses organisations (notamment celle des Suisses de l’étranger) et administrations (certains cantons, dont FR et NE) veulent instaurer coûte que coûte le vote électronique. Il est aussi fort regrettable qu’aucun média romand n’en ait parlé. Il est vrai que ces derniers semblent être plutôt favorables au vote électronique.

Ce rapport est très inquiétant. Il montre en effet que des hackers ont mené tentatives de manipuler les résultats dans tous les états US. Continuer la lecture

Vote électronique Scytl/La Poste: c’est bien pire qu’une « simple » faille

Hier, une faille importante a été révélée dans le logiciel de vote électronique de La Poste. Ce n’est hélas pas un énième problème de sécurité informatique. C’est bien pire. Car, en plus de la faille elle-même (qu’un expert à qualifié de « stupéfiante » et qu’un autre a considéré comme relevant « d’une programmation négligente »), ce sont les circonstances de sa découverte et la réaction tant de La Poste que des autorités qui doivent fortement nous inquiéter.  Continuer la lecture

Quelques propositions socialistes pour faire face à la révolution numérique

Sur mandat du groupe socialiste aux chambres fédérales, j’ai rédigé une série de propositions sur la révolution digitale. J’y préconise notamment de renforcer les droits fondamentaux. En effet, c’est à mon avis un excellent moyen pour que la population puisse profiter des avantages qu’offrent les nouvelles technologies tout en étant, si besoin, protégée contre les risques. Continuer la lecture

Le « dilemme du véhicule autonome », ou comment les techs enfument le débat de la responsabilité des IA et des robots

Récemment, la revue scientifique « Nature » a publié les résultats d’une étude du MIT (l’étude en Anglais) sur le « dilemme du véhicule autonome » (version actualisée du « dilemme du tramway »). C’est-à-dire comment devrait réagir l’intelligence artificielle (IA) aux commandes d’un tel véhicule face à un accident imminent qu’on ne peut éviter qu’en causant d’autres dommages (y compris aux occupants du véhicule).

capture-decran-2018-11-06-a-11-03-24

 

 

 

 

 

 

Continuer la lecture

La réponse de la droite à la précarité ? Encore plus de précarité !

La majorité de droite du Conseil national vient d’accepter un postulat PLR qui veut répondre à l’« ubérisation » des rapports de travail. Ce phénomène est généré par des plates-formes comme Uber, Batmaid ou Upwork qui prétendent uniquement « mettre en relation clients et prestataires de services ». Elles refusent donc d’être les employeurs de ces prestataires (quoi qu’en dise le droit en vigueur dans les pays où elles déploient leurs activités). Cette méthode vise surtout à exonérer les plates-formes de toutes les règles de protection des travailleurs, notamment leur assujettissement aux assurances sociales. Ce n’est rien d’autre que de la sous-enchère et de la concurrence déloyale, car ces travailleurs précaires ont souvent des revenus très très bas (16.- bruts/h pour les chauffeurs Uber !), ne serait-ce qu’à cause des marges exorbitantes prélevées par la plateforme qui les emploie et, parce que cette dernière refuse de payer les charges sociales, ils ont souvent d’importantes lacunes d’assurances sociales. En cas d’accident, de chômage, de maladie, d’invalidité… ou d’atteinte de l’âge de la retraite, ils seront donc mal couverts. Au final, c’est la collectivité qui paiera la note en leur versant aide sociale et prestations complémentaires, pendant que les plates-formes encaissent les bénéfices. Tout le monde est perdant : les travailleurs concernés, qui vivent dans la misère ; les concurrents de ces plates-formes, qui, parce qu’ils paient leur dû, sont moins concurrentiels ; leurs travailleurs, dont l’emploi est menacé ; et les contribuables, qui ramassent les pots cassés. Continuer la lecture