GrokAI n’est pas qu’un outil utilisé à mauvais escient. C’est un outil qui a été conçu pour violer massivement notre droit (interdiction de la pédopornographie, protection de l’honneur et de la personnalité). Pire, l’entreprise qui le met à disposition fait activement et sciemment la publicité de ces fonctionnalités. Elle encourage même la diffusion de ces images, publiées par défaut sur son réseau social. L’existence même d’un tel outil est un véritable scandale qui appelle à une réaction forte des autorités.

En règle générale, je défends la position comme quoi notre droit en vigueur est suffisant pour contrer les dérives de la révolution numérique. Il suffit juste de l’appliquer correctement… et d’avoir la volonté politique de le faire respecter. Les géants de la tech ont une argumentation inverse, qui sert leurs intérêts. Ils prétendent que leurs activités sont trop nouvelles et disruptives pour être couvertes par le droit en vigueur. Et comme elles considèrent agir dans un vide juridique, elles refusent d’appliquer nos règles. Prétendre – c’est hélas un réflexe fréquent de nombreux élus – que chaque nouveau problème numérique appelle une nouvelle loi ne fais à mon avis que renforcer le point de vue des GAFAM etc. D’ailleurs, le cas Uber a montré que, quoi qu’en dise l’entreprise intéressée, ses activités sont bien soumises au droit suisse, ce que les tribunaux ont systématiquement confirmé. Autre exemple : En matière pénale, le Tribunal fédéral a récemment rappelé que des images pédopornographiques virtuelles (construite à l’aide d’image légales) est aussi punissable que de « vraies » images.

Il arrive toutefois que la législation, et plus particulièrement le droit pénal, doive être adaptée à la révolution numérique. C’était par exemple le cas en matière d’usurpation d’identité ou de stalking. Certes, ces états de fait existaient, mais l’essor du numérique les a grandement facilités au point de les rendre suffisamment nuisibles pour justifier une réponse pénale. C’est aussi le cas du doxxing, un délit qui n’existe pas encore, car cet état de fait n’avait pas grande importance et ne causait pas beaucoup de dégâts dans un contexte analogique. Le cas de GrokAI est un autre de ces rares cas qui exigent une nouvelle loi.

Puisqu’il s’agit 1. d’un outil conçu essentiellement pour violer le droit et 2. d’un outil destiné à être utilisé par des masses d’anonymes (ou à tout le moins difficilement identifiables) que les autorités de poursuite pénale peinent à punir, je préconise :

• La création d’un nouveau délit pour punir la mise à disposition d’un outil numérique destiné à violer le droit suisse (civil et pénal) ou dont le prestataire doit savoir qu’il sera massivement utilisé à ces fins ;
• Rendre les plateformes responsables des contenus publiés par leurs utilisateurs grâce à de tels outils ;
• Avec comme circonstance aggravante le fait d’en faire la promotion ou de faciliter la diffusion massive comme dans le cas de GrokAI/X (publication automatique sur un réseau social, algorithmes qui en facilitent la diffusion) ;
• De fermer les plateformes qui n’obtempèrent pas. Si le Royaume-Uni, l’Indonésie et la Malaisie peuvent suspendre X/GrokAI, pourquoi pas la Suisse ?