Tant que n'auront pas été inventoriés les divers systèmes, dont les systèmes d'IA, on entendra parler, avec une facilité déconcertante, de la décision de la machine, de l'algorithme ou parfois du système.

La notion de système est gigantesque et folle. Elle hante le Code monétaire et financier depuis l'an 2000 et, auparavant, la loi spécialisée en finance. Le système est une chose très précise et opérationnelle. La notion portait littéralement le droit de l'informatique né dans les années 70 ; tout a commencé par lui : le système informatique. Vigoureusement protégé pénalement comme une propriété aux hauts murs, système dit alors "STAD", et donnant un chapitre (!) du Code pénal.

L'un des piliers du droit positif, en matière de systèmes, est un autre code, et ce n'est pas le système automatisé de communications électroniques qui permet les démarchages, et qui est donc le plus connu, qui est celui à analyser au mieux dans le fameux Code des postes et des communications électroniques (relisez son article 32, ça vaut le détour).

Il y a 50 ans que la notion a dépassé le simpliste emploi de système politique, système juridique, système judiciaire, système monétaire... Le droit positif des organisations vivantes ne peut pas s'en tenir à ces notions, soit avoir pour point de départ (et souvent point d'arrivée) des vues très anciennes... Montesquieu, Bentham ou même Ripert.

Ce qui est hallucinant c'est que le sujet ne s'impose pas encore, malgré la blockchain, appelée ainsi par son fondateur, malgré la loi européenne qui utilise à l'excès la notion pour le ou les systèmes d'intelligence artificielle.

Le problème est tellement patent qu'il devient une question épistémologique : comment peut-on évincer et éviter une question aussi "centrale" et monumentale ? Y compris dans les ouvrages approfondis.

La notion est tellement prégnante qu'un bel ouvrage de droit du numérique (S. Lequette, LGDJ) ose s'en servir, notamment, en parlant de système numérique, et ce pour décrire toute la sphère numérique. C'est un emploi possible et qui a son utilité, politique et technique : le moindre terminal est relié à des millions de sources (sites) ce qui donne un phénomène politique mondial. Il y a un système numérique mondial... Lui passe désormais par les systèmes satellitaires que définit l'article précité du Code des postes.

Cela montre la force de la notion qui, doublement précise, peut opérer sur les idées les plus globales et vastes (au fond, l'espace numérique), comme sur l'appareil posé sur la table et qui est doté d'un programme qui vaut IA.

Il reste que le système posé sur la table, de la cuisine ou du bureau, celui qui opère dans une usine, celui qui constitue le système d'information d'une organisation, a une réalité précise et fonctionnelle. C'est ce thème qu'il faut pénétrer.

Ce matin, ce billet ne vient pas par hasard ou par marketing (répéter une dixième fois ce que j'ai dit). Ce matin, ce qui me titille ce sont les systèmes qui vont tellement être autonomes qu'on croire qu'ils sont autonomes et qu'on dira qu'ils sont autonomes. Et on le dit déjà. Cette croyance a libre cours. Je ne sais pas si, en droit, dans le prochain quart de siècle, on consacrera une catégorie de système sur cette caractéristique (ici donnée à la hache). Je pense en revanche qu'elle surviendra avant 2100 ou 2200.

Mais ce n'est pas l'autonomie qui me tracasse ce matin, c'est le fait de la "décision" qu'on lui prête. Et l'on devrait dire les multiples décisions. Dans un siècle (...) on aura la fin de l'histoire, on saura si le mot décision a pu convenir, s'il s'est imposé en se renouvelant (nouvelle acception) ou bien si la machine a rejoint l'humain : les décisions de l'humain.

Le droit européen a bien fait progresser le sujet, ou du moins l'a bien souligné, mais je ne pense pas que l'analyse faite par le règlement IA suffise ; et par nature elle est déjà insuffisante pour ne pas pouvoir, ce n'est pas l'objet d'un tel règlement, replacer les systèmes d'IA dans la galaxie (juridique, déjà juridique ce serait bien) des systèmes qui existent. Ce qui doit être le premier travail d'une recherche d'envergure.

Si un étudiant souhaite engager une thèse sur le système, on peut en discuter. Attention, le sujet ne sera pas aussi confortable que ceux qui sont des intitulés de chapitres ou de sections des manuels d'une matière bien établie. Ou même que d'autres sujets en apparence spécialisé. Il est bien plus facile d'engager une thèse sur l'éthique de l'IA, là vous ne risquerez rien, sinon de contenter presque tout le monde (tout le monde veut imposer le bien et le beau).

Pour ceux qui veulent revoir mes réactions et quelques réflexions sur ce sujet il faudra un peu de temps et...

...trier dans cette liste d'articles de mon blog et, peut être, remonter à l'article originaire de 2011 par lequel j'ai entrepris ce sujet

Ajoutons que comprendre, expliquer n'est pas nécessairement un travail appelant à voter une ou des lois ou amender celles en vigueur, l'intérêt de la recherche est de pouvoir éclairer et diriger sans en appeler à des réformes mais en inculquant les idées qui comptent à chaque instant.

__________________________

Pour un exemple de système, avec le juge qui écrit STAD, voyez celui d'un tribunal de commerce, et deux associés greffiers dudit tribunal ; l'un supprime un jugement de deux registres, l'historique et le minutier ; il sera condamné pénalement et ce qui fait critère c'est la suppression par l'un des gestionnaires du système sans autorisation ou information de l'autre, ce qui rend illicite la modification du... système Cass. crim., 8 juin 2021 2021