En inventant le code binaire il y a 170 ans, l’être humain n’avait certainement pas envisagé qu’il deviendrait lui-même une suite de 0 et de 1. En effet, aujourd’hui, les algorithmes sont omniprésents et nous gouvernent directement ou indirectement. L’information est partout et l’algorithme permet à l’homme d’interagir avec cet écosystème informationnel. En 2014, la GSMA Intelligence a annoncé que la planète comptait davantage de dispositifs connectés que d’êtres humains. De fait, les algorithmes envahissent notre quotidien, de la hiérarchisation des informations sur la consommation de milliards de personnes sur Google (PageRank), à la sélection de l’information présente sur le fil d’actualité de Facebook (Edgerank), aux recommandations de produits (Amazon), à l’optimisation et la géolocalisation des déplacements, la détection des maladies, etc. Ils sont le cœur opérationnel de tous les sites Internet et logiciels, comme des objets connectés[1], des systèmes d’information (SI), des écosystèmes et technologies digitaux à venir (Big Data, Intelligence artificielle (IA), plateforme, IoT (Internet of Things), Blockchain, etc.).

Cette transformation digitale introduit un changement de repères contextuels et de perspectives axés sur l’information et sur son potentiel de valorisation financière. Désormais, la valeur de la Data est conditionnée par un ensemble de paramètres et de critères transversaux tels que son accessibilité, son intégrité, sa fiabilité, sa légitimité, sa finalité, sa confidentialité, etc. Dans ces conditions, ces algorithmes font sans doute partie des créations immatérielles les plus valorisées de notre économie contemporaine (Cf. Valorisation boursière des GAFA). La quasi-totalité des acteurs du marché fondent leur modèle sur la performance de leurs algorithmes. Les systèmes algorithmiques sont intrusifs et n’ont aucun scrupule à entrer dans l’intimité des personnes et à en étudier leurs comportements tant qu’ils servent un progrès, souvent assimilé à une promesse de business et à ses retombées commerciales… L’extrême concentration capitalistique apporte tous les moyens nécessaires à la prolifération exponentielle et tous azimuts des algorithmes de telle sorte que le droit et les réglementations semblent constamment en retard sur les dernières fonctionnalités qui s’invitent dans l’espace public.

En effet, il est fort probable que les systèmes experts autonomes, les IA (basés sur le modèle des réseaux de neurones) et la Blockchain passeront à travers les gouttes du RGPD[2]. En effet, l’anonymat étant devenu algorithmiquement impossible, toutes Big Datase composent de données potentiellement individuelles, personnelles, et donc identifiables. Ces nouvelles technologies alimentées par des mégadonnées n’ont alors pas besoin de données à caractère personnel pour être discriminantes. Cela démontre le fait qu’il est vain de vouloir à tout prix réguler de manière rigide et stricte un monde où l’innovation de rupture est devenue norme.

Même l’application des textes de loi et des sanctions associées semblent dérisoires tant dans leur portée que dans leur timing. Les tentatives de nouveau mode de régulation lancées par les CNIL européennes ne devrait représenter qu’un dernier recours, en tant que régulation ex-post. Dès lors, il faut arrêter de vivre dans une société tournée vers le risque (au nom du principe de précaution), et accepter l’expérimentation comme source de progrès et d’évolution néodarwinienne (en prônant le principe de responsabilité de chacun d’entre nous).

Loin des lamentations déclinistes ou catastrophistes, cette ère nouvelle basée sur la numérisation de la société est une vraie opportunité de repenser notre rapport au travail et convoque la nécessité de définir une appréhension multimodale innovante des traitements algorithmiques[3] et ce, dès leur conception. C’est ce que nous appelons l’Ethics – ouResponsability – by Design. Cette approche permet ainsi d’encadrer de manière positive l’innovation technologique au cœur de sa genèse. L’éthique nécessite une vision, un dessein, une ambition qui se concrétise dans une représentation personnelle du bien commun (qui prend en compte simultanément le collectif et l’individuel), aisément communicable à un tiers. C’est la boussole qui donne la direction aux comportements, bonnes pratiques et usages à tenir.

Penser la protection des données personnelles, la transparence vis-à-vis des consommateurs, la dépendance cognitive à la technologie, sont autant de sujets qui fondent l’action éthique qui constitue avant tout une réponse en responsabilité à une situation limite et complexe. Le souci éthique ne peut être efficace dans tous les domaines qu’à la seule condition d’être animé par le souhait de contribuer au bien-être de la personne, au bien de tous les hommes. C’est donc dès la conception, dès qu’il faut penser éthique en prenant en compte la nature des données, leur utilisation et leur management, ainsi que leurs finalités. La pensée éthique des algorithmes ne doit pas être considérée comme une contrainte pour l’économie numérique mais plutôt comme une opportunité tant pour les concepteurs que pour les commanditaires d’agir justement sur le monde, en portant une attention toute particulière au Design du dispositif algorithmique qui joue un rôle central dans l’interface Homme-Machine. Comment donc tendre vers plus de sens et d’harmonie entre les intentions, les mises en œuvre, et la finalité des outils technologiques ? L’équilibre entre la promesse de l’innovation utile et le risque de préjudice algorithmique est au cœur de cette question…

En définitive, il n’est nul besoin d’attendre le législateur pour agir en responsabilité, ni même de toujours anticiper le pire face à l’inconnu et aux risques potentiels. Il revient aux décideurs politiques, aux professionnels du numérique, aux développeurs d’activités commerciales, à chacun d’entre nous de réfléchir à la manière dont nous souhaitons influencer l’évolution des nouvelles technologies et de leurs applications. D’où l’idée de créer une communauté qui prône un humanisme digital avant que cette révolution numérique ne réduise pas irréversiblement notre humanité actuelle.L’éthique s’inscrit comme le moyen le plus communément acceptable de maîtriser les applications numériques telles que l’IA et de concevoir un usage conforme aux valeurs humanistes portées par notre société contemporaine. Toutefois, il ne faudrait pas que cette approche éthique ne soit qu’une posture vertueuse pour donner l’illusion d’un cadre « quasi-normatif » qui n’imposera que dans la mesure où les protagonistes dominants accepteront de s’obliger. Cette démarche ne doit pas être non plus un prétexte pour éviter de légiférer. C’est pourquoi, il est important que les textes de loi inscrivent dans leur contenu la nécessité aux entreprises de rentrer dans un processus de labellisation éthique et dans la mise en place de code de bonnes pratiques éthiques autour de leurs dispositifs algorithmiques.

 

Jérôme BERANGER

CEO de GoodAlgo – www.goodalgo.fr 

Chercheur (PhD) associé à l’Inserm 1295 – CERPOP – Equipe BIOETHICS – Université Paul Sabatier Toulouse III

 

 

---

[1] Les objets connectés (appelés l’« informatique 3.0 ») fonctionnent via des algorithmes afin d’étudier les données de trafic et permettre à la voiture d’être autonome, afin d’analyser les données de santé et bien-être, ou bien encore afin d’analyser les consommations alimentaires d’un individu ou permettre au réfrigérateur connecté de s’approvisionner de manière automatique.

[2] Le Règlement Général sur la Protection des Données (RGPD) rentrera en application à partir du 25 mai 2018.

[3] Notons que nous entendons par « traitement algorithmique » toute opération ou ensemble d’opérations – incluant au moins un algorithme – effectué ou non à l’aide de procédés automatisés et appliquées à des données numériques.