Ethique et Numérique


#1

Cigref – Syntec Numérique

Enjeux
La réflexion éthique se situant souvent « en amont » de l’élaboration d’une régulation, elle doit impliquer l’ensemble des acteurs concernés afin de consolider ensemble les bases de la confiance.
C’est pourquoi le Cigref et Syntec Numérique souhaitent partager ici leur travail commun autour d’un référentiel éthique et numérique. Ce cadre de référence pratique commun aux entreprises et à leurs partenaires vise à outiller et sensibiliser les équipes et les managers aux enjeux éthiques du numérique.

Grands principes
La réflexion éthique qui a été menée a pour objectif d’éclairer et de mettre l’accent sur certaines problématiques éthiques spécifiques au numérique, récentes ou encore peu visibles, comme par exemple :

Le design de l’attention
Si capter l’attention du client et chercher à la conserver le plus longtemps possible est une stratégie marketing bien connue, et souvent assez visible de l’extérieur, il faut noter qu’avec les outils numériques ce type de stratégie est moins perceptible, car les techniques de captation de l’attention sont plus subtiles, et peuvent de plus faire appel à des mécanismes ludiques. On qualifie de « dark patterns » certaines astuces dans le design d’interface destinées à tromper l’utilisateur.

La déontologie des développeurs, éditeurs et intégrateurs de solutions et services numériques
À la suite des percées et avancées majeures en termes de data science et d’algorithmes d’intelligence artificielle capables d’apprentissage, une prise de conscience s’amorce autour de la responsabilité éthique des développeurs de solutions numériques. Leur profession est particulièrement sollicitée sur ces questions, car ce sont eux qui supervisent l’apprentissage machine, à partir de bases de données pouvant contenir des biais (cf. « Ethique algorithmique et IA » ci-après), ce qui suppose une aptitude à l’impartialité et à la prise en compte de ces enjeux par défaut et le plus en amont possible. Les éditeurs et intégrateurs ont de facto de fortes responsabilités sur la manière dont les solutions ou services numériques sont conçus et agencés.

L’éthique algorithmique et de l’intelligence artificielle
Les algorithmes d’apprentissage machine sont en pleine expansion dans de nombreux secteurs. Ces algorithmes, qui apprennent à partir de nombreux exemples, manquent de transparence et d’outils de traçabilité permettant d’expliquer leurs résultats. D’où l’expression « boîte noire », souvent utilisée pour qualifier l’opacité de certains systèmes.

L’explicabilité des algorithmes nécessite la prise en compte de plusieurs paramètres :
o La sélection des jeux de données : certains jeux de données qui servent de base d’apprentissage aux algorithmes peuvent véhiculer des biais cognitifs. Certaines bases de données peuvent par exemple, dans un domaine particulier, contenir un biais culturel et historique en termes de représentativité homme – femme. Il semble important de pouvoir expliquer le contenu des données sélectionnées et utilisées par des algorithmes apprenants afin de s’assurer de leur neutralité.
o Le suivi de l’apprentissage : il existe un risque de reproduction d’injustices ou de discriminations dans l’apprentissage machine. C’est pourquoi la supervision de l’apprentissage machine est particulièrement importante. Certains développeurs mettent en place des processus d’évaluation spécialement dédiés à la question de la neutralité dans l’apprentissage, en réservant des phases de test avant un déploiement opérationnel.
o L’acceptabilité sociale : certains systèmes algorithmiques ont un impact social non négligeable ; ils peuvent par exemple influencer massivement des comportements politiques par les « bulles de filtres ».

L’empreinte énergétique et écologique du numérique
Le numérique génère une forte croissance de la consommation énergétique, tant par les usages que par la production des équipements. La digitalisation du monde (avec notamment l’augmentation des flux de données, de leurs traitements, de leur stockage etc.) produit des effets négatifs notables sur la planète (réchauffement climatique, extraction de métaux rares, etc…). Or, la prise de conscience autour de l’empreinte énergétique et écologique des technologies numériques est encore faible.

Recommandations
Le Cigref et Syntec Numérique recommandent de catégoriser les questions d’éthique du numérique selon trois grands axes afin de mieux les appréhender :
• L’éthique by design : Cette éthique s’intéresse particulièrement à la phase de conception des outils numériques, et va donc aborder en particulier la déontologie des concepteurs numériques quels qu’ils soient (développeurs, designers numériques, chef de projet…).
• L’éthique des usages : Cette éthique vise à s’interroger sur les usages du numérique que font les clients, les collaborateurs, mais aussi les managers et les partenaires d’une entreprise. Il s’agit donc de mener une réflexion éthique sur l’usage que fait l’homme des ressources technologiques qu’il a à disposition.
• L’éthique sociétale : Cette éthique interroge à un niveau macroscopique les impacts du numérique sur la société. Elle traite ainsi, notamment, de l’acceptabilité des innovations et solutions numériques, de l’économie et du design de l’attention, et de l’empreinte écologique et énergétique du numérique, de l’inclusion sociale.

Pour plus d’information, consultez le référentiel sur les sites du Cigref et de Syntec Numérique :
https://www.cigref.fr/ethique-numerique-un-referentiel-pratique-pour-les-acteurs-du-numerique
https://syntec-numerique.fr/actu-informatique/syntec-numerique-cigref-publient-referentiel-pratique-ethique-numerique


#2

Bonjour,

les trois grands axes que vous avancez (“éthique by design, éthique des usages et éthique sociétale”) devront se décliner dans les pratiques de management, tant des entreprises de services numériques que des directions numériques et informatiques des entreprises “utilisatrices”.

Comment voyez vous cette déclinaison dans les domaines de

  1. la protection des données
  2. le respect de la vie privée des consommateur(ice)s et des collaborateur(ice)s
  3. le référencement des idées, des produits et des entreprises sur internet
  4. la transparence des algorithmes
  5. le droit d’auteur / copyright.

Cordialement
Tru Do-Khac


#3

Syntec Numérique, qui a élaboré ce référentiel avec le Cigref, soutient cette contribution à laquelle il est associé.

Syntec Numérique est le syndicat professionnel des entreprises de services du numérique (ESN), des éditeurs de logiciels et des sociétés de conseil en technologies. Il regroupe plus de 2 000 entreprises adhérentes qui réalisent 80% du chiffre d’affaires total du secteur (plus de 54Md€ de chiffre d’affaires, 447 000 employés dans le secteur). Il compte 30 grands groupes, 120 ETI, 1 000 PME, 850 startups et TPE.


#4

@SyntecNumerique

Bonjour,
permettez-moi de vous remercier ainsi que le Cigref pour le partage de vos travaux et réflexions via la publication de documents en libre téléchargement.
Le référentiel “Ethique & Numérique : un référentiel pratique pour les acteurs du numérique” me semble bien prendre en compte "les enjeux sur la protection des données, le respect de la vie privée, la neutralité et la transparence des algorithmes ou encore le droit à l’oubli " [1].

Avec l’adoption de la directive européenne sur le droit d’auteur, mais surtout avec l’arrivée sur le marché de l’emploi des milleniums qui auront été initiés à la réécriture [2], revisiter les pratiques de valorisation des droits d’auteur en B2B pourrait être opportun.

Bien cordialement
Tru Do-Khac

[1] https://www.cigref.fr/ethique-numerique-un-referentiel-pratique-pour-les-acteurs-du-numerique
[2] BAC français : un test de connaissances pour l’épreuve de “commentaire de texte” http://x-pi.blogspot.com/2018/06/bac-francais-commentaire-texte.html