La législation néerlandaise ne protège pas encore suffisamment les personnes contre la discrimination numérique. Frederik Zuiderveen Borgesius, professeur de TIC et de droit à l’Université Radboud, aujourd’hui lors de sa leçon inaugurale. Que vous souscriviez une nouvelle assurance automobile, que vous demandiez un prêt hypothécaire, que vous deviez passer par la sécurité à Schiphol ou que vous réserviez des vacances : vous devez composer quotidiennement avec des systèmes numériques qui prennent des décisions à votre sujet, souvent sans que vous ayez la moindre influence sur c’est même traversé.
Ces décisions peuvent avoir un impact majeur sur votre vie : vous pouvez être mis à l’écart à Schiphol ou payer quelques dizaines de plus par mois pour votre assurance automobile.
Pas encore fini
De nombreuses parties utilisent la discrimination numérique, ce qui peut désavantager considérablement les gens.
Voici une vidéo relatant ces faits :
Il y a des règles claires dans la loi qui protègent les personnes contre la discrimination fondée sur la couleur de la peau, le sexe ou des caractéristiques similaires. Ces normes s’appliquent également à la discrimination par les ordinateurs. Mais la discrimination numérique est souvent difficile à détecter.
Distinguer par code postal
Une deuxième catégorie de problèmes est encore plus difficile. La différenciation numérique peut être injuste lorsqu’elle n’affecte pas spécifiquement les personnes d’une certaine couleur de peau ou d’une caractéristique similaire. Par exemple, certains assureurs facturent des primes plus élevées aux personnes qui vivent à un numéro de maison avec une lettre, comme 1A ou 90L.
Cela peut être injuste. La différenciation numérique peut également affecter les pauvres. Considérez une entreprise énergétique qui facture des avances plus élevées aux résidents d’un code postal où les arriérés de paiement sont plus fréquents. Avec une telle approche, vous touchez principalement les personnes des quartiers pauvres. Et si les gens paient toujours leurs factures proprement, il leur sera difficile d’être traités comme des défaillants simplement à cause de leur code postal.
Règles supplémentaires
Dans sa leçon inaugurale, Zuiderveen Borgesius revient sur les écueils juridiques. Il y en a plusieurs : la discrimination contre, par exemple, les pauvres ou les personnes ayant un certain numéro de maison n’est pas interdite. Il est aussi parfois difficile de savoir sur la base de quelles données un ordinateur fait des choix, et comment nous rendons cela transparent.
La législation actuelle ne peut que partiellement protéger les personnes contre une différenciation numérique injuste. Par exemple, il existe des règles utiles dans la loi générale sur la non-discrimination et dans le règlement général sur la protection des données (RGPD). Nous devons commencer à mieux appliquer ces règles. Mais les règles actuelles laissent aussi des lacunes. Des règles supplémentaires sont nécessaires.
Nouvelles normes
Et c’est difficile. Car pour certaines différenciations numériques on ne sait pas encore quelles doivent être les normes. Faut-il interdire la discrimination contre les pauvres ? Et dans quels cas ? Pour répondre à ces questions, une collaboration plus interdisciplinaire est nécessaire entre les informaticiens, les avocats, les philosophes et les chercheurs d’autres disciplines, explique Zuiderveen Borgesius.
