La DPA italienne inflige une amende de 3 millions de dollars à Foodinho, propriété de Glovo, et ordonne des modifications à la gestion algorithmique des coureurs – TechCrunch

La gestion algorithmique des travailleurs des concerts a mis la société de livraison à la demande Foodinho, propriété de Glovo, en difficulté en Italie, où l’autorité nationale de protection des données a imposé une amende de 2,6 millions d’euros (~ 3 millions de dollars) hier après une enquête a trouvé une longue liste de problèmes.

La société de livraison a été sommée d’apporter un certain nombre de modifications à son mode de fonctionnement sur le marché, l’ordonnance du Garante lui accordant deux mois pour corriger les violations les plus graves constatées, et un mois supplémentaire (donc trois mois au total) pour modifier la façon dont ses les algorithmes fonctionnent – pour assurer la conformité avec la législation sur la confidentialité, le statut des travailleurs italiens et la législation récente protégeant les travailleurs des plateformes.

L’un des sujets de préoccupation de l’organisme de surveillance des données est le risque de discrimination découlant d’un système de notation des coureurs exploité par Foodinho – qui comptait quelque 19 000 coureurs opérant sur sa plate-forme en Italie au moment de l’enquête de Garante.

Un litige de longue date intenté par des coureurs se présentant pour une autre marque de livraison de nourriture en Italie, Foodora, qui a abouti à une décision de la Cour suprême du pays est probablement pertinent. l’année dernière que les coureurs revendiqués devraient être traités comme ayant des droits des travailleurs, qu’ils soient salariés ou indépendants, ce qui renforce les arguments contre les applications de livraison qui appliquent des algorithmes pour microgérer de manière opaque le travail des travailleurs de la plate-forme.

Dans le injonction contre Foodinho, la DPA italienne a déclaré avoir découvert de nombreuses violations de la législation sur la protection de la vie privée, ainsi qu’un risque de discrimination à l’encontre des travailleurs des concerts en fonction du fonctionnement des algorithmes de réservation et d’affectation de Foodinho, en plus de signaler des inquiétudes quant à la manière dont le système utilise les évaluations et les mécanismes de réputation comme leviers supplémentaires de contrôle du travail.

L’article 22 du règlement général sur la protection des données (RGPD) de l’Union européenne protège les individus contre le fait d’être uniquement soumis à une prise de décision automatisée, y compris le profilage, lorsque de telles décisions produisent un effet juridique ou un effet substantiel similaire (et l’accès à un travail rémunéré satisferait à cette barre) – en leur donnant le droit d’obtenir des informations sur une décision spécifique et de s’y opposer et/ou de demander un examen humain.

Mais il ne semble pas que Foodinho ait accordé de tels droits aux coureurs, selon l’évaluation de Garante.

Dans un communiqué de presse à propos de l’injonction (que nous avons traduite de l’italien avec Google Translate), le chien de garde écrit :

« L’Autorité a constaté une série d’infractions graves, notamment en ce qui concerne les algorithmes utilisés pour la gestion des travailleurs. L’entreprise, par exemple, n’avait pas suffisamment informé les travailleurs sur le fonctionnement du système et n’avait pas garanti l’exactitude et l’exactitude des résultats des systèmes algorithmiques utilisés pour l’évaluation des coureurs. Elle ne garantissait pas non plus des procédures pour protéger le droit d’obtenir une intervention humaine, d’exprimer son opinion et de contester les décisions adoptées par l’utilisation des algorithmes en question, y compris l’exclusion d’une partie des coureurs des opportunités d’emploi.

« Le Garant a donc demandé à l’entreprise d’identifier des mesures pour protéger les droits et libertés des coureurs face aux décisions automatisées, y compris le profilage.

Le chien de garde dit également qu’il a demandé à Foodinho de vérifier «l’exactitude et la pertinence» des données qui alimentent le système de gestion algorithmique – répertoriant une grande variété de signaux pris en compte (tels que les chats, les e-mails et les appels téléphoniques entre les coureurs et le service client ; données de géolocalisation captées toutes les 15 secondes et affichées sur la carte de l’application ; délais de livraison estimés et réels ; détail de la gestion de la commande en cours et de celles déjà effectuées ; retours clients et partenaires ; niveau de batterie restant de l’appareil etc).

« C’est aussi afin de minimiser les risques d’erreurs et de distorsions qui pourraient, par exemple, conduire à la limitation des livraisons attribuées à chaque coureur ou à l’exclusion elle-même de la plateforme. Ces risques découlent également du système de notation », poursuit-il, ajoutant : « L’entreprise devra également identifier des mesures qui empêchent l’utilisation inappropriée ou discriminatoire des mécanismes de réputation sur la base des commentaires des clients et des partenaires commerciaux. »

Glovo, l’entité mère de Foodinho – qui est nommée propriétaire de la plate-forme dans l’injonction de Garante – a été contactée pour commenter l’injonction.

Un porte-parole de l’entreprise nous a dit qu’il discutait d’une réponse. Nous mettrons donc à jour ce rapport si nous en obtenons un.

Glovo a acquis la société italienne de livraison de nourriture Foodinho de retour en 2016, faisant sa première incursion dans l’expansion internationale. L’entreprise basée à Barcelone a ensuite essayé de créer une entreprise au Moyen-Orient et en Amérique latine — avant que reculer se concentrer largement sur Europe du Sud et de l’Est. (Dans 2018 Glovo a également repris la marque Foodora en Italie, qui appartenait à son rival allemand Delivery Hero.)

Le Garante dit avoir collaboré avec l’organisme espagnol de surveillance de la vie privée, l’AEDP – qui est le principal superviseur de la protection des données de Glovo en vertu du RGPD – sur l’enquête sur Foodinho et la technologie de plate-forme qui lui a été fournie par Glovo.

Son communiqué note également que Glovo fait l’objet d’une “procédure indépendante” menée par l’AEPD, à laquelle il dit apporter son concours.

Le chien de garde espagnol a confirmé à TechCrunch que le travail conjoint entre l’AEPD et le Garante avait abouti à la résolution contre la société appartenant à Glovo, Foodinho.

L’AEPD a également déclaré avoir engagé ses propres procédures contre Glovo, soulignant une sanction 2019 liés à ce dernier ne nommant pas de délégué à la protection des données, comme l’exige le RGPD. Le chien de garde a ensuite infligé à Glovo une amende de 25 000 € pour ce manquement à la conformité.

Cependant, il n’est pas clair pourquoi l’AEDP n’a – apparemment – pas examiné en profondeur la propre conformité de Glovo à l’article 22 du RGPD. (Nous lui avons demandé plus à ce sujet et nous mettrons à jour si nous obtenons une réponse.)

Cela nous a indiqué directives récemment publiées sur la protection des données et les relations de travail, sur lesquelles elle a travaillé avec le ministère espagnol du Travail et les organisations patronales et syndicales, et qui, selon elle, comprend des informations sur le droit d’un comité d’entreprise d’être informé par une société plate-forme des paramètres sur lesquels le des algorithmes ou des systèmes d’intelligence artificielle sont basés – y compris “l’élaboration de profils, qui peuvent affecter les conditions, l’accès et le maintien de l’emploi”.

Plus tôt cette année, le gouvernement espagnol convenu d’une réforme du travail étendre les protections disponibles pour les travailleurs de la plate-forme en reconnaissant les coursiers de la plate-forme en tant qu’employés.

Les amendements à la loi espagnole sur le statut des travailleurs ont été approuvés par décret royal en mai – mais ne devraient pas commencer à être appliqués avant le milieu du mois prochain, par Le pays.

Notamment, la réforme contient également une disposition qui exige que les représentants légaux des travailleurs soient informés des critères alimentant tout algorithme ou système d’IA qui sont utilisés pour les gérer et qui peuvent affecter leurs conditions de travail – comme ceux affectant l’accès à l’emploi ou les systèmes de notation. qui surveillent les performances ou le profil des travailleurs. Et cette disposition supplémentaire de transparence algorithmique entrante a évidemment été prise en compte dans les orientations de l’AEPD.

Il se peut donc que le chien de garde accorde aux plates-formes concernées comme Glovo une grâce de quelques mois pour leur permettre de mettre leurs systèmes en ordre pour les nouvelles règles.

Bien entendu, le droit du travail espagnol reste également distinct du droit italien, il y aura donc des différences d’application permanentes liées aux éléments qui concernent les applications de livraison, indépendamment de ce qui semble être une trajectoire similaire sur la question de l’élargissement des droits des travailleurs des plateformes.

De retour janvier, par exemple, un tribunal italien a constaté qu’un algorithme de classement de réputation qui avait été utilisé par une autre application de livraison à la demande, Deliveroo, avait discriminé les passagers parce qu’il n’avait pas fait la distinction entre les motifs protégés par la loi pour retenir le travail (par exemple, parce qu’un coureur était malade ; ou exerçant son droit de grève protégé) et d’autres raisons de ne pas être aussi productifs qu’ils l’avaient indiqué.

Dans cette affaire, Deliveroo a déclaré que le jugement faisait référence à un système de réservation historique qui, selon lui, n’était plus utilisé en Italie ni sur aucun autre marché.

Plus récemment, une décision du tribunal de Bologne a trouvé un accord de négociation collective signé par AssoDelivery, une association professionnelle qui représente un certain nombre de plates-formes de livraison sur le marché (y compris Deliveroo et Glovo), et un syndicat minoritaire avec des affiliations d’extrême droite, le commerce UGL syndicat, pour être illégal.

Deliveroo nous a dit qu’il prévoyait de faire appel de cette décision.

L’accord a suscité la controverse car il cherche à déroger de manière défavorable à la loi italienne qui protège les travailleurs et l’organe professionnel signataire n’est pas assez représentatif dans le secteur.

En faisant un zoom arrière, les législateurs de l’UE se penchent également sur la question des droits des travailleurs des plates-formes – lance une consultation en février sur la façon d’améliorer les conditions de travail des travailleurs à la carte, avec la possibilité que Bruxelles puisse proposer une législation plus tard cette année.

Cependant, les géants des plates-formes ont vu l’exercice comme une occasion de faire pression pour la déréglementation — faire pression pour réduire les normes d’emploi pour les travailleurs temporaires à travers l’UE. La stratégie semble destinée à contourner ou au moins à essayer de limiter l’élan pour des règles renforcées au niveau national, telles que la réforme du travail en Espagne.