Le 8 septembre 2021, Linedata a présenté le « manifeste pour une IA éthique » co-développé avec Numeum, un des syndicats professionnels de l’industrie française du numérique. Comptant parmi les premiers signataires, Linedata s’est particulièrement engagé dès l’origine du projet. C’est donc tout naturellement que Timothée Raymond, Directeur de l’Innovation et Technologie chez Linedata, et Bertrand Cocagne, Directeur de l’innovation au sein de la busines line Lending and Leasing chez Linedata, tous deux très engagés dans la co-création de ce projet sont venus présenter les grandes lignes de ce manifeste, aux côtés de Vincent HUEBER, Délégué Innovation & Technologies de Numeum.
Manifeste pour une IA éthique coordonné par Numeum
Numeum réunit 2 300 sociétés adhérentes autour d’un engagement commun qui est de promouvoir un numérique responsable tant sur le plan environnemental que social et sociétal.
A travers son manifeste pour une IA éthique, Numeum entend encourager le développement d’une IA de confiance capable de rassurer les utilisateurs finaux quant au caractère parfois intrusif de cette technologie et, dans un même temps, de valoriser les acteurs déjà engagés dans cette voie, capables de partager des cas d’usage, à l’instar de Linedata.
Le manifeste encourage à aller plus loin que les réglementations actuellement discutées au niveau européen en appelant au partage d’expérience et de bonnes pratiques lesquelles pourront par la suite inspirer les pouvoir publics.
Avec un manifeste mais aussi un guide pratique, désormais disponibles sur http://ai-ethical.com/, Numeum s’engage auprès des acteurs, des ambassadeurs et des contributeurs pour une IA éthique et promet de faire évoluer le guide en fonction des retours terrains.
Cet appel à doter les IA de qualités éthiques tangibles correspond à la volonté de Numeum d’œuvrer au développement d’une industrie du numérique plus responsable. Il constitue une étape clé pour s’assurer que les principes de la future réglementation générale pour l’IA récemment proposée par la Commission européenne puissent être respectés.
La nécessité d’une IA éthique pour éviter des erreurs potentiellement couteuses
Pour Linedata, participer à la réalisation de ce guide permet d’accélérer la remontée de demandes terrain et d’identifier plus facilement d’éventuelles sources d’erreurs survenues lors de la création d’un produit et qui conduisent ensuite l’lA à faire des conclusions erronées du fait du biais ainsi créé.
S’agissant de l’usage de l’IA dans la finance, par exemple, Linedata a souhaité mettre en place une mécanique de régulation avec l’aide de Numeum, afin de limiter le risque d’erreur à commencer par la formulation d’une définition claire de l’IA éthique et partagée par tous. Cette formulation s’est faite autour de quatre grands axes :
- Recenser les cas d’usage de l’IA (avec des retours clients pour être au plus près des préoccupations clients)
- Evangéliser l’IA éthique auprès des clients
- Contrôler l’implémentation dans les produits par la mise en place d’un processus de validation clair pour aider à affiner les projets en cours
- Ajuster avec la mise en place d’une réévaluation régulière de l’approche de l’IA éthique
L’IA éthique dans les solutions Linedata
Si l’IA éthique peut apparaitre comme une charge de travail supplémentaire au départ, chez Linedata, il s’agit d’une préoccupation de la première heure pour limiter les biais qui peuvent s’avérer couteux par la suite. A titre d’exemple, deux retours d’expérience ont été partagés par Linedata, qui illustrent les possibles biais de l’IA :
- Une grande banque américaine, en partenariat avec Apple, a fait usage de l’IA pour l’attribution de cartes bancaires. Après avoir obtenu chacun leur carte respective, un couple de clients a constaté que les possibilités de retrait de l’homme étaient supérieures à celles de la femme alors que cette dernière gagnait plus. En effet, l’IA avait intégré que dans la majorité des cas, un homme gagne plus qu’une femme.
- Un habitant de Bondy, banlieue en Seine-Saint-Denis, est considéré moins solvable qu’un habitant de Versailles, alors qu’ils sont dans la même situation professionnelle.
Si l’on s’éloigne de l’univers de la finance, des exemples récents ne manquent pas, comme le fait que l’IA de Facebook ait proposé des vidéos de primates après qu’un de ses utilisateurs ait regardé une vidéo avec des personnes noires. Les biais en IA existent, comme chez l’humain, et nous avons besoin de transparence pour les limiter. Avec Numeum, Linedata a ajouté, après réflexion, une check-list au manifeste afin de garder une visibilité sur les solutions IA qui sont développées. Une question reste cependant posée : l’IA est-elle moins éthique qu’un être humain partant du principe que ses biais sont issus de biais humains ?