Histoire de l’IA – Mythes, réalité et risques

En 1950, dans son essai révolutionnaire, Alan Turing a posé une simple question: «Les machines peuvent-elles penser?» Si une machine est capable de penser, elle peut agir avec intelligence – et pourrait même peut-être un jour dépasser l’intelligence de ses créateurs humains. Cette idée de «superintelligence» a certainement inspiré de nombreuses histoires de science-fiction.

L’IA: pourquoi et pourquoi pas?

Il existe un concours international annuel – le Prix Loebner – qui récompense les programmes informatiques qui imitent le mieux l’être humain. À ce jour, aucun lauréat n’a réellement réussi le test et les scientifiques sont encore loin de l’objectif de concevoir une superintelligence artificielle. En réalité, des décennies pourraient être nécessaires pour réussir à déployer l’intelligence artificielle générale (IAG), c’est-à-dire une IA comparable à l’intelligence humaine. Les approches actuelles peuvent être qualifiées d’«IA restreinte» – des systèmes qui sont intelligents non pas parce qu’ils arrivent à imiter l’intelligence humaine, mais parce qu’ils sont capables d’exécuter certaines tâches qui, autrement, requerraient un niveau insoutenable d’intelligence, de temps et d’efforts de la part de l’homme. Ces algorithmes de l’IA remplacent progressivement, et complètent, les algorithmes traditionnels qui résolvaient des problèmes par ordinateur.

Les processus algorithmiques de l’IA ne sont pas comparables aux algorithmes traditionnels et sont plus efficaces pour de nombreuses tâches. Dans le cas de l’IA, plutôt que d’écrire un programme pour chaque tâche spécifique, de multiples exemples sont réunis, qui indiquent la bonne (ou la mauvaise) réponse à un problème donné. Les algorithmes de l’IA prennent ensuite ces exemples et génèrent un programme qui exécute ces tâches. Le programme doit être capable de s’adapter à de nouveaux exemples. Si les données changent, le programme peut également changer en étant entraîné sur la base de ces nouvelles données. Une puissance de calcul considérable est désormais disponible pour ces tâches, ce qui rend ce système moins cher que l’écriture d’un programme spécifique pour une seule tâche.

Cette capacité à étendre et à maîtriser les connaissances issues des données a fait de l’IA un outil essentiel et complémentaire pour les décideurs politiques et les prestataires de services qui cherchent à promouvoir le bien commun. Plusieurs outils d’IA sont utilisés pour répondre aux crises, soutenir le développement économique, relever les défis en matière d’éducation, limiter les défis environnementaux, garantir l’égalité et l’inclusion, favoriser la santé, lutter contre la faim, vérifier et valider des informations, gérer les infrastructures, administrer le secteur public et social, et même promouvoir la sécurité et la justice.

La nature multidisciplinaire de l’IA

Même si, à l’heure actuelle, l’IA est qualifiée de «restreinte», l’approche basée sur les algorithmes d’IA consiste à imiter le processus de la pensée humaine. Cela implique la modélisation de la manière dont les humains pensent et agissent. Pour concevoir des algorithmes d’IA, il est nécessaire de comprendre de quelle manière les humains raisonnent, ce qu’ils font et comment ils agissent. Il faut par ailleurs modéliser la pensée et les actions d’un humain idéal. Ces aspects peuvent être appréhendés grâce aux connaissances sur le raisonnement rationnel et éthique. L’IA moderne consiste à créer une IA qui sait comment elle «devrait agir». La réussite de ces algorithmes est mesurée à l’aune de critères de performance adaptés, issus des domaines de la statistique, de la physique, des mathématiques, de la philosophie, de l’économie, des sciences sociales, des neurosciences et des sciences cognitives. Ainsi, concevoir un algorithme d’IA performant suppose une approche interdisciplinaire, qui est seulement sur le point d’émerger.

Plusieurs disciplines entrent dans le cadre de l’IA. Ces disciplines posent des questions telles que: les ordinateurs peuvent-ils parler? Reconnaître la parole? Comprendre la parole? Apprendre et s’adapter? Voir? Planifier et prendre des décisions? Afin de répondre à ces interrogations, un certain nombre de sous-disciplines de l’IA ont vu le jour et ont évolué – traitement du langage naturel, vision par ordinateur, apprentissage automatique, extraction des données et bien d’autres. Ces dernières années, on a assisté à l’émergence de nouvelles méthodes et techniques, telles que les réseaux de neurones convolutifs, qui visent un niveau de performance élevé et absorbent une quantité de données considérable. En général, ces algorithmes suivent un chemin qui commence par l’acquisition de données, puis passe par toute une série d’étapes: nettoyage, stockage et gestion de données, sélection de caractéristiques et fusion de données, analyse visuelle, processus itératif de modélisation, mesure de la performance, suivi et, finalement, génération d’un résultat. Au cours de ces processus, les données utilisées sont divisées en différentes parties afin d’entraîner, de valider et de tester la performance des modèles, en fonction des données disponibles. Ce processus est relativement semblable à la manière dont les humains traitent les données.

Risques

Étant donné que les algorithmes d’IA passent par plusieurs sous-processus, certains éléments nécessitent une attention particulière. C’est le cas du surapprentissage. Parfois, les algorithmes développés correspondent tellement bien aux données d’apprentissage qu’ils échouent à proposer la bonne solution dans le monde réel. Outre ces considérations, les données, les algorithmes et l’intervention humaine dans un algorithme sont autant de sources potentielles d’erreurs qui peuvent faire échouer l’IA. Une quantité de données considérable est introduite dans la machine pour identifier certaines tendances. Les données non structurées issues d’Internet, des réseaux sociaux, des appareils mobiles, des capteurs et des dispositifs intelligents (par exemple l’Internet des objets) compliquent l’absorption, la mise en relation, le tri et la manipulation des données. L’ensemble de données, si elles ne sont pas soigneusement conservées, pourrait révéler des données manquantes ou incomplètes ou s’avérer imprécis ou biaisé. Cela peut même entraîner une divulgation involontaire de données sensibles, à moins qu’une attention particulière ne soit portée au retrait des données personnelles de toutes les bases de données.

Les systèmes d’IA sont sujets au biais algorithmique. Certains algorithmes sont systématiquement biaisés vis-à-vis d’un certain type de données. En dehors de cela, le biais dépend principalement des ingénieurs qui conçoivent les algorithmes et de la manière dont ceux-ci sont déployés, et finalement utilisés. La formulation du problème joue un rôle déterminant. Lorsqu’ils formulent un problème, les scientifiques décident de ce qu’ils veulent obtenir avec la création d’un modèle d’apprentissage. Un algorithme conçu pour mesurer la «solvabilité» et programmé pour maximiser le profit plutôt que le nombre de prêts pourrait en fin de compte décider, quoique involontairement, d’octroyer des prêts hypothécaires à risque. La composition de l’équipe d’ingénieurs peut également être biaisée. La formulation du problème dépend de qui conçoit l’algorithme, qui définit les modes de déploiement, qui décide du niveau de précision acceptable et qui juge le caractère éthique des applications de l’IA. La négligence de ces éléments a donné lieu au déploiement d’algorithmes qui déterminent les publicités à caractère politique que les citoyens voient, la manière dont les recruteurs filtrent les demandeurs d’emploi et même l’affectation des agents de sécurité dans les quartiers.

Vers une utilisation éthique de l’IA

Bien que l’IA en tant que science ne date pas d’hier, son utilisation dans le monde de la technologie est relativement récente. Ainsi, de nombreux leaders du marché n’ont pas encore pu développer l’intuition et les connaissances professionnelles relatives aux risques individuels, sociaux et organisationnels. Certains tendent à négliger les dangers et d’autres surestiment les capacités d’atténuation des risques. Par ailleurs, il n’existe aucun consensus parmi les dirigeants concernant les risques à anticiper. Un grand nombre d’entreprises prétendent avoir pris des précautions – elles récoltent davantage de données d’apprentissage répétitives, elles procèdent régulièrement à des audits et à des vérifications pour identifier les biais involontaires et elles mènent des analyses d’impact sur certains groupes. Toutefois, de nombreux chercheurs dans le domaine de l’éthique de l’IA affirment que les algorithmes de l’IA sont entraînés sur des données obsolètes. Un algorithme qui obtient de bons résultats sur un ensemble de données obsolètes n’aura peut-être pas des résultats aussi satisfaisants dans la réalité actuelle. L’éthique en matière d’IA est dès lors devenue un sujet de recherche de premier plan.

Exemples d’application dans le domaine de la sécurité sociale

L’utilisation de l’IA dans le domaine de la sécurité sociale est en plein essor, en particulier pour améliorer les services aux membres grâce à une assistance automatisée 24 heures sur 24, 7 jours sur 7, et, plus récemment, pour automatiser certains processus d’arrière-guichet (graphique 1).

Plusieurs institutions de sécurité sociale ont mis en place des assistants conversationnels intelligents afin d’améliorer les services aux membres en ligne, grâce à une disponibilité 24 heures sur 24, 7 jours sur 7, dans différentes branches et pour plusieurs types de prestations. Ces assistants intelligents peuvent imiter le comportement humain et sont capables de répondre de manière autonome aux demandes des utilisateurs. Ils sont disponibles 24 heures sur 24, 7 jours sur 7, et peuvent s’adapter aux préférences des utilisateurs.

La Superintendance des risques professionnels (Superintendencia de Riesgos del Trabajo – SRT) d’Argentine a mis en place un assistant conversationnel intelligent nommé «Julieta», chargé de répondre aux demandes liées aux prestations en cas d’accident du travail. L’assistant a permis de fournir aux membres des services automatisés et personnalisés non seulement en répondant aux questions les plus fréquemment posées, mais également en demandant des informations sur les démarches effectuées par les membres, telles que l’inscription et la demande de prestations. Parmi les principaux facteurs identifiés figurent le développement d’une base de connaissances de qualité et l’entraînement continu de l’assistant conversationnel par une équipe multidisciplinaire.

L’assistant conversationnel intelligent mis en place par l’Administration nationale norvégienne pour le Travail et les Affaires sociales (Norwegian Labour and Welfare Administration – NAV) a, quant à lui, permis de répondre à une demande croissante d’informations dans le contexte de la crise de la COVID-19. Concrètement, entre mars et mai 2020, l’assistant conversationnel a répondu à plus de 8 000 demandes quotidiennes, contre 2 000 avant la COVID-19. Les principaux facteurs de réussite sont les suivants: entraînement de l’assistant fondé sur une base de connaissances mise à jour quotidiennement, priorité accordée à un type d’informations spécifique et lien permanent entre l’assistant et un expert humain. De nouveaux sujets s’ajoutent aux attributions de l’assistant conversationnel, notamment pour aider les employeurs et les travailleurs indépendants.

En Uruguay, la Banque d’assurance sociale (Banco de Previsión Social – BPS) a mis en place un assistant conversationnel intelligent pour répondre aux demandes des employeurs concernant le régime des travailleurs domestiques. Grâce au traitement du langage naturel et à des techniques de gestion des dialogues, l’assistant comprend les intentions du membre et propose des actions appropriées. Instauré en janvier 2019, l’assistant conversationnel intelligent permet de répondre à 97 pour cent de toutes les demandes, alors que les 3 pour cent restants requièrent l’intervention d’un expert. La mise en œuvre a duré près d’une année, dont six mois ont été consacrés aux entraînements et aux tests. Parmi les principaux facteurs de réussite identifiés figurent la mise à jour continue de la base de connaissances, ainsi que la mise en place d’une équipe multidisciplinaire chargée du développement et des opérations.

L’Organisation générale de l’assurance sociale (General Organization for Social Insurance – GOSI) d’Arabie saoudite a commencé à utiliser, à titre expérimental, des assistants conversationnels pour la fourniture des services. L’objectif consistait à développer un agent intelligent pour répondre aux demandes des membres et simplifier certains services et transactions spécifiques. L’assistant communique avec les membres via différentes applications de chat et de réseaux sociaux.

Certaines institutions utilisent également l’IA pour améliorer les processus d’arrière-guichet, notamment le traitement de grandes quantités de données issues de bases de données traditionnelles, mais également de textes et d’images non structurés provenant de supports papier numérisés.

Emploi et Développement social Canada (EDSC) a utilisé l’IA pour identifier les bénéficiaires du supplément de revenu garanti (SRG), une prestation en espèces pour les personnes âgées à bas revenu. En deux mois, les modèles d’apprentissage automatique ont identifié plus de 2 000 Canadiens vulnérables ayant droit au SRG, grâce au traitement de plus de 10 millions de données textuelles non structurées. Afin de maximiser la couverture des bénéficiaires vulnérables, les experts métier du programme SRG ont défini un niveau d’inclusion élevé dans le modèle et ont dès lors accepté volontairement des faux positifs qui devaient ensuite être passés en revue manuellement.

L’expérience a révélé l’importance d’utiliser des données représentatives, de tenir compte des nuances, et de déterminer les bonnes mesures et les seuils adéquats en fonction des besoins de l’institution, en développant les données d’entraînement avec des experts métier. Parmi les enseignements tirés, l’EDSC a souligné la nécessité de disposer de données de base de qualité et d’équipes multidisciplinaires composées d’experts métier et d’experts en science des données pour les projets liés à l’IA. Les principaux risques identifiés sont la sélection d’outils appropriés et les disparités au niveau des connaissances en matière de données parmi le personnel de l’organisation.

L’Institution d’assurance sociale (Kansaneläkelaitos) de Finlande commence à appliquer l’IA de deux manières: i) pour améliorer les services aux membres en combinant services en ligne et assistants conversationnels intelligents, et ii) pour utiliser la reconnaissance d’image de l’IA afin d’automatiser les processus administratifs grâce à la reconnaissance de documents.

De même, l’Institut national de sécurité sociale (Instituto Nacional do Seguro Social – INSS) du Brésil met en place un assistant conversationnel intelligent – nommé «Helô» – pour apporter des réponses automatisées 24 heures sur 24, 7 jours sur 7, aux demandes des membres dans le cadre des services en ligne personnalisés de myINSS. Une première version lancée en mars 2020 a déjà traité environ un million de demandes. L’INSS utilise également l’IA pour accélérer l’identification des bénéficiaires décédés, afin d’éviter les paiements indus.

La Caisse auxiliaire de paiement des allocations de chômage (CAPAC) de Belgique a, elle aussi, commencé à utiliser l’IA pour traiter des formulaires au format papier grâce à la reconnaissance optique de caractères (ROC), même si les résultats ne se sont pas avérés satisfaisants. Malgré ces difficultés, l’utilisation de l’IA demeure à l’ordre du jour de la CAPAC, qui prévoit de développer un assistant conversationnel intelligent.

L’Assurance sociale d’Autriche (Dachverband der österreichischen Sozialversicherungsträger – SV) utilise pour sa part l’IA à diverses fins. Tout d’abord, l’IA a permis de déployer un assistant conversationnel intelligent – OSC Caro – qui fournit une assistance numérique aux membres dans plusieurs domaines, tels que les prestations de garde d’enfants, les prestations de maladie et les remboursements. Par ailleurs, un système de reconnaissance vocale soutient les services des centres d’appels en transférant automatiquement les demandes des membres vers les bureaux appropriés. Le modèle linguistique du système, qui est basé sur l’IA, a été entraîné pour reconnaître des termes spécifiques. En outre, l’IA est utilisée pour distribuer automatiquement les courriels aux services concernés, avec un taux d’exactitude avoisinant les 93 pour cent. Enfin, un projet en cours consiste à mettre en place un processus semi-automatisé de remboursement des frais médicaux basé sur l’IA. Dans ce cas, l’IA est utilisée pour automatiser plusieurs tâches, telles que la reconnaissance des documents soumis, la classification des diagnostics selon les codes de l’ICD-10 et l’extraction des données requises pour le remboursement (montant de la facture, IBAN, entre autres). Le traitement semi-automatique permet d’accélérer le processus de remboursement et de soutenir le personnel impliqué.

Au niveau du gouvernement, plusieurs pays définissent des stratégies nationales basées sur l’IA. Plus particulièrement, la stratégie estonienne vise à mettre en place un gouvernement proactif basé sur le développement d’un service qui s’adapte aux événements de la vie et sur la fourniture de services personnalisés sans aucune bureaucratie, grâce à une utilisation intensive de l’IA.

L’approche estonienne de services publics numériques basés sur l’IA est mise en place dans le cadre de #KrattAI, un réseau interopérable d’applications d’IA permettant aux citoyens d’utiliser les services publics via des interactions vocales avec des assistants virtuels. Cette stratégie, qui contient plus de 70 projets, dont 38 sont déjà opérationnels, couvre un large éventail de domaines, notamment les applications environnementales, l’aide d’urgence, la cybersécurité et les services sociaux. Plus spécifiquement, un assistant conversationnel intelligent pour les services aux membres et le traitement des cas présentant un risque de chômage de longue durée est utilisé dans le cadre de l’assurance-chômage.

Parmi les enseignements tirés, soulignons l’importance de garantir la qualité et la confidentialité des données utilisées, de fournir des métadonnées et de gérer la flexibilité des applications basées sur l’IA en utilisant une infrastructure numérique et en développant des modèles d’approvisionnement appropriés. En outre, les limites de l’automatisation dans le domaine des services publics doivent faire l’objet d’une évaluation idoine.

Conclusions et principaux éléments à retenir

L’IA devient peu à peu une technologie clé pour les organisations de la sécurité sociale puisqu’elle permet d’améliorer l’efficacité administrative grâce à l’automatisation des processus et qu’elle soutient le personnel pour les tâches nécessitant une intervention humaine.

Toutefois, parallèlement à un certain nombre de développements positifs, plusieurs défis se présentent. Ils concernent principalement les limites et les risques liés à l’IA, ainsi que l’équilibre entre l’automatisation des processus et le contrôle humain. Par ailleurs, les différences méthodologiques entre le développement de l’IA et celui des logiciels traditionnels posent des défis aux institutions qui mettent en place ce genre de projets.
Parmi les facteurs de réussite clés, la disponibilité et la qualité des données sont essentielles pour entraîner correctement les systèmes d’IA. Ce «besoin en données» implique de définir une stratégie au niveau de l’organisation afin d’utiliser les données internes et, potentiellement, des données d’autres organisations, et de garantir la conformité avec les législations relatives à la protection des données.

Les institutions doivent disposer de capacités spécifiques pour utiliser l’IA. Elles doivent comprendre en profondeur l’objectif du projet, sélectionner des données qui soient représentatives du monde réel, opter pour des solutions simples, s’assurer que les algorithmes utilisés sont faciles à expliquer, choisir des modèles qui non seulement sont les plus performants, mais qui respectent des normes d’équité soigneusement élaborées, et, enfin, garantir la transparence et la responsabilité.

En outre, les institutions qui utilisent l’IA ont souligné l’importance de disposer d’équipes multidisciplinaires constituées d’experts métier et d’experts en science des données pour développer les projets. À cet égard, les connaissances du personnel en matière d’IA et de gestion des données sont essentielles. La direction des organisations et les gestionnaires de projet doivent comprendre les implications de l’utilisation de l’IA afin de définir quels sont les processus qui peuvent être automatisés et quelles décisions doivent être prises par l’homme.

L’AISS souhaite exprimer sa gratitude à Moinul Zaber, chargé de recherche principal, Groupe opérationnel pour la gouvernance électronique au service des politiques publiques, Université des Nations Unies, pour sa contribution technique à cet article.

Références

• Webinaire du Réseau européen de l’AISS: L’intelligence artificielle et les institutions de sécurité sociale, 22 septembre 2020
• Webinaire de l’AISS: Améliorer l’assistance aux membres grâce à des services en ligne de pointe, 18 juin 2020
• Webinaire de l’AISS: Renforcer l’efficience et les services aux membres grâce à une automatisation des processus efficace, 17 juin 2020
• Webinaire de l’AISS: Renforcer les canaux numériques grâce à des services en ligne de pointe, 4 juin 2020