L’Atelier AI for Social Good à NeurIPS 2018

Quelles recherches sur l’IA peuvent avoir un impact sur le bien social ?

        L’intelligence artificielle est de plus en plus souvent représentée dans les médias comme une panacée pour les problèmes du monde. Qu’il s’agisse des gestionnaires du secteur public ou des cadres du secteur privé, tous s’accordent pour célébrer les perspectives de progrès social que la technologie pourrait apporter. Lors d’un entretien en janvier 2018, le PDG de Google, Sundar Pichai, est parvenu à résumer l’ambiance générale en déclarant que l’impact potentiel sur l’humanité pourrait rivaliser avec celui de la découverte du feu ou de l’électricité.^[1] Nous sommes bien sûr aussi habitués au revers de la médaille, c’est-à-dire les risques apocalyptiques prédits par les commentateurs qui voient en l’IA la menace déstabilisante longtemps décrite dans la fiction. Prise en sandwich entre ces récits divergents, la réalité actuelle en ce qui concerne ce domaine scientifique est à nuancer étant donné que nous en sommes encore à un stade relativement primitif. Bien que l’IA peine à devenir la solution pour tous les maux, il n’en reste pas moins que les dernières années ont laissé entrevoir sa valeur en tant que piste de recherche pour résoudre les problèmes les plus pressants et irréductibles auxquels nous devons faire face aujourd’hui. Les résultats actuels présentent déjà un certain nombre de possibilités immédiates pour s’attaquer à des défis traditionnellement considérés comme hors de portée de l’intervention commerciale ou étatique. Un rapport de McKinsey de décembre 2018 a par ailleurs identifié plus de 160 cas d’étude à travers de nombreux domaines ayant trait aux objectifs de développement durable des Nations Unies, qui démontrent l’impact social que peut avoir l’IA.^[2] En explorant ces problématiques, les présentations et discussions tenues lors de l’atelier AI for Social Good ont éclairci le débat sur l’état de la recherche actuelle et la diversité des approches par rapport aux moyens d’utiliser l’IA pour améliorer l’existence de chacun. Cet événement a été organisé dans le cadre de la Conférence Scientifique en Intelligence Artificielle et Neurosciences Computationnelles (NeurIPS) de 2018, le plus grand rassemblement au monde d’experts et d’amateurs en apprentissage machine, et peut-être l’aperçu annuel le plus complet de l’état de la discipline au niveau mondial.

        Même en prenant en compte l’arrivée de techniques de production modernes, les agriculteurs de subsistance restent à la merci de l’environnement. Dans l’optique d’une seule infection végétale pouvant foudroyer les espoirs d’une communauté agricole, le Dr Ernest Mwebaze a démontré l’avantage que pouvait apporter l’IA à travers ses travaux sur l’automatisation de la détection des maladies virales de la cassave par le biais de la technologie mobile à bas coût. Anirudh Koul, le créateur de l’application Seeing AI, a montré le potentiel des téléphones pour l’assistance aux malvoyants souhaitant s’orienter et interagir avec leur environnement plus facilement. Bien qu’a priori sans rapport, ces deux sujets illustrent un aspect fondamental du potentiel de l’IA pour l’impact social : la possibilité de rendre aux gens la capacité de relever les défis de leur existence et regagner leur autonomie et dignité face aux obstacles qui les attendent. L’évolution de l’humanité a été guidée par l’utilisation d’outils de plus en plus complexes, mais avec l’IA on peut s’attendre à une redéfinition de ce qu’est un outil en soi. L’interaction entre l’humain et la machine peut non seulement élargir grandement l’éventail d’actions possibles, mais aussi permettre aux individus de contribuer à leur communauté par le partage d’informations réunies collectivement.

        Si la sphère individuelle peut en tirer un bénéfice certain, c’est aussi le cas pour les institutions à plus grande échelle. Aidés par des sources d’information à la fois plus étendues et plus ponctuelles, les administrateurs et planificateurs peuvent répondre mieux aux exigences et crises quotidiennes. La recherche effectuée par Girmaw Abebe Tadesse montre comment l’IA peut dépasser les contraintes propres à l’opération d’outils essentiels de l’infrastructure en milieu isolé : les pannes de pompes à eau dans la campagne kenyane peuvent être prédites sans passer par des senseurs coûteux qui mettent à mal le budget local. Le professeur assistant Fei Fang a, au contraire, proposé des algorithmes qui s’attaquent au problème opposé, c’est-à-dire à la question de savoir comment traduire l’information déjà disponible en solutions effectives : dans son cas, comment combiner les témoignages humains et le peu de données collectées manuellement pour établir un plan d’action contre le braconnage organisé. Dans les deux situations, l’IA peut non seulement permettre aux agents publics de s’assurer qu’ils tirent parti des ressources à leur disposition de la manière la plus efficace, mais aussi les assurer d’obtenir l’information nécessaire à leurs décisions dans les meilleurs délais.

        À l’instar d’AlphaGo révélant des motifs stratégiques que les meilleurs joueurs humains n’auraient jamais soupçonnés, l’IA peut découvrir des corrélations de données restées jusque-là invisibles afin de produire le plus grand impact social possible. Comme l’a montré le travail de Priya Donti sur les habitudes de consommation énergétique, une quantité surprenante d’informations privées sur l’utilisation de l’électricité par les ménages peut être récupérée à partir de données publiques. L’action gouvernementale peut donc se baser sur une mise au point de plus en plus affinée par le biais des algorithmes. L’information gaspillée par manque de ressources ou de temps peut désormais avoir son utilité au niveau national ou local. Comme l’ont découvert Aniket Kesari et Raesetje Sefala, l’IA peut créer, à partir de milliers d’heures de séquences brutes de circulation automobile, des bases de données réellement utilisables par les planificateurs urbains leur permettant d’ajuster leur travail au fil de l’évolution de la situation. Les communes peuvent aussi utiliser l’IA pour s’organiser en temps réel. Par exemple, l’initiative ZZapp d’Arbel Vigodny a pour but de permettre aux gestionnaires des campagnes anti-malaria de surveiller le progrès des intervenants sur le terrain et d’ajuster ainsi continuellement leur stratégie de déploiement en fonction de données précises et réactualisées en permanence.

        L’IA peut aider les gens dans leur vie au jour le jour, mais également les spécialistes confrontés à des décisions de vie ou de mort. Comme le démontrent les travaux de Chen Zhang sur l’exposition prénatale à l'alcool et ceux d’Arijit Patra sur l’échocardiographie fœtale, les personnels du secteur médical peuvent s’appuyer sur l’IA pour produire des diagnostics moins onéreux. Possibilité leur est donnée de réduire la probabilité que des individus vulnérables glissent entre les mailles du filet et se retrouvent sans traitement. Les patients à risque peuvent trouver en l’IA un allié contre leurs problèmes de santé à long terme. La startup d’Ellie Gordon, Behaivior, cherche justement à utiliser la reconnaissance des formes et la technologie portable pour fournir une assistance en temps réel dans le combat contre l’addiction. Plutôt que de se focaliser sur les origines de l’échec, le traitement se recentre sur la prévention. L’IA peut donc non seulement fournir de meilleurs outils, limiter les taux d’erreurs, accroître la qualité de l’information, mais aussi modifier le rapport entre patients et médecins sans compromettre l’autonomie de chacun.

        L'intégration de l’IA dans le bassin des travailleurs qualifiés invite bien sûr à une incertitude quant à leur éventuel remplacement. C’est l’IA elle-même qui peut paradoxalement pallier ce problème, comme le montre l’analyse de Logan Graham en fournissant un cadre théorique pour départager les tâches automatisables de celles qui ne peuvent pas l’être aisément. À l’instar des représentants du gouvernement se servant de l’IA pour une analyse plus approfondie, les travailleurs pourront prévoir avec plus de facilités quelles seront les compétences les plus utiles dans le futur et ainsi déterminer leur parcours éducatif.

Trajets du futur proche

        Le potentiel de l’IA pour résoudre les problèmes majeurs de la société présente un dilemme naturel. Si la technologie peut radicalement changer nos vies et le fonctionnement de nos communautés, comment pouvons-nous être sûrs que cela se produira pour le bien de tous ? Les intervenants de l’atelier se sont rassemblés pour discuter de l’impact que pourrait avoir l’IA dans un futur proche, des problèmes qui pourraient en résulter, non seulement de par son existence intrinsèque, mais aussi par rapport à son utilisation dans le cadre de méthodes de gestion classiques. L’itération actuelle de l’IA reste, dans un certain sens, un reflet direct de son créateur, puisque son fonctionnement est basé, du moins au début, sur les données qui lui sont apportées. Le débat sur la partialité et l’équité de l’IA a souligné le danger inhérent à l’introduction de préjugés humains dans les bases de données. Un informaticien peut influencer la manière dont un algorithme perçoit le monde, et ajouter sa touche personnelle aux données, que ce soit par erreur ou délibérément. Les bases de données sont elles-mêmes parfois sujettes à un manque de richesse et de variété, comme dans le cadre de la reconnaissance faciale, notamment. Lors du panel sur les inégalités économiques, les participants ont débattu de l’impact de l’utilisation de l’IA sur l'intervention gouvernementale ou les décisions prises dans le secteur privé. Si les résultats de l’apprentissage machine deviennent le support de base de l’évolution des structures de la société, à tous les niveaux, une situation pourra émerger dans laquelle les groupes marginalisés souffriront des vieilles formes de discrimination, mais cette fois amplifiées par une IA émettant des jugements sur de mauvaises bases. Les considérations éthiques semblent être une nécessité pour la conception de l’IA, si l’on espère améliorer le bien commun et éviter un scénario ironique dans lequel l’aspect négatif des décisions humaines ne serait qu’amplifié.

        L’utilisation de l’IA pour le bien social introduit la question de l’accès aux bénéfices des diverses parties prenantes de la société. Les membres du panel sur l’impact de l’IA sur la société civile se sont préoccupés de la complexité du problème en lien avec la nécessité de susciter un investissement des institutions de tous niveaux, concernées par les mêmes problématiques, qu’il s’agisse d’organisations locales ou des think tanks les plus influents. Les citoyens doivent être éduqués sur les faits de l’ère digitale, afin qu’ils ou elles puissent vivre dans un monde géré par l’IA, mais doivent être aussi pourvus de moyens de télécommunications abordables qui sont le moteur du déploiement de l’IA dans la vie quotidienne. Le système légal doit s’adapter aux nouvelles réalités et permettre qu’elles restent compréhensibles à une population souhaitant conserver ses droits, et en particulier aux groupes les plus isolés sur le plan civique. Les diplomates et représentants doivent faire face aux conséquences d’une compétition accrue en recherche informatique entre les états-nations, car de nouveaux principes de relations internationales doivent être établis en réponse au fait que la stratégie d’un seul pays peut avoir un effet d’entraînement sur les autres. Si l’IA développe une influence presque universelle sur les flux qui caractérisent la société moderne, les professions non-techniques devront en maîtriser les cas d’utilisation et développer une compréhension intuitive de la technologie pour espérer atteindre leurs objectifs.

        De par sa propre nature, la recherche en intelligence artificielle dépend largement de l’interaction entre les intérêts académiques et corporatifs, comme l’ont convenu les intervenants du panel sur les pratiques d’”IA bénéfique” au sein des entreprises. Il n’est pas encore évident de deviner lequel des deux groupes a l’avantage. D’un côté, les académiciens sont responsables des avancées techniques et leurs décisions dans l’arbre de recherche déterminent ce qui est physiquement possible (ils ou elles peuvent, de plus, obtenir du financement public) ; de l’autre, les entreprises peuvent déterminer les objectifs de recherche et leur vitesse de développement à travers d’importantes incitations financières. Les cadres reconnaissent les avantages directs ou indirects de la promotion de comportements éthiques et durables en IA, d’une atmosphère de recherche sans contraintes et de la correction des problèmes sociaux qu’engendrent leurs pratiques commerciales. À l’inverse, les chercheurs sont bien conscients que le secteur privé est souvent un conduit par lequel l’innovation peut se propager rapidement, et que leurs recommandations peuvent être appliquées à large échelle. Le développement d’un système d’IA bénéfique pour la société devra passer par la coopération entre les deux sphères.

        En conclusion, l’IA ne concerne pas uniquement l’économie, la résolution de problèmes pratiques ou la responsabilité civile. Elle a un rôle à jouer dans l’évolution de la culture. Nous n’avons pas à choisir entre la sensibilité humaine et les nouvelles formes de création algorithmiques car elles peuvent s’enrichir mutuellement au lieu de rivaliser. Il n’est pas possible de savoir avec précision ce que les membres du public ont ressenti en entendant les mélodies artificielles développées par l’équipe Google Brain ou la prestation au violoncelle de Yo-Yo Ma, mais l’ambiance collective portait à croire qu’ils avaient pu entrevoir de manière convaincante ce que l’IA pouvait représenter pour l’art et l’expérience humaine. La technologie peut introduire de nouveaux concepts, en rapprochant par exemple des chercheurs en IA avec des artistes susceptibles d’y puiser de nouvelles inspirations. Elle peut également susciter des innovations rendant possibles des formes d’expression inédites. Malgré son aspect encore peu familier, l’IA peut également aider à préserver les cultures indigènes jusque-là sous représentées.

        Face à l’éventail d’expériences, il n’y a pas de leçon unique à tirer de l’atelier AI for Social Good hormis le fait que l’IA est sans doute capable d’impacter l’existence humaine sous toutes ses formes. Ce qui émerge, c’est notre conscience aiguë de notre responsabilité collective. Il nous faut nous tenir informés et prendre en considération des schémas de pensée qui nous étaient jusqu’alors étrangers. La première étape est d’évaluer les bénéfices et risques potentiels de la technologie, puis de participer activement aux débats qui s’intensifieront, sans aucun doute, lorsque nous nous confronterons aux nouvelles pratiques et menaces qui nous attendent pour la construction d’un monde meilleur.

Virgile Sylvain

Janvier 2019