Les relations entre intelligence artificielle et experts humains ou même utilisateurs « lambda » (dans le cadre des interfaces homme-machine ou de processus de ludification) proposent de nombreux avantages et ouvrent des perspectives quant à l’application de l’IA dans des domaines sensibles (médecine, justice, etc.). Ainsi, ces interactions humain-IA permettent d’améliorer les performances des algorithmes d’IA, d’aider à l’optimisation de processus complexes ou à la prise de décision consensuelle, tout en jouant un rôle important dans le développement de mécanismes de confiances envers l’IA (cf. l’Axe de recherche 2) et l’extraction de nouvelles connaissances. Il s’agit alors de mettre à disposition des explications, intelligibles par un expert du domaine d’application, au sujet des décisions et prédictions suggérées par un algorithme « boîte noire ». Toutes ces interactions peuvent se décliner sous différentes formes telles que « Human in the loop » ou «AI in the loop » ou la création de mécanismes de consensus. Ce premier axe de recherche se concentre sur ces différentes formes qui ne sont pas exclusives l’une de l’autre.
Le work package est coordonné par la Prof. Christine Decaestecker et le Dr. Alberto Franzin à l’ULB. Le 3 novembre, un kick-off meeting des activités du WP1 sur l’interaction Humain-IA a été organisé. Cette réunion, en format hybride, a vu la participation d’environ 40 chercheurs (dont 19 en présentiel), entre doctorant.es, postdocs, Principal Investigators (PIs), et chercheurs issus des CRAs.
Douze présentations ont été faites à cette occasion. Une introduction générale de ce premier axe de recherche à l’attention des chercheurs liés aux différents partenaires a été réalisée afin que tous puissent avoir une bonne compréhension des travaux attendus dans le cadre de ce work package.
Ce kick-off a également permis à des doctorant.es et postdocs de présenter leurs travaux de recherches associées au WP1, notamment l’IA explicable, l’usage d’annotations imparfaites et/ou incomplètes sur des images biomédicales, l’apprentissage actif, et d’autres aspects de l’usage de l’IA en relation avec les humains, dont le développement collaboratif de logiciels libres.
Le programme proposait aussi deux présentations invitées plus longues, sur des thèmes plus généraux et d’intérêt pour les participant.es. Une sur l’apprentissage profond en histopathologie en présence d’annotations expertes multiples, par Adrien Foucart (assistant-chercheur en dernière année de doctorat au LISA, ULB), et une sur les biais en machine learning, par Christine Decaestecker. Les participant.es ont manifesté des retours positifs sur la qualité des présentations et l’intérêt des sujets de recherche présentés.
Pour l’instant, 32 chercheurs et chercheuses ont désigné le WP1 comme leur premier domaine de recherche (cf. répartition dans le Tableau ci-dessous). Cependant, le kickoff meeting a vu aussi la participation de chercheurs et chercheuses (issu.es des universités et des CRA) dont le domaine principal de recherche relève d’autres WPs, tout en s’intéressant aussi à l’interaction humain-IA, qui est un domaine très vaste. Nous nous félicitons de l’intérêt suscité par ce domaine de recherche. La prochaine rencontre est programmée pour début 2022. Ce sera alors l’occasion pour les chercheurs et chercheuses de partager leurs travaux mais également de se pencher à nouveau sur la correspondance entre ces travaux et les sous-tâches des grands défis maintenant que la plupart d’entre eux ont été activés. Des réunions régulières seront ensuite prévues afin d’assurer une bonne synchronisation recherche/grands défis et d’accompagner les travaux, notamment des jeunes doctorants financés par ARIAC. Celles-ci se tiendront en distanciel, comodal ou présentiel lorsque les conditions sanitaires le permettent.