Le 5 juin 2019 s’est tenu dans les locaux de la société Thales le colloque co-organisé par le CEA et l’EBEN et dédié aux enjeux éthiques de l’Intelligence Artificielle (IA). Cet événement a réuni près de 70 participants et quelques-uns des chercheurs et professionnels français les plus reconnus en la matière.
L'intelligence artificielle est désormais entrée dans les entreprises, ce n’est plus un mythe mais une réalité. Simple évolution technique ou prémisses d’une révolution humaine, il est souvent difficile de se prononcer. Une seule certitude, l’intelligence artificielle soulève des enjeux complexes en matière d’éthique des affaires pour l’entreprise. Dans ce contexte, il appartient à tout directeur conformité et/ou éthique des affaires de se saisir de cette évolution.
Démystification – Non, l’intelligence artificielle n’est pas douée de conscience et ne risque pas de se transformer d’un jour à l’autre en Terminator, ce robot intelligent qui a pour mission d’assassiner les humains ! Comme les divers intervenants l’ont rappelé, le terme d’Intelligence Artificielle (IA) renvoie, plus prosaïquement, à la discipline, née lors de la conférence de Dartmouth en 1956, qui vise à modéliser et à simuler les fonctions cognitives de l’Homme. Depuis cette date, de nombreuses technologies informatiques, aujourd’hui démocratisées, reposent sur des techniques d’intelligence artificielle… C’est notamment le cas du World Wide Web, des moteurs de recherche ou encore de la reconnaissance faciale. Néanmoins, les récents progrès en matière d’IA interrogent sur la capacité de ces systèmes à respecter les exigences éthiques propres à nos sociétés.
Risques éthiques – Médecine prédictive, smart-cities, humain augmenté… Si les progrès permis par le développement des techniques d’IA restent facilement appréhendables, les risques portés par ces dernières, semblent, quant à eux, plus imprévisibles. Pourtant les technologies numériques bouleversent nos sociétés et en changent certaines composantes… Qu’est-ce que l’amitié, la réputation ou encore la confiance à l’heure des réseaux sociaux, des applications de scoring et des monnaies virtuelles ? Comment protéger la faculté au consentement et le discernement de l’utilisateur lorsque celui-ci voit sa vie rythmée par des traitements informatiques au fonctionnement opaque ? Quelle application et quelle tâche est-il pertinent de déléguer à la machine, et au contraire, lesquelles doivent rester sous contrôle humain ? Autant de questionnements que les intervenants ont souhaité mettre en lumière et qui nécessitent, de la part des responsables éthiques en entreprise, des réponses rapides.
Éthique de l’IA – Face à ces enjeux, la société civile et les entreprises se mobilisent. Ainsi, la Commission Européenne a publié en avril 2019, un rapport d’experts invitant les entreprises qui le souhaitent à mettre en œuvre et respecter plusieurs principes éthiques fondamentaux lors de la conception ou de l’usage de solutions d’IA. Bien que ce rapport ne fasse pas l’objet d’un consensus de la part des chercheurs, il permet aux entreprises d’identifier et d’imaginer, dès à présent, des solutions pour maitriser les risques éthiques qui naissent de l’IA. Code de conduite, formation à l’éthique pour les concepteurs, certification et labellisation des systèmes d’intelligence artificielle : autant de pistes à explorer pour s’assurer, dès demain, du déploiement d’une IA éthique, fiable et de confiance.
