Un plan de développement pour une IA responsable et inclusive répond à plusieurs critères. Protection de l'humain de l'IA et vice-versa, garantie de la transparence, sécurité et protection des données, plan de formation virale en IA et mise en place d'un plan national: voici cinq points à prendre en considération. Comme évoqué précédemment (voir La Vie éco du 31 mai 2019), nous allons présenter les ingrédients d'un plan de développement pour une IA responsable et inclusive. Protéger l'Humain de l'IA en protégeant l'IA de l'Humain par un cadre éthique et juridique. L'Humain n'a eu de cesse de développer les outils des plus innovants et des plus disruptifs. De nos jours, ceci est illustré par les courants transhumanistes et bioéthiques. Des «waypoints» deviennent nécessaires pour naviguer intelligemment et piloter l'IA par l'éthique et la responsabilité grâce à des lignes rouges à ne pas franchir; préserver les valeurs universelles et veiller à l'alignement de l'IA avec les besoins sociétaux et à sa cohérence avec le substrat socioculturel. Une IA utile et inclusive se doit de servir toutes les couches de la société. A l'instar des travaux sur l'automatisation en aéronautique, il faut veiller à un partage d'autorité responsable et éthique entre l'Humain et l'IA, ce qui nous évitera une automatisation aveugle, sans garde-fou. L'exemple de la voiture autonome illustre parfaitement cette interrogation : En cas d'accident, qui est responsable ? Le concepteur du programme IA, le constructeur automobile ou encore le piéton qui n'a pas su s'adapter à ces voitures autonomes ? Le refus non justifié d'un crédit par un conseiller bancaire digital est-il acceptable ou réprimandable ? Qui est responsable des préjudices causés au citoyen ? Il faut donc créer un pacte de responsabilité et d'éthique avec la définition d'un partage d'autorité entre l'Homme et la machine autonome (comme avec les drones). Il est donc nécessaire de combler le vide juridique actuel, de délimiter les responsabilités en cas de dérives de programmes d'IA, de faire que nos systèmes juridiques soient plus équitables et plus efficaces dans la gestion des risques associés aux IA. Garantir la transparence et l'explicabilité des couches basiques, celles des algorithmes, mais aussi celle des couches supérieures à forte valeur ajoutée, celles des paradigmes d'apprentissage et de l'intelligence. Les premiers risques concernent la prise de décisions (gouverner, légiférer, juger) sur la base d'algorithmes avec des risques de biais. Une IA qui recommande d'opérer un patient, ou de différer l'opération, doit expliquer sa décision. Il faut garantir l'explicabilité des décisions prises par l'IA et le droit d'accès des citoyens à ces explications de façon claire, convaincante et intelligible. Préserver la sécurité et la protection des données, leur privacy, donc celles des citoyens. Il s'agit d'une question fondamentale car elle a des conséquences sociales et économiques. Cela passe par la préservation du droit à la vie privée, la protection des données à caractère personnel, le droit à l'oubli, le droit à ne pas être profilé à son insu, la possibilité d'opposition et de recours en cas de traitements ou de décisions «arbitraires», le droit à l'explication des décisions et la création d'une nouvelle réglementation pour les algorithmes de traitement (audit des programmes d'IA). De plus en plus de citoyens, en particulier les jeunes, laissent des traces indélébiles sur la toile. Beaucoup d'entre eux ont perdu toute notion de vie privée. Impudiques, voire parfois exhibitionnistes, ils ne font plus la différence entre vie publique et vie privée. Ils trouvent un espace d'expression multimodale (écrit, voix, vidéo,...) sans précédent, accessible en mode ATAWADAC (Any Time, Any Where, Any Device, Any Content). De plus, cet espace interstitiel est captivant et flatteur d'ego (likes, notifications, nombre de vues,…). Il utilise, sur le plan relationnel et émotionnel, des nudges qui tentent de façonner les comportements (biais de consommation et de pensée). En effet, le nudge, concept bien connu en science du comportement, en théorie politique et en économie comportementale, propose un renforcement positif et des suggestions indirectes comme moyens d'influencer le comportement et la prise de décision de groupes ou d'individus. Certains de ces nudges vont jusqu'à banaliser la notion de vie privée et incitent les jeunes à exposer leurs données personnelles. Ces données constituent de véritables gisements qui seront utilisés par des processus cognitifs très sophistiqués afin de façonner et par conséquent de contrôler, à terme, des générations entières. Mettre en place un plan de formation virale en IA afin d'éviter cette nouvelle forme d'analphabétisme qui nous guette, la fracture de l'IA qui succède à la fracture numérique. Il faut donc propager l'IA de façon virale en formant les futures générations : créer un permis de l'IA, des olympiades de l'IA à l'instar des olympiades en mathématiques, des programmes de marrainage et de parrainage, des espaces de transmission intergénérationnelle, des cursus adaptés aux petites classes (8-14 ans) incluant le codage, la logique, la robotique, etc. Mettre en place un plan national de l'IA pour booster la recherche, la formation et le transfert vers les entreprises et le milieu industriel. Pour cela, des investissements importants sont nécessaires pour créer et développer des instituts d'IA inter-laboratoires et interdisciplinaires. Encourager, au sein de ces instituts, les échanges entre scientifiques académiques et industriels, citoyens, décideurs et législateurs ; encourager une culture de la confiance et de la transparence. Les instituts d'IA doivent créer une IA «bénéfique» à tous, une IA urbaine et rurale qui s'accompagne d'une formation de qualité et de pointe. Cela impliquera le développement de projets d'envergure à retombées sociétales concrètes et mesurables pour fonder une société numérique adaptée au Maroc, à l'instar de la Société 5.0 des Japonais qui a identifié cinq murs à franchir. A nous de traiter les nôtres en faveur de l'humain, de l'acceptabilité sociale, des jeunes, de l'agriculture, du climat, de l'écologie, des villes intelligentes et de la santé, sans oublier l'aérospatial et la défense. Il s'agit de maintenir les ressources des hommes, tout en optimisant la prospérité économique grâce à l'automatisation. Amal El Fallah Seghrouchni, professeure en Sorbonne Université, en délégation au CNRS
