Difficultés de la gestion éthique des données

Keynote à Voxxa Days à Luxembourg

Video : https://www.youtube.com/watch?v=r5fwb8C0jtQ&list=PL4PrrYCV-zckBjMEzVScrs-BRCgUs2AOZ&index=2

Éthique de la recherche en apprentissage machine

La Cerna publie un rapport sur l'Éthique de la recherche en apprentissage machine

Le document complet

Le plan

• Préambule
• Composition du groupe de travail et personnalités auditionnées
• Introduction
• I. Qu’est-ce que l’apprentissage machine ?
• II. Exemples d’applications de l’apprentissage machine
• III. Questions éthiques
• IV. Les préconisations sur les systèmes apprenants en six thèmes
  • Les données des systèmes d’apprentissage
  • L’autonomie des systèmes apprenants
  • L’explicabilité des systèmes d’apprentissage et leur évaluation
  • Les décisions des systèmes d’apprentissage
  • Le consentement lors de l’apprentissage machine
  • La responsabilité dans les relations homme-machine apprenantes
• V. Contexte national et international
• VI. Conclusion
• VII. Liste des préconisations

Le préambule

Dans le numérique, le foisonnement et la rapidité de déploiement des usages issus de l’innovation contribuent à la complexité de l’interaction entre l’offre technologique et l’appropriation par la société, et réduit de ce fait la portée des prévisions scientifiques sur les conséquences de la recherche. Cette relative imprévisibilité des usages ne doit pas dédouaner les scientifiques, mais doit au contraire motiver la réflexion éthique et la recherche d’attitudes et de méthodes adaptées. En effet les chercheurs doivent avoir à l’esprit que leurs travaux contribuent de facto à transformer la société et peut-être l’Homme, comme l’ont fait beaucoup d’outils et de techniques depuis des millénaires, même si ce processus n’est pas toujours prévisible. Ainsi si l’on ne saurait attribuer aux seuls chercheurs la responsabilité de l’impact potentiel de leurs travaux, ceux-ci doivent être conscients qu’ils sont partie prenante d’une responsabilité collective. Le monde de la recherche doit organiser en son sein et d’une manière transdisciplinaire la prise en compte de la dimension éthique, et éclairer ses choix vis-à-vis de la société en contribuant aux débats publics, afin que la science demeure un facteur de progrès et que les croyances infondées et l’irrationnel ne conduisent pas à une défiance à son égard. Dans ce contexte, les réflexions de la CERNA - dont la vocation est de se prononcer sur l’éthique de la recherche en sciences et technologies du numérique - visent à inciter et aider les chercheurs à la vigilance éthique « chemin faisant » plutôt qu’à émettre des prescriptions normatives qui seraient vite obsolètes. Elles n’envisagent que des perspectives plausibles du point de vue scientifique, afin de ne pas nourrir la confusion avec ce qui relève de la science-fiction.
Conçu dans un esprit pratique en premier lieu à l'attention des chercheurs et développeurs dans le numérique, le document aborde les questions sous l'angle des sciences et technologies. Des questions de société que le concepteur doit avoir à l'esprit sont évoquées sans être approfondies. Le présent travail n'est qu'une contribution à une réflexion qui doit être plus vaste au sein du monde de la recherche, notamment avec les sciences humaines et sociales, et au niveau de la société toute entière, comme l'évoque la conclusion.

Fondation Blaise Pascal

La Fondation Blaise Pascal a pour vocation de promouvoir, soutenir, développer et pérenniser les actions de médiation scientifique en mathématiques et informatique à destination de tout citoyen.

Une ambition : réenchanter les mathématiques et l'informatique

Cette fondation a pour ambition de changer la perception de ces disciplines en donnant envie aux jeunes d'investir ces connaissances fondamentales.

La Fondation Blaise Pascal a été créée sous égide de la Fondation pour l’Université de Lyon, le 14 novembre 2016. Les fondateurs sont le CNRS et l’Université de Lyon.

La Fondation Blaise Pascal constitue la mise en oeuvre de la troisième phase du projet Cap'Maths.

--

Isabelle GUERIN-LASSOUS (Université Lyon 1) est déléguée générale

Stéphane GAUSSENT (Université Jean Monnet, Saint-Étienne) est président du conseil scientifique

J'ai l'honneur de participer à cette fondation comme président du conseil stratégique.

Vidéos de la Conférence Éthique et numérique à l'Académie des sciences

Vidéos de la conférence-débat à l'académie des sciences du

• Mardi 23 mai 2017 de 14h30 à 16h30
• Grande salle des séances de l’Institut de France
• 23, quai de Conti, 75006 Paris 

Éthique numérique ? Entre programme et apprentissage, Milad Douehi
Éthique et algorithmes, Gilles Dowek
Éthique et données, Serge Abiteboul
Éthique en apprentissage machine, Laurence Devillers

Séminaire Nasse : Algos et concurrence

SÉMINAIRE PHILIPPE NASSE
Algorithmes et concurrence
Mardi 6 juin 2017, Ministère de l’Économie et des Finances

• Serge Abiteboul, directeur de recherche à l'Institut national de recherche en  informatique et automatique (Inria), ENS Paris, membre de l’Académie des  sciences
• présentation
• Thierry Pénard, professeur d'économie à l'Université de Rennes 1 et chercheur au CREM (CNRS)
• Jérôme Philippe, économiste, avocat associé chez Freshfields Bruckhaus Deringer

Débat animé par Emmanuel Combe, Vice-Président de l’Autorité de la concurrence

Le temps des Algorithmes

 

Actualité

Traduction en chinois, 2019

Translation in English by Karen-Rae Nelson, Cambridge University Press, 2020

K-Rae Nelson, LA traductricre

flyer

Dans le cadre de La Science se livre, manifestation destinée à valoriser la culture scientifique, le Département des Hauts-de-Seine remet deux prix littéraires (adultes et adolescents) en partenariat avec l'association BiB 92, réseau de lecture publique des Hauts-de-Seine, et la Bibliothèque Nationale de France. Ils récompensent chaque année des ouvrages scientifiques destinés au grand public. Deux ouvrages ont été primés pour l'originalité des sujets abordés, la rigueur scientifique de leur contenu, et les qualités de transmission des connaissances au public.

Le temps des algorithmes a obtenu le Prix La Science se livre, 2018 catégorie "adultes" :

Sur le site des Hauts-de-Seine

Nominé

• pour le prix Le goût des sciences 2017
• pour le prix Roberval 2017, catégorie Grand Public
• pour le prix Tangente des lycéens 2018. 
  
  

   

  Pour lutter contre les fausses idées : nous sommes cités

  
  

La presse écrite parle de nous - merci 

Début de l'article de Michel Serres

• La dialectique du Maitre et du Robot, Michel Serres, Philosophie Magazine, Septembre 2017.
• Les algorithmes à notre rythme, David Larousserie, Le Monde Science et Techno, 13/02/217.
• Les algorithmes rythment nos vies, La Liberté, Suisse, 06/02/2017.
• La politique est un système où des personnes échangent des informations, et utilisent des algorithmes pour cela, Christophe Bys, L'usine digitale, 2/2/2017
• Le temps des algorithmes, Alternative économique, Christian Chavagneux, 1/2/2017
• Les algorithmes ne limitent pas notre liberté de choix, ils l'augmentent. par Annabelle Laurent, 20minutes.fr, 27/01/2017
• Qu’est-ce qu’un algorithme? par Annabelle Laurent, 20minutes.fr, 26/01/2017
• Les règles du Calcul,  Livres Hebdo, Laurent Lemire, 27/01/2017.
• Les robots sexuels voués à devenir aussi populaires que les ebooks, Clément Solym, ActuaLitté, 22/12/2016
• Avec Explore Docs, Google impose-t-il la pensée unique de l'algorithme ?  Nicolas Gary, Actua Litté, 27.01.2017
• L'apprentissage des machines se perfectionne : le probabilisme en marche, Elodie Pinguet, Actua Litté, 27
• Et si la démocratie avait un problème de bit, Xavier de La Porte, Rue 89, 14/10/2016
• Pour tout savoir sur les algorithmes, Yann Verdo, Les Échos, 16/02/2017
• Le Temps des Algorithmes, Azar Khalatbari, Sciences et Avenir, 17/02/2017
• « Le temps des algorithmes », Quels enjeux pour le travail de demain ?  Entreprise et Carrières, 7/12/2017.
• Les algorithmes au cœur de tous les enjeux numériques, Bertrand Lemaire, Le Monde Informatique, 30/01/2017 
• Le temps des algorithmes, Philosophie Magazine, 03/12 
• Faut-il vraiment avoir peur de l'intelligence artificielle ? Sylvain Rolland,  La Tribune, 17/02/2017 
• Faut-il apprendre à coder, Julie Falcoz, Forbes,  28/2/2017.
• Le temps des algorithmes, entre peurs et bienfaits, Audray Dufour, La croix, 28/2/2017.
• Le temps des algorithmes, Charles Perraguin, Philosophie Magazine, 28/02/17 
• Le mot du libraire... et son coup de cœur, Pierre Morize, librairie Liragif, Gif-sur-Yvette, La lettre des Fous de sciences, 03/2017 
• Le temps des algorithmes, L'indépendentaire, 03/2017 
• Le temps des algorithmes, La Recherche, 03/2017  
• Gilles Dowek, un maître en logique porté par le hasard, David Larousserie, Le Monde, 12/4/2017 
• Le temps des algorithmes, Science Magazine, Mai-Juillet 2017
• Il a assisté à la première démo de Google par Brin et Page, Frédérique Lemonnier, Fabernovel, Avril 2017
• Lycées, InterCDI, Mai Juin 2017 
• Les Hics du Numérique, Lectures.Cultures, mai/juin 2017 
• Comment enquêter sur les algorithmes ? Ina Global, 24/05 2017
• Le temps des algorithmes, Inter CDI (Lycées - Analyses critiques en littérature générale) Mai-Juin 2017  
• Le temps des algorithmes, La revue des questions scientifiques,   Marie  d’Udekem-Gevers (5 pages), 06/2017. 
• Le temps des algorithmes, Terminal, Jacques Vétois, 05//2017 
• Le temps des algorithmes, Pour la science, Didier Nordon, Juillet 2017 
• Découvertes, Science Magazine Août-Septembre 2017.
• Déconnectez, Blog Binaire, Août 2017.
• Prix La science se livre 2018 : la vulgarisation scientifique, sans
  vulgarité, ActuaLitté, 10/2017 
• Le prix Tangente, Tangente Education, 09/2017 
• 17E édition des Prix "La Science se Livre", vallee culture, 10/2017 
• Les algorithmes n'ont pas d'intention, EchoReseau Business, 10/2017 
• Pour une charte constitutionnelle de la robotique et des
  nouvelles technologies, Petites affiches, La loi, 10/2017 
• Sciences et philosophie 3, Evolution et Singularité, 10/17 
• Le Web : une Utopie à Défendre, Abiteboul, Dowek, Pour la Science, 10/17. 
• Le temps des algorithmes,  Critique Libre, 12/17
• Algorithmes d’enfer, The good life, Sophy Caulier, 12/17 
• Enseignants et chercheurs au temps des algorithmes,  La vie de la recherche scientifique, Abiteboul, Dowek, Hiver 2017
• Qu’est-ce que vivre au milieu des algorithmes ? nonfiction.fr, 12/17
• Le temps des algorithmes, Pour la science, hors série Big data, Février-Mars 2018
• Le temps des prix, Blog Binaire, Janvier 2018. 
• Des données et des algorithmes, L'école des parents, Jan-Mar 2018 
• Les algorithmes, entre fascination et inquiétude, übergizmo, médiathèque Anne Fontaine à Antony,  Gilles Dowek, 2/2/18 
• aussi sur Sortir à Antony, 2/2/18
• Les algorithmes sont-ils en train de pourrir notre vie ? Glamour, Lucille Quillet, 2/18
• Dowek et les algorithmes, Le Midi Libre, 3/18 
• L'informatique a transformé toutes les activités humaines, Le Magazine des Hauts de Seine, 3/18
• La transmission de pensée humaine aux machines
  Fantasme cérébral ? Ecoreseau Business, Julien Tarby, Avril-Mai 2018 
• Interactions et psychisme, Conférence des Évêques de France, 2/18
• France : des agriculteurs en champs minés, Les Échos, Philippe Mauvoisin, 12/04/2018
• Le code algorithmique au service du droit, Recueil Dalloz, Lêmy Godefroy,  12/04/2018
• Information, la révolution du doux (interview de Serge A. et Gilles D.), Philosophie Magazine, Hors série sur Michel Serre, 10/18
• Prenons garde à qui nous vendons notre attention, Serge A. et Gilles D., Le Monde Économique, 10/18 
• Brésil : le numérique fait-il du mal à la démocratie ? La Fenêtre de la Porte, France Inter, Xavier de la Porte, 10/18
• Culture Numérique, Jean Bastien, Nonfiction, 08/19 
• Le temps des algorithmes, 1Dex, Suisse, 04/20

 La radio/podcast aussi - merci 

• Nouveau monde. N'ayez pas peur des algorithmes, France Info, 30/7/17, interview de S. Abiteboul par Jérôme Colombain
• L'ère des algorithmes, BFM Business, 14/02/2017
• La tête au Carré, Mathieu Vidard, France Inter, 09/02/2017, 14:00 
• A quoi (nous) servent les algorithmes, Autour de la question, avec Caroline Lachowsky, Radio France Internationale, 23/01/2017, podcast
• Le duel des critiques, BFM Business (vidéo), 11/01/2017. 
• Et si la démocratie avait un problème de bit, Xavier de La Porte, France Culture, 14/10/2016.
• Informatique et éthique : retranscription de l’interview de Gilles Dowek et Serge Abiteboul, PodcastScience.fr, 2/12/2016.   
• Le temps des algorithmes, Aligre FM, 10/02/2017  
• Connexion cerveau-ordinateur, Rémi Salmont, RTL vous en parle déjà, 31/03/2017 
• Le temps des algorithmes, Canal académie (de l'Institut de France), 06/2017 
• Les algorithmes peuvent-ils être intelligents ou amoureux, Claude Tran, Educavox, Mai 2017 
• Les algorithmes : un outil neutre, Académie des sciences et techniques comptables et financières, avril 2007 
• ReVue D'actu, France 3 Régions, 1er Août 2017 

Citations d'articles pas en accès ouvert

• S'en saisissant, les chercheurs en informatique Serge Abiteboul et Gilles Dowek nous livrent ici un ouvrage à la portée de tous, aussi intéressant quand il retrace l'histoire de ce « premier outil à la mesure des aspirations humaines » que quand il en anticipe les développement futurs. Yann Verdo, Les Échos  
• ... nous proposent une réflexion générale sur notre époque, marquée par ces calculs qui se glissent dans tous les ordinateurs. TB. Passionnant. La Liberté. Suisse. 
• Cet ouvrage peut être lu a partir du lycée, C.M., Inter CDI 

Et aussi le Web - merci aussi - par exemple

Le mot du Libraire, Pierre Morize, La lettre des Fous de sciences, Mars à Août 2017

• Membres à la Une, Académie des Sciences, 03/2017
• Les livres de philosophie, Les livres de philosophie, 3/07
• Parution : Le temps des algorithmes, ENS Paris, 02/207
• Sortie du livre, "Le temps des algorithmes", CNRS INS2I, 23/12/2016.
• Le temps de Gilles Dowek et Serge Abiteboul, Le Blog Binaire, 27/01/2017  
• Qui parle du temps des algorithmes ?,  Pixees, 02/2017.
• Algorithmes : fantasmes, réalités et usages, Bertrand Lemaire, CIO, 27/01/2017
• La démocratie à l'heure du numérique ou "Le temps des algorithmes" , Forum du Parti Pirate, 21/11/2016
• Regard sur « Le temps des algorithmes », Interstices, 20/01/2017 
• Les informaticiens et les systèmes d'information, Le blog de Michel Volle, 24/1/2017 
• Les philosophes.fr, mai 2017
• L'empire des données,  Bibliothèque Cité des Sciences, 12/2017 
• Le temps des algorithmes, Académie des sciences, 1/2018 
• Le prix La science se livre, site de Inria, Académie des Sciences, Arcep, Blog Binaire 
• Living in the Algorithmic Age, Gilles Dowek & Serge Abiteboul, Cambridge Blog, 04/2020
• Five books on Artificial Intelligence, Forecasting AI, 04/2020

Et des présentations publiques

• Les transformations du travail et de l'économie, Séminaire "Histoire économique : État, entreprises et marchés", à l'EHESS, CRH-GrHEco, de Florence Hachez-Leroy et Laure Quennouëlle, avril 2017
•  Le Temps des Algorithmes, Les Rendez-vous de la Recherche de l'ESME Sudria, 16/2/2017
• ASDN, Le temps des algorithmes, Le Tank et Renaissance numérique,  15/03/2017
• Les algorithmes peuvent-ils être intelligents ou amoureux, Claude Tran, Educavox, Mai 2017
•  Au stand Sciences pour tous, Salon Du Livre de Paris,  25/03/201717, 15h
  

  

    puis signature au stand @Humensis
  
• Mecsi, Groupe de médiation sur le numérique, 28/03/2017 (juste Gilles Dowek)
• Conférences et débats - Paroles d'auteurs, Musée Arts et Métiers, CNAM, 6/4/2017 
• Présentation au Grand Orient de France, 6/2018
• Présentation au Ministère de l'Enseignement Supérieur et de la Recherche, 07/2018
• Présentation au Congrès de la Société de Philosophie des Sciences, 07/2018 (juste Serge) 
• Les Sciences des Livres, Médiathèque de Vincennes, 09/02/2019

Terra Data

 

Terra Data,  Valérie Peugeot et Serge Abiteboul

  flyer

Sélectionné

• pour le prix Roberval 2017, catégorie Grand Public

La presse écrite parle de nous - merci 

1. Comment maîtriser nos données numériques ? Jactive.ouest-france.fr, Anne-Flore Hervé, Octobre 2017 
2. Terra Data : qu’allons-nous faire des données numériques ? Contrepoint, Farid Gueham, Octobre 2017
3. La planète des données, Bertrand Lemaire, CIO, 26/03/2017
4. Données, Ô données, dites-moi mon avenir !, Les Echos, Jacques Henno, avril 2017. 
5. Les données numériques, un continent à explorer, Sciences et Avenir, 5/4/17
6. Terra data, nos vies à l'ère du numérique, Usine digitale, 3/4:2017
7. Terra data : tout savoir sur le big data à la Cité des Sciences à Paris !, NousVousIls, Avril 2017
8. Il a assisté à la première démo de Google par Brin et Page, Frédérique Lemonnier, Fabernovel, Avril 2017
9. Pour une utilisation responsable de la data, La gazette des communes des départements des régions, 15/21 Mai 17 
10. Voyage en Terre des Données, David Larousserie, Le Monde, Sciences et Médecine, 17/5/2017 
11. Une exposition à la Cité des Sciences, La Nouvelle République, 20/5//2017
12. Serge Abiteboul, Par delà des données, La Nouvelle République, Loir-et-Cher - Romorantin-Lanthenay, 20/5//2017  
13. Data scientist est un métier qui demande énormément de neurones, Marie Miller, Le Monde Campus 17/5/2017   
14. Des choix de société s'imposent pour l'avenir de nos données, Clémence Jost, Archimag, juin 2017
15. Maitriser les flux de données : entre performance et éthique, Dominique Herbert, Best Practices, Biblio, Juin 2017
16. Découvertes, Science Magazine Août-Septembre 2017.
17. Déconnectez, Blog Binaire, Août 2017.
18. Terra Data, EpiNet, Septembre 2017
19. Terra Data, Educavox, Septembre 2017
20. Vers un Google de l'emploi, Options, Au cœur du social, jan2018
21. Un nouveau monde, La gazette des communes, Fev 2018
22. A 50 ans, si on se souvient de toi après ta mort, c'est que t'as raté ta vie
    Stylist, mars 2018
23. Merci d'effacer vos traces avant de quitter la Terre, Slate, mars 2018
24. Terra Data, Apprendre-en-ligne.net, Didier Müller, Avril 2018
25. Big Data : les nouveaux enjeux, Tangentes, Mars-Avril 2018
26. Culture Numérique, Jean Bastien, Nonfiction, 08/19

La radio/podcast aussi - merci 

1. Autour de la question, Simon Rozé, RFI, 2/5/2017
2. Nouveau monde. N'ayez pas peur des algorithmes, France Info, 30/7/17, interview de S. Abiteboul par Jérôme Colombain 
3. ReVue D'actu, France 3 Régions, 1er Août 2017

Aussi des présentations publiques

•  Big Data : Big Science ? Big Brother, Café de la statistique, Valérie, 27/3/2017 
• Présentation au Congrès de la Société de Philosophie des Sciences, 07/2018 (juste Serge)  

Des sites de la Toile

• 3 questions à Serge Abiteboul sur Terra Data, l’exposition qui parle de « nos vies à l’ère du numérique », Laura Bernard, Inria Alumni, mai 2017. 
• Terra Data, Vecam, 05/2017

Exposition Terra Data, Nos vies à l'heure du numérique

• Cité des sciences de La Villette du 4 avril au 7 janvier 2017
• Flyer
• Vidéo de S. Abiteboul (commissaire scientifique de l'expo)
• Video de l'expo,  NousVousIls, Avril 2017

• L’exposition « Terra Data » décode pour vous le monde des données, Le Monde, 20/4/2017
• Sortiraparis 
•  Grand Angle, Sophie Bécherel, France Inter, 5/4/2017
• "Terra Data" : découverte inédite du monde des données à la Cité des Sciences, Culturebox, 5/4/2017   
• On a essayé d'effacer nos traces à l'expo « Terra Data », Annabelle Laurent, Uzbek et Rica, 5/4/2017
• Paris Match, 6/4/2017
• L'expo, Geek Junior, 5/4/2017 
• Dépêches AFP économique, AFP mondiale, RELAXNEWS, reprises par des média (notamment Le Parisien, L’Express, France 24)
• La Recherche, 17/4/2017
• Expo in the City, 17/4/2017
• France Inter, France Info, Radio Nova 
• Terra data : tout savoir sur le big data à la Cité des Sciences à Paris !, NousVousIls, Avril 2017
• Qu’est-ce que vivre au milieu des algorithmes ? nonfiction.fr, 12/17