mardi 16 octobre 2018

Un robot dans la robe des juges

Les algorithmes exécutés par des ordinateurs sont entrés dans nos vies : ils nous conseillent des films, nous proposent des chemins pour nous rendre à notre prochain rendez-vous... Bientôt, ils conduiront nos voitures ou nous permettront de rester chez nous dans notre quatrième âge. En prenant autant d'importance, ils soulèvent des questionnements, des inquiétudes. Prenons un exemple frappant dans un domaine régalien, la justice. Aux États-Unis, le logiciel Compas assiste les juges pour décider de libérations conditionnelles, en évaluant le risque de possibles récidives - la décision de remise en liberté est strictement liée à la probabilité de récidive. L'algorithme assiste, mais ne décide pas. Oui, mais un juge aura-t-il le courage, ou la légèreté, de remettre un condamné en liberté contre l'avis du logiciel si l'on peut prouver que l'algorithme fait statistiquement de meilleures prédictions que les juges ?

La question est philosophique : y a-t-il des tâches de telles natures que les confier à des machines nous ferait perdre une part de notre humanité, des tâches qu'il faut leur interdire même si elles les réalisent mieux que nous ? Nous ne répondrons pas à cette question, mais relativisons son importance aujourd'hui. Si les algorithmes deviennent de plus en plus intelligents, ils sont loin de pouvoir, par exemple, remplacer les juges dans des cas encore plus complexes que celui de la libération conditionnelle aux États-Unis. Quand des algorithmes participent à la vie de la cité se pose également la question de leur responsabilité. Revenons sur le logiciel Compas. Il présente sur un juge l'avantage d'une certaine cohérence. Il a été montré notamment que les décisions des juges sont dépendantes de l'heure ; il vaut mieux passer après le repas qu'avant. Et celles des cours de justice, par exemple aux prud'hommes, varient énormément d'une chambre à une autre. Pas de cela avec les algorithmes ! Ils peuvent garantir une certaine cohérence.

Nous pourrions également espérer qu'ils soient plus « justes », qu'ils ne discriminent pas suivant les origines ethniques, le genre... Pourtant, des journalistes ont évalué les prédictions de Compas et découvert qu'il surestimait largement les risques de récidives des condamnés noirs. Des informaticiens racistes ? Pas vraiment, mais on ne sait pas écrire un algorithme qui prédise les récidives - la question est trop complexe. Alors on utilise un algorithme d'apprentissage automatique. On lui apprend le travail à réaliser en l'entraînant sur un grand volume de données de décisions de juges, à imiter des humains. Ce sont ces décisions, qui présentaient des biais raciaux, que Compas a reproduites. Il faut avoir conscience des problèmes que l'utilisation de programmes informatiques peut soulever, vérifier ces programmes et les données qui sont utilisées pour les « entraîner », surveiller leurs résultats.

Notre exemple nous a permis d'insister sur un aspect essentiel de la responsabilité : l'absence de biais, l'équité. La transparence en est un autre. Nous pouvons, par exemple, nous inquiéter de ce que Facebook fait de nos données personnelles dans une relative opacité. Nous pourrions aussi parler de la loyauté : faut-il accepter un service qui propose des restaurants en disant ne tenir compte que des avis de consommateurs et qui remonte en réalité dans sa liste de résultats les commerçants qui paient pour ça ? La responsabilité sociétale des algorithmes a nombre de facettes.

Les algorithmes peuvent nous permettre d'améliorer nos vies. Il faut corriger leurs défauts, combattre leurs biais inacceptables. Il peut s'avérer difficile de vérifier, d'expliquer leurs choix, s'ils proviennent de statistiques mettant en jeu des milliards d'opérations ou s'ils se basent sur des motifs complexes découverts par des algorithmes d'apprentissage. Pourtant, notre incompétence ne peut pas servir de justification pour autoriser le viol de principes moraux. Quand les effets des décisions sont sérieux, comme garder une personne incarcérée, sans doute vaut-il mieux attendre d'être certain du fonctionnement de l'algorithme, exiger qu'il explique ses choix et, bien sûr, faut-il pouvoir les contester.

Serge Abiteboul, Inria et ENS, Paris

Cet article est paru dans Le magazine La Recherche, N°531 • Janvier 2018

Le bot qui murmurait à l'oreille de la vieille dame




ça y est, le livre est publié par Le Pommier (octobre 2018)
disponible dans toutes les bonnes librairies
et bientôt en version électronique

La page du livre sur Le slow blog

La Poste, L'Oréal, Filfocs et Theconversation

9 octobre : IA @ La Poste, panel sur Données et IA

8 octobre : Prix L'Oréal-UNESCO Pour les Femmes et la Science, participation au jury et à la remise du prix

4 octobre : 7th French-Israeli Workshop on Foundations of Computer Science, présentation : Explanations and Transparency in Collaborative Workflows

2 octobre : soirée anniversaire de theconversation.fr

mercredi 5 septembre 2018

Internet : neutre mais pas trop ? sur France Q

Participation à La Méthode scientifique par Nicolas Martin, sur France Culture, 5 septembre 2018

Le podcast 

avec Benjamin Bayart, président de l’association Fonds de Défense de la Neutralité du Net, et co-fondateur de la Quadrature du Net.


Le titre du jour : Get off the Internet par Le Tigre

Micro 18 @ Neuchâtel, Suisse

keynote : Terra Data

1 septembre 2018 à Neuchâtel

mercredi 1 août 2018

Ils encouragent l'inculture du numérique


En juillet 2018, l’Assemblée Nationale a voté un article de loi qui « interdit, sauf disposition dérogatoire au règlement intérieur, l’usage des téléphones mobiles et autres moyens de communications dans les écoles et collèges de France ». On croit rêver ! Le problème en France tient, à mon avis, bien moins en une prétendue trop grande exposition au numérique des jeunes que dans la sous-exposition d’une part massive de la population, y compris ces mêmes jeunes. Le vrai sujet en France est l’éducation et la formation de tous à l’informatique et au numérique, à commencer par les millions de gosses qui en auraient besoin. 

mardi 10 juillet 2018

Pourquoi Internet doit rester neutre

Dans Libé et le Journal du CNRS : https://lejournal.cnrs.fr/billets/pourquoi-internet-doit-rester-neutre


 

En anglais : 
https://news.cnrs.fr/opinions/why-the-internet-must-remain-neutral

et dans une chronique du Monde (que pour les abonnés)


Assistants vocaux : « Nous ne pouvons confier nos vies à des machines »

Assistants vocaux : « Nous ne pouvons confier nos vies à des machines »

LE MONDE ECONOMIE | 26 juin 2018
Les logiciels dont nous disposons exigent, pour fonctionner, des volumes massifs de conversations, et donc de données personnelles, en particulier pour offrir des services personnalisés. ...Dans des pays totalitaires, cela représente des risques pour les citoyens, explique dans sa chronique...
« Exigeons que les informations publiées soient accompagnées de métadonnées »

« Exigeons que les informations publiées soient accompagnées de métadonnées »

LE MONDE | 3 avril 2018
Dans cette chronique, le chercheur en informatique Serge Abitboul, déplorant la viralité des « bobards » sur la Toile, milite pour que soit attaché à chaque information circulant sur le Web une origine....Transformations. Régulièrement, dans le monde du numérique, un nouveau terme s’impose, qui n’a...

mardi 3 juillet 2018

Congrés de philosophie des sciences à Nantes, et autres


4 juillet : Le temps des algorithmes, avec Gilles Dowek, RDV de midi DGESIP/DGRI, Ministère de l'Enseignement Supérieur et de la Recherche

4 juillet : Éducation et informatique, Apéro Tip Top CGénial, au lycée Chaptal, Paris

6 juillet : Les sciences questionnées par le numérique, 7ème Congrès de la Société de Philosophie des Sciences, Nantes

9 juillet : Reporters sans frontières

vendredi 29 juin 2018

Le bot qui murmurait à l'oreille de la vieille dame et autres nouvelles numériques

Annonce dans Livre Hebdo n° 1189 de juin 2018 de la parution en octobre de ce nouveau texte, un recueil de nouvelles de science-fiction :


mercredi 20 juin 2018

Un mois de juin bien varié en thématiques

6 juin : participation à la table ronde organisée par Isoc France, "Neutralité partout, pour tous" modérée par Lucien Castex avec (membre de l'assemblée nationale, et

12 juin : participation au Jury Bourses France L'Oréal-UNESCO Pour les Femmes et la Science. Des dossiers de jeunes femmes scientifiques brillantes.

14 juin : participation à un panel super sympa sur l'IA modéré par Tristan Nitot avec Roberto Di Cosmo (Software Heritage) et Sylvain Peuronnet. Pour l'anniversaire de Qwant.

18 juin : audition au Conseil de développement de la Métropole du Grand Paris sur la ville agile (smart city) ; avec une amie, Sophie Pène (Professeur en sciences de l'information à l'Univ. Paris Descartes)

20 juin : sur France Culture,  "l'éducation au codage et au numérique" dans l'émission, La méthode scientifique, avec Sophie de Quatrebarbes et Marine Roche (Passe ton code d’abord !)
21 juin : Economic Ideas Forum, Paris, participation au panel "The New Digital Economy and Ecosystem" avec Martin Bailey, (DG Connect, European Commission) et Gérard Pogorel (Professor of Economics and Management, Telecom ParisTech)

22 juin : CEA Saclay, invité par Alexei Grinbaum, présentation à l'Atelier LARSIM-ESNT, "What is (the) observable ?" (je vais parler d'analyse éthique de données)

jeudi 31 mai 2018

Visite à Hasselt, Belgique

30 mai : l'Université de Hasselt m'a décerné un Doctorat Honoris Causa
(je sais : c'est un peu ringard. Mais c'était sympa.)

Jarige UHasselt reikt 7 eredoctoraten uit

31 mai : à cette occasion, un Mini-Symposium, Big Data: Science, Industry, People
  • keynote sur Ethical data analysis

dimanche 27 mai 2018

Fête des libertés numériques : atelier Mes données (2)


Proposé avec Antoine Amarilli, David Montoya, et Fabian Suchanek

Pour ceux qui n'ont pas pu venir :

Le matériel pour l'atelier Mes données
  • Récupérer mes données de Facebook et Google
  • Effacer l’historique de navigation sur Google
  • Récupérer sa géolocalisation avec GPSLogger
  • Récupérer ses données avec l’outil Cozy
  • Utiliser Signal vs. SMS/WhatsApp
  • Dégooglisons avec Framasoft
  • Tor browser
  • Comment sécuriser mes données avec des backups
  • Bien choisir ses mots de passe
  • Comment garder ses mots de passe Garder ses mots de passe Lastpass 

Terra Data,   Serge Abiteboul et Valérie Peugeot



jeudi 24 mai 2018

Fête des libertés numériques : atelier Mes données

Atelier mes données

Le 25/05/2018
Horaires : 14h à 15h et de 15h à 16h
Lieu : Maison du Libre et des Communs - 226 rue Saint-Denis 75002 Paris
Atelier mes données à la Maison du Libre et des Communs. L’idée est de découvrir quelles données les services que nous utilisons ont de nous. Des exercices permettront de voir comment récupérer ses données de Lire la suite…

Jaine : Quelle culture numérique pour tous au 21ème siècle ?


JAINE-ac@rt 2018, l'innovation pédagogique et la créativité numérique se donnent rendez-vous à La Halle de la Villette le 23 mai 2018
conférences: quelle culture numérique pour tous au 21ème siècle ?
Serge ABITEBOUL, directeur de recherche à l'Inria et Thibaud HULIN, maître de conférences à Dijon et chercheur au CIMEOS

lundi 14 mai 2018

Données et éthique

Conférence-débat - Les enjeux scientifiques de l'éthique du numérique - Académie des sciences - Paris - Mai 2017

Texte de ma présentation sur Données et éthique

lundi 16 avril 2018

Ethical data management @ CIA

16 April 2018: Keynote on Ethical data management at the International Conference on Data Engineering, CNAM, Paris, Context in Analytics Workshop

mercredi 4 avril 2018

La chasse aux bobards

« Exigeons que les informations publiées soient accompagnées de métadonnées »

Dans cette chronique, le chercheur en informatique Serge Abitboul, déplorant la viralité des « bobards » sur la Toile, milite pour que soit attaché à chaque information circulant sur le Web une origine.
LE MONDE économie  |

dimanche 18 mars 2018

Galalithe

En vente chez Lulu.com en format Papier (12.32 euros)
Électronique (gratuit)

 

mardi 13 mars 2018

Agenda

28 février : audition au sénat pour la loi sur la protection des données personnelles
1 mars :  conseil stratégique de la Fondation Blaise Pascal à Lyon
10 mars : panel aux 3èmes états généraux du numérique du Parti communiste 
13 mars : participation au coding apéro à l'assemblée nationale
17 mars : conférence au Salon du livre
23 mars : présentation au Grand Barouf du Numérique à Lille
24 mars : panel à l'Université de la Paix à la Cité internationale de Paris
29 mars : jury du prix étudiant de la Fondation Sopra Steria
  • vidéo
  • présentation sur Ethical Issues in Data Management

vendredi 26 janvier 2018

Le temps des Algorithmes : Prix La Science se livre 2018

17e édition des prix La Science se livre

Dans le cadre de La Science se livre, manifestation destinée à valoriser la culture scientifique, le Département des Hauts-de-Seine remet deux prix littéraires (adultes et adolescents) en partenariat avec l'association BiB 92, réseau de lecture publique des Hauts-de-Seine, et la Bibliothèque Nationale de France. Ils récompensent chaque année des ouvrages scientifiques destinés au grand public. Deux ouvrages ont été primés pour l'originalité des sujets abordés, la rigueur scientifique de leur contenu, et les qualités de transmission des connaissances au public.

À la clé : une dotation du Département de 3 500 euros pour chaque prix, afin d'encourager les auteurs dans leurs démarches de vulgarisation scientifique, et un soutien à la diffusion par le Département des Hauts-de-Seine dans les bibliothèques et médiathèques, ainsi que dans les collèges alto-séquanais.

Le lauréat 2018, Prix La Science se livre catégorie "adultes" :


Le temps des algorithmes - Serge Abiteboul et Gilles Dowek - Éditions Le Pommier

Sur le site des Hauts-de-Seine

IA, numérique: quelle école ?

IA, numérique: quelle école pour préparer aux mutations profondes et rapides du travail?

Jeudi 25 janvier 2018 de 17H30 à 20H
Grande salle des séances 
A l’Institut de France – 23, quai de Conti, Paris 6e

...
 
17H40-18H35 Table-ronde modérée par David GROISON, Rédacteur en chef de Phosphore magazine et Directeur des publics +12 ans Bayard Jeunesse
  • Laurent ALEXANDRE, essayiste (« La guerre des intelligences » Ed. JC Lattès) et cofondateur du site Doctissimo
  • David BESSIS, Fondateur & Président de Tinyclues
  • Marie-Claire CARRERE-GEE, Présidente du Conseil d’Orientation pour l’Emploi
  • Alexandre PHAM, co-Président d’Alphyr, membre du comité directeur de CroissancePlus
  • Laurent STEFANI, Directeur général, Intelligence Artificielle d’Accenture
18H35-18H45  Grand témoin, Serge ABITEBOUL, membre de l’Institut (Académie des Sciences)

...

Je n'avais jamais été Grand Témoin et je ne sais toujours pas trop ce qu'on attendait de moi.

J'avoue que je me suis trouvé très en décalage avec la Table-ronde sur un sujet : l'enseignement de l'informatique. Vision très française tournée vers l'apprentissage du code seulement pour les futurs développeurs. On est vraiment à l'ouest : c'est l'informatique en général, notamment le code mais aussi d'autres choses comme la pensée informatique qu'il faut apprendre à tous et pas seulement aux enfants des milieux favorisés, ou aux futurs développeurs.  Je me suis trouvé à être un trublion en défendant un point de vue assez général dans certains pays développés, et encore plus dans des pays en développements.

mardi 16 janvier 2018

@ L'Arcep



Le président de l’Assemblée nationale, François de Rugy, a nommé le 12 janvier 2018, Serge ABITEBOUL comme membre du collège de l’Arcep à compter du 15 janvier 2018.

Directeur de recherche en informatique à l’Ecole Normale Supérieure de Paris et à Inria (Institut National de Recherche en Informatique et Automatique), Serge ABITEBOUL est titulaire d’un doctorat de l'Université de Californie du Sud, et d’une thèse d'État de l'Université de Paris-Sud. Ses travaux sur les données, la gestion de l’information et des connaissances - notamment sur internet -, et ses théories sur les bases de données, l’ont conduit à être désigné membre de l'Académie des sciences en 2008, et de l'académie Europae en 2011.

Il a aussi été Maître de conférences à l'École polytechnique, et professeur invité à Stanford et Oxford University. En 2011, il est désigné titulaire de la Chaire Informatique et science numérique au Collège de France. En 2013, il rejoint le Conseil national du numérique, présidé par Benoît Thieulin, et prend la même année la présidence du Conseil scientifique de la Société d'Informatique de France. Depuis 2017, il préside le Conseil Stratégique de la Fondation Blaise Pascal.

Auteur de nombreuses publications sur la donnée, les algorithmes, mais aussi de romans, Serge ABITEBOUL est éditeur et fondateur du Blog binaire. Il a été commissaire de l'exposition Terra Data à la Cité des sciences et de l'industrie en 2017 et 2018.

Serge ABITEBOUL succède à Jacques STERN dont le mandat de membre du collège de l'Arcep est arrivé à son terme. L’Arcep salue la contribution précieuse de Jacques STERN aux travaux de l’Autorité.

mardi 9 janvier 2018

L'expo Terra Data a fermé

Le chiffre officiel de la fréquentation : 164 000 visiteurs.

Bravo Françoise Vallas et Pierre Duconseille, les deux Commissaires d'Expo.

J'ai pris énormément de plaisir, comme Commissaire scientifique, à bosser pour eux.