2018-05-25 FATE: Fairness, Accountability, Transparency, and Ethics#

Le Machine Learning éthique (fairness) est un sujet qui revient sur le devant de la scène en témoigne cet article Microsoft is developing a tool to help engineers catch bias in algorithms ou celui-ci Fairness Flow: Facebook builds new system for AI neutrality. Voici quelques sites à suivre pour voir ce qu’il se passe dans le domaine :

  • FATML ou Fairness, Accountability, and Transparency in Machine Learning, ce site est une excellente source d’article scientifiques sur le sujet.

  • Data&Society, publications d’articles ou rapports comme celui-ci Fairness in Precision Medicine qui traite des biais qui peuvent survenir lorsqu’on adapte les décisions médicales en fonction des données récoltées pour une personne en particulier (precision medecine).

  • FATE, groupe de recherche sur Fairness, Accountability, Transparency, and Ethics in AI chez Microsoft

Je vous recommande toujours cette excellente conférence sur le sujet qui montre qu’il est difficile d’anticiper tous les biais.

  • How AI Designers will Dictate Our Civic Future de Latanya Sweeney, je recommande vivement cette conférence qui montre comment des biais peuvent apparaître dans un système intégrant le machine learning, il n’existe pas de façon d’éviter les biais si ce n’est en gardant constamment à l’esprit qu’ils apparaîtront quoiqu’il arrive si un système est prévu pour s’adapter au fur et à mesure. Le système apprend les biais et limite de plus en plus tout ce qui pourrait l’en faire sortir.

Enfin quelques articles :