Leo apprend de la communauté – Feedly Blog | Affiliation Center

Leo apprend de la communauté – Feedly Blog

À la suite des récents actes d’extrême brutalité et d’injustice et des manifestations de masse, nous examinons notre rôle dans la perpétuation des systèmes d’inégalité. Nous sommes responsables de notre impact en tant qu’entreprise technologique, en tant que lecteur de nouvelles et, plus précisément, en tant que développeur d’algorithmes d’apprentissage automatique pour Leo, votre assistant de recherche en IA.

L’intelligence artificielle et l’apprentissage automatique sont des outils puissants qui permettent à Leo de lire des milliers d’articles publiés chaque jour et de prioriser une sélection supérieure en fonction des sujets, des organisations et des tendances qui vous intéressent. Cependant, s’ils ne sont pas conçus intentionnellement, ces outils risquent de renforcer préjugés culturels néfastes.

Le biais se faufile dans les algorithmes d’apprentissage automatique au moyen de données d’entraînement incomplètes ou déséquilibrées. Sans s’en rendre compte, nous manquons ou surreprésentons certaines variables et l’algorithme apprend les mauvaises informations, souvent avec des résultats dangereux.

Dans le cas de Leo, nous risquons d’introduire un parti pris lorsque nous lui enseignons des sujets généraux tels que le « leadership ». Leo apprend ces sujets en trouvant des thèmes communs dans des ensembles d’articles organisés par l’équipe Feedly. Pour le sujet « leadership », Leo peut choisir des thèmes tels que de solides compétences en gestion et la création d’une culture d’équipe de soutien. Cependant, si plus d’articles sur les dirigeants masculins que féminins sont publiés ou ajoutés à l’ensemble de formation, Leo pourrait également apprendre qu’être un homme est une qualité de leadership. Le suivi des thèmes que Leo apprend est une partie essentielle de la modélisation des sujets qui nous aide à éviter de renforcer nos préjugés ou ceux de l’auteur ou de l’éditeur de l’article.

C’est à nous, en tant que développeurs, d’être délibéré et transparent sur la façon dont nous tenons compte des biais dans notre processus de formation. Dans cet esprit, nous sommes ravis de partager ce sur quoi nous travaillons pour réduire les biais à l’étape la plus cruciale : les données d’entraînement.

Casser les silos

La collaboration entre des personnes d’horizons divers nous aide à tenir compte de nos angles morts. Cependant, pour rendre cette collaboration possible, nous avons besoin d’un outil accessible. Le nouveau modeleur de sujet est cet outil – conçu pour que n’importe quel membre de la communauté Feedly puisse aider à organiser un ensemble de données pour former Leo sur des sujets qui le passionnent.

Un aperçu de l’outil de modélisation de sujet

Le modélisateur de sujet tire parti de l’interface utilisateur Feedly que nous connaissons et aimons pour permettre à plusieurs utilisateurs de rechercher des articles pour l’ensemble de formation et d’examiner les progrès d’apprentissage de Leo. Notre objectif est de nous connecter avec des experts dans divers domaines pour créer des sujets solides qui représentent l’ensemble de notre communauté, et pas seulement l’équipe d’ingénierie.

À l’épreuve : le thème de la diversité

Récemment, deux membres de l’équipe Feedly sans expérience en machine learning et qui s’intéressent aux questions de diversité ont testé le nouvel outil pour repenser notre sujet de diversité. Le résultat est un sujet riche et nuancé : plutôt que de se concentrer uniquement sur le mot à la mode « diversité », Leo recherchera des milliers de mots-clés connexes, y compris la représentation, l’inclusion, les préjugés, la discrimination, l’égalité des droits et l’intersectionnalité. Vous pouvez désormais former Leo pour suivre les progrès en matière de diversité et d’inclusion dans votre secteur et trouver des informations essentielles sur la manière de créer et de maintenir des cultures de travail et des pratiques d’embauche inclusives.

Leo donne la priorité à la diversité dans votre flux Science

Lion apprend continuellement

La modélisation de sujets n’est pas le seul moyen de collaborer. Tout utilisateur de Feedly peut aider Leo à apprendre. Lorsque Leo se trompe, vous pouvez utiliser le bouton fléché vers le bas « Moins comme ça » pour lui faire savoir qu’un article auquel il a donné la priorité ne concerne pas un sujet particulier.

Leo sollicitera également vos commentaires occasionnellement via une invite en haut d’un article. Si vous voyez « Cet article concerne-t-il [topic]?, » faites lui savoir! Vos commentaires sont intégrés à l’ensemble d’entraînement de Leo pour combler les lacunes que nous avons manquées et renforcer sa compréhension.

Vos commentaires aident à affiner la compréhension de Leo

Rejoignez le mouvement

Au-delà des commentaires dans l’application, n’hésitez pas à nous contacter par e-mail ou à rejoindre le canal Feedly Community Slack, surtout si vous avez un sujet à aborder pour Leo. C’est la pointe de l’iceberg lorsqu’il s’agit d’aborder et de démanteler les préjugés systémiques. Nous prenons au sérieux notre rôle de médiateurs de contenu et savons que nous sommes redevables à ceux qui se sont battus pendant si longtemps pour attirer notre attention sur ces problèmes. Léo écoute et apprend.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.