Skip Navigation

Blast - Les algorithmes menacent-ils l'humanité ?

www.blast-info.fr Les algorithmes menacent-ils l'humanité ?

Bienvenue pour cette nouvelle masterclass de Blast animée par Lê Nguyên Hoang, chercheur en mathématiques appliquées, et en particulier en sécurité de l'intelligence artificielle et également en théorie des jeux et en théorie des scrutins. Il est aussi…

Les algorithmes menacent-ils l'humanité ?

J'espère que ça n'avait pas déjà été partagé, sinon je supprimerai. La vidéo date un peu mais elle explique bien la nocivité des algos de recommandation des réseaux sociaux. Et l'intervenant explique comment Tournesol peut aider à lutter contre cela. J'avais vu des mentions à cette plateforme faites ici sans vraiment faire l'effort de comprendre de quoi il s'agissait. Ça m'a donné envie d'approfondir le sujet.

7
7 comments
  • Et d'ailleurs, voici le lien de la vidéo sur tournesol https://tournesol.app/entities/yt:kR3JaROyKuA que j'aurais dû utiliser dans la première place !

  • Tournesol je suis franchement dubitatif quand je vois ce qui est recommandé. Pas que je sois spécialement contre, mais c'est à peu près mon flux de reco youtube "spontané", à savoir orienté à gauche/intérêt de culture générale.

    Ça me semble creuser le même genre de chambre d'écho que l'algorithme youtube pour qui a ces sensibilités, et tout simplement ne pas être regardé par les autres. Je vois pas l'amélioration.

    • @[email protected] , un avis ?

      • Je me suis permi de partager ton commentaire à l'équipe de Tournesol, voici leur réponse:

        Je vais apporte quelques éléments de réponse.

        Tournesol je suis franchement dubitatif quand je vois ce qui est recommandé. Pas que je sois spécialement contre, mais c’est à peu près mon flux de reco youtube “spontané”, à savoir orienté à gauche/intérêt de culture générale.

        Tout ne monde n'a pas ce flux de recommandations là, et la communauté pense que ces vidéos devraient être recommandées à grande échelle, pour toucher un maximum de personne. Ce qui veut dire que peu importe ton flux personnel sur YouTube, ou même les vidéos que tu compares sur Tournesol, les recommandations seront les mêmes pour tous. En ce sens, elles se veulent bénéfiques pour toutes les personnes n'ayant pas déjà vu ces vidéos, ce qui représente potentiellement (attention je fais une supposition en me basant sur le nombre de vues des vidéos) une grande partie de la population française par exemple. Je pense que Tournesol ne fait pas chambre d'écho pour tout le monde, ce qui est déjà un bon point.

        D'un autre côté, je comprends le point car Tournesol n'a pas encore flux "personnalisé" (notamment car ça nous a semblé moins prioritaire que d'autres fonctionnalités, comme la recherche sur des algorithmes plus sécurisé). Aujourd'hui tout le monde voit la même chose, avec une petite exception. Il est possible de retirer du flux de Tournesol les vidéos déjà comparées, ça peut permettre aux personnes comparant toutes les vidéos qu'ils ou elles ont vu, d'en trouver des nouvelles, mais ça reste un cas très particulier car il faut contribuer très activement sur Tournesol pour que cela fonctionne complètement.

        On ne sait pas encore à quel point on va permettre la personalisation des flux, mais on a quelques idées. Aussi, c'est important de se rappeler que les objectifs principaux de Tournesol sont la création d'algorithmes sécurisés et la construction d'une base de données de jugements humains. Contrairement à YouTube qui cherche à faire de la rétention d'utilisateur, et dont les algorithmes sont fait pour proposer des vidéos très attractives pour l'utilisateur.

        Il est vrai que les biais actuels de population sont un frein pour certains utilisateurs à rejoindre le projet

        Oui c'est quelque chose dont nous avons conscience, mais d'après moi ça ne devrait pas être un frein. Tournesol est biaisée comme le résultat d'une élection présidentielle dans laquelle seulement une partie de la population se serait déplacée. Il "suffit" sur l'autre partie se déplace pour rendre les résultats plus représentatif.

        De mon côté, si je vois des vidéos d'intérêt public qui ne sont pas sur Tournesol ça me motive à venir contribuer pour les comparer. Si au contraire je vois sur Tournesol les vidéos que je trouve d'intérêt public, alors je devrais être content aussi car je sais qu'elles seront recommandées.

        Pour le dire autrement, on s'attend à ce que Tournesol soit biaisée en faveur des vidéos d'intérêt public, et c'est la communauté qui va permettre d'identifier ces vidéos. Mettre un bulletin dans un urne, c'est faire pencher le résultat de l'élection vers ses préférences, c'est biaiser les élections vers ses préférences, et c'est une bonne chose. Tournesol ne peut pas être autre chose que biaisée par ses utilisateurs, maintenant il nous reste à attirer un maximum de personne pour augmenter la diversité des jugements.

7 comments