De plus en plus, on a le sentiment que tout ce qui compte est sur le web et devrait \u00eatre accessible par la recherche1<\/sup>. Comme le dit LM Hinman, \u201cEsse est indicato in Google\" (\u00eatre, c'est \u00eatre index\u00e9 sur Google). Comme il le fait \u00e9galement remarquer, \u201cles citoyens d'une d\u00e9mocratie ne peuvent prendre de d\u00e9cisions \u00e9clair\u00e9es sans avoir acc\u00e8s \u00e0 des informations fiables.\u201d2,3<\/sup>. Si la d\u00e9mocratie repose sur le libre acc\u00e8s \u00e0 des informations non distordues, les moteurs de recherche ont une incidence directe sur le degr\u00e9 de d\u00e9mocratie de nos pays. Leur r\u00f4le de gardiens du savoir est en conflit direct avec leur nature d'entreprises priv\u00e9es dont les revenus d\u00e9pendent des publicit\u00e9s. Par cons\u00e9quent, pour le bien d'une soci\u00e9t\u00e9 libre, nous devons exiger la responsabilit\u00e9 des moteurs de recherche et la transparence dans le fonctionnement de leurs algorithmes2<\/sup>.<\/p>\n\n Les syst\u00e8mes qui recommandent du contenu en fonction des profils des utilisateurs, y compris les moteurs de recherche, peuvent isoler les utilisateurs de l'exposition \u00e0 des points de vue diff\u00e9rents. En alimentant le contenu que l'utilisateur aime, ils cr\u00e9ent des biais auto-renforc\u00e9s et des \"bulles de filtre\"2,4<\/sup>. Ces bulles, cr\u00e9\u00e9es lorsque les connaissances nouvellement acquises sont bas\u00e9es sur les int\u00e9r\u00eats et les activit\u00e9s pass\u00e9s5<\/sup>, cimentent les biais comme des bases solides de la connaissance. Cela peut devenir particuli\u00e8rement dangereux lorsqu'il est utilis\u00e9 avec des esprits jeunes et impressionnables. Ainsi, les discussions ouvertes avec les autres \u00e9l\u00e8ves et les enseignants ainsi que les activit\u00e9s d'apprentissage collaboratives devraient \u00eatre encourag\u00e9es en classe.<\/p>\n\n Les moteurs de recherche, comme d'autres syst\u00e8mes de recommandation, pr\u00e9disent ce qui va int\u00e9resser l'utilisateur. Ensuite, lorsque l'utilisateur clique sur ce qui a \u00e9t\u00e9 recommand\u00e9, ils le prennent comme un retour positif. Cette r\u00e9troaction influe sur les liens qui seront affich\u00e9s \u00e0 l'avenir. Si un utilisateur a cliqu\u00e9 sur le premier lien affich\u00e9, est-ce parce qu'il l'a trouv\u00e9 pertinent ou est-ce simplement parce que c'\u00e9tait le premier r\u00e9sultat et donc plus facile \u00e0 choisir ?<\/p>\n La r\u00e9troaction implicite est d\u00e9licate \u00e0 interpr\u00e9ter. Lorsque les pr\u00e9dictions sont bas\u00e9es sur une mauvaise interpr\u00e9tation, les effets sont encore plus d\u00e9licats \u00e0 pr\u00e9voir. Lorsque des r\u00e9sultats d'une certaine nature sont affich\u00e9s de mani\u00e8re r\u00e9p\u00e9t\u00e9e - et sont la seule chose que l'utilisateur arrive \u00e0 voir - cela peut m\u00eame finir par changer ce que l'utilisateur aime et n'aime pas : le cas de la pr\u00e9diction autor\u00e9alisatrice.<\/p>\n Dans une ville des \u00c9tats-Unis, un syst\u00e8me de police pr\u00e9dictive a \u00e9t\u00e9 lanc\u00e9 : le syst\u00e8me indique les zones d'une ville qui pr\u00e9sentent un risque \u00e9lev\u00e9 de criminalit\u00e9. Cela signifie que davantage d'agents de police sont d\u00e9ploy\u00e9s dans ces zones. Comme ces agents savaient que la zone \u00e9tait \u00e0 haut risque, ils ont \u00e9t\u00e9 tr\u00e8s prudents et ont contr\u00f4l\u00e9, fouill\u00e9 ou arr\u00eat\u00e9 plus de personnes qu'ils ne l'auraient fait normalement. Les arrestations ont donc valid\u00e9 la pr\u00e9diction, m\u00eame si celle-ci \u00e9tait biais\u00e9e au d\u00e9part. De plus, les arrestations \u00e9taient des donn\u00e9es pour des pr\u00e9dictions futures sur les m\u00eames zones et sur des zones similaires, aggravant les biais au fil du temps5<\/sup>.<\/p>\n Nous utilisons des syst\u00e8mes de pr\u00e9diction afin de pouvoir agir sur les pr\u00e9dictions. Mais agir sur des pr\u00e9dictions biais\u00e9es, affecte les r\u00e9sultats futurs, les personnes impliqu\u00e9es et donc la soci\u00e9t\u00e9 elle-m\u00eame. \"En tant qu'effet secondaire de la r\u00e9alisation de son objectif de r\u00e9cup\u00e9ration d'informations pertinentes, un moteur de recherche changera n\u00e9cessairement la chose m\u00eame qu'il vise \u00e0 mesurer, trier et classer. De m\u00eame, la plupart des syst\u00e8mes d'apprentissage automatique affecteront les ph\u00e9nom\u00e8nes qu'ils pr\u00e9disent.\"5<\/sup><\/p>\n\n Il y a une pr\u00e9valence croissante de fake news<\/em> (faux r\u00e9cits qui apparaissent comme des actualit\u00e9s) dans les forums en ligne, les sites de m\u00e9dias sociaux et les blogs, tous accessibles aux \u00e9tudiants par la recherche. De petits groupes focalis\u00e9s peuvent faire grimper les notes pour des vid\u00e9os et des sites Web sp\u00e9cifiques au contenu extr\u00eame. Cela accro\u00eet la popularit\u00e9 du contenu et son apparence d'authenticit\u00e9, en jouant avec les algorithmes de classement4<\/sup>. Pourtant, \u00e0 ce jour, aucune politique claire et explicite n'a \u00e9t\u00e9 adopt\u00e9e par les moteurs de recherche pour contr\u00f4ler les fake news<\/em>2<\/sup>.<\/p>\n D'autre part, les moteurs de recherche excluent syst\u00e9matiquement certains sites et certains types de sites au profit d'autres6<\/sup>. Ils censurent le contenu de certains auteurs, bien qu'ils ne soient pas s\u00e9lectionn\u00e9s par le public pour une telle t\u00e2che. Par cons\u00e9quent, ils doivent \u00eatre utilis\u00e9s avec conscience et discernement.<\/p>\n\n\n 1\u00a0<\/sup>Hillis, K., Petit, M., Jarrett, K., Google and the Culture of Search, <\/em>Routledge Taylor and Francis, 2013.<\/p>\n 2<\/sup>\u00a0Tavani, H., Zimmer, M., Search Engines and Ethics<\/a><\/em>, The Stanford Encyclopedia of Philosophy, Fall 2020 Edition), Edward N. Zalta (ed.).<\/p>\n 3 <\/sup>Hinman, L. M., Esse Est Indicato in Google: Ethical and Political Issues in Search Engines<\/em>, International Review of Information Ethics, 3: 19\u201325, 2005.<\/p>\n 4 <\/sup>Milano, S., Taddeo, M., Floridi, L. Recommender systems and their ethical challenges<\/a><\/em>, AI & Soc<\/i> 35, 957\u2013967, 2020.<\/p>\n 5 <\/sup>Barocas, S.,\u00a0 Hardt, M., Narayanan, A., Fairness and machine learning Limitations and Opportunities<\/a>, <\/em>\u00e0 paraitre.<\/p>\n 6 <\/sup>Introna, L. and Nissenbaum, H., Shaping the Web: Why The Politics of Search Engines Matters<\/em>, The Information Society, 16(3): 169\u2013185, 2000.<\/p>","rendered":" De plus en plus, on a le sentiment que tout ce qui compte est sur le web et devrait \u00eatre accessible par la recherche1<\/sup>. Comme le dit LM Hinman, \u201cEsse est indicato in Google\u00a0\u00bb (\u00eatre, c’est \u00eatre index\u00e9 sur Google). Comme il le fait \u00e9galement remarquer, \u201cles citoyens d’une d\u00e9mocratie ne peuvent prendre de d\u00e9cisions \u00e9clair\u00e9es sans avoir acc\u00e8s \u00e0 des informations fiables.\u201d2,3<\/sup>. Si la d\u00e9mocratie repose sur le libre acc\u00e8s \u00e0 des informations non distordues, les moteurs de recherche ont une incidence directe sur le degr\u00e9 de d\u00e9mocratie de nos pays. Leur r\u00f4le de gardiens du savoir est en conflit direct avec leur nature d’entreprises priv\u00e9es dont les revenus d\u00e9pendent des publicit\u00e9s. Par cons\u00e9quent, pour le bien d’une soci\u00e9t\u00e9 libre, nous devons exiger la responsabilit\u00e9 des moteurs de recherche et la transparence dans le fonctionnement de leurs algorithmes2<\/sup>.<\/p>\n Les syst\u00e8mes qui recommandent du contenu en fonction des profils des utilisateurs, y compris les moteurs de recherche, peuvent isoler les utilisateurs de l’exposition \u00e0 des points de vue diff\u00e9rents. En alimentant le contenu que l’utilisateur aime, ils cr\u00e9ent des biais auto-renforc\u00e9s et des \u00ab\u00a0bulles de filtre\u00ab\u00a02,4<\/sup>. Ces bulles, cr\u00e9\u00e9es lorsque les connaissances nouvellement acquises sont bas\u00e9es sur les int\u00e9r\u00eats et les activit\u00e9s pass\u00e9s5<\/sup>, cimentent les biais comme des bases solides de la connaissance. Cela peut devenir particuli\u00e8rement dangereux lorsqu’il est utilis\u00e9 avec des esprits jeunes et impressionnables. Ainsi, les discussions ouvertes avec les autres \u00e9l\u00e8ves et les enseignants ainsi que les activit\u00e9s d’apprentissage collaboratives devraient \u00eatre encourag\u00e9es en classe.<\/p>\n Les moteurs de recherche, comme d’autres syst\u00e8mes de recommandation, pr\u00e9disent ce qui va int\u00e9resser l’utilisateur. Ensuite, lorsque l’utilisateur clique sur ce qui a \u00e9t\u00e9 recommand\u00e9, ils le prennent comme un retour positif. Cette r\u00e9troaction influe sur les liens qui seront affich\u00e9s \u00e0 l’avenir. Si un utilisateur a cliqu\u00e9 sur le premier lien affich\u00e9, est-ce parce qu’il l’a trouv\u00e9 pertinent ou est-ce simplement parce que c’\u00e9tait le premier r\u00e9sultat et donc plus facile \u00e0 choisir ?<\/p>\n La r\u00e9troaction implicite est d\u00e9licate \u00e0 interpr\u00e9ter. Lorsque les pr\u00e9dictions sont bas\u00e9es sur une mauvaise interpr\u00e9tation, les effets sont encore plus d\u00e9licats \u00e0 pr\u00e9voir. Lorsque des r\u00e9sultats d’une certaine nature sont affich\u00e9s de mani\u00e8re r\u00e9p\u00e9t\u00e9e – et sont la seule chose que l’utilisateur arrive \u00e0 voir – cela peut m\u00eame finir par changer ce que l’utilisateur aime et n’aime pas : le cas de la pr\u00e9diction autor\u00e9alisatrice.<\/p>\n Dans une ville des \u00c9tats-Unis, un syst\u00e8me de police pr\u00e9dictive a \u00e9t\u00e9 lanc\u00e9 : le syst\u00e8me indique les zones d’une ville qui pr\u00e9sentent un risque \u00e9lev\u00e9 de criminalit\u00e9. Cela signifie que davantage d’agents de police sont d\u00e9ploy\u00e9s dans ces zones. Comme ces agents savaient que la zone \u00e9tait \u00e0 haut risque, ils ont \u00e9t\u00e9 tr\u00e8s prudents et ont contr\u00f4l\u00e9, fouill\u00e9 ou arr\u00eat\u00e9 plus de personnes qu’ils ne l’auraient fait normalement. Les arrestations ont donc valid\u00e9 la pr\u00e9diction, m\u00eame si celle-ci \u00e9tait biais\u00e9e au d\u00e9part. De plus, les arrestations \u00e9taient des donn\u00e9es pour des pr\u00e9dictions futures sur les m\u00eames zones et sur des zones similaires, aggravant les biais au fil du temps5<\/sup>.<\/p>\n Nous utilisons des syst\u00e8mes de pr\u00e9diction afin de pouvoir agir sur les pr\u00e9dictions. Mais agir sur des pr\u00e9dictions biais\u00e9es, affecte les r\u00e9sultats futurs, les personnes impliqu\u00e9es et donc la soci\u00e9t\u00e9 elle-m\u00eame. \u00ab\u00a0En tant qu’effet secondaire de la r\u00e9alisation de son objectif de r\u00e9cup\u00e9ration d’informations pertinentes, un moteur de recherche changera n\u00e9cessairement la chose m\u00eame qu’il vise \u00e0 mesurer, trier et classer. De m\u00eame, la plupart des syst\u00e8mes d’apprentissage automatique affecteront les ph\u00e9nom\u00e8nes qu’ils pr\u00e9disent.\u00a0\u00bb5<\/sup><\/p>\n Il y a une pr\u00e9valence croissante de fake news<\/em> (faux r\u00e9cits qui apparaissent comme des actualit\u00e9s) dans les forums en ligne, les sites de m\u00e9dias sociaux et les blogs, tous accessibles aux \u00e9tudiants par la recherche. De petits groupes focalis\u00e9s peuvent faire grimper les notes pour des vid\u00e9os et des sites Web sp\u00e9cifiques au contenu extr\u00eame. Cela accro\u00eet la popularit\u00e9 du contenu et son apparence d’authenticit\u00e9, en jouant avec les algorithmes de classement4<\/sup>. Pourtant, \u00e0 ce jour, aucune politique claire et explicite n’a \u00e9t\u00e9 adopt\u00e9e par les moteurs de recherche pour contr\u00f4ler les fake news<\/em>2<\/sup>.<\/p>\n D’autre part, les moteurs de recherche excluent syst\u00e9matiquement certains sites et certains types de sites au profit d’autres6<\/sup>. Ils censurent le contenu de certains auteurs, bien qu’ils ne soient pas s\u00e9lectionn\u00e9s par le public pour une telle t\u00e2che. Par cons\u00e9quent, ils doivent \u00eatre utilis\u00e9s avec conscience et discernement.<\/p>\n 1\u00a0<\/sup>Hillis, K., Petit, M., Jarrett, K., Google and the Culture of Search, <\/em>Routledge Taylor and Francis, 2013.<\/p>\n 2<\/sup>\u00a0Tavani, H., Zimmer, M., Search Engines and Ethics<\/a><\/em>, The Stanford Encyclopedia of Philosophy, Fall 2020 Edition), Edward N. Zalta (ed.).<\/p>\n 3 <\/sup>Hinman, L. M., Esse Est Indicato in Google: Ethical and Political Issues in Search Engines<\/em>, International Review of Information Ethics, 3: 19\u201325, 2005.<\/p>\n 4 <\/sup>Milano, S., Taddeo, M., Floridi, L. Recommender systems and their ethical challenges<\/a><\/em>, AI & Soc<\/i> 35, 957\u2013967, 2020.<\/p>\nCr\u00e9ation de bulles de filtres<\/h3>\n
Boucles de r\u00e9troaction<\/h3>\n
Fake news, contenu extr\u00eame et censure<\/h3>\n
\nEffets sociaux<\/h3>\n
Cr\u00e9ation de bulles de filtres<\/h3>\n
Boucles de r\u00e9troaction<\/h3>\n
Fake news, contenu extr\u00eame et censure<\/h3>\n
\n