13 Detrás del lente de búsqueda: efectos de la búsqueda en la sociedad

Efectos sociales

Cada vez más, existe la sensación de que todo lo que importa está en la web y debería ser accesible mediante búsqueda¹. Como dice LM Hinman, «Esse est indicato in Google (ser es estar indexado en Google)». Como también señala, «los ciudadanos en una democracia no pueden tomar decisiones informadas sin acceso a información precisa»^2,3. Si la democracia se basa en el acceso libre a información sin distorsiones, los motores de búsqueda afectan directamente cuán democráticos son nuestros países. Su papel como guardianes del conocimiento está en conflicto directo con su naturaleza como empresas privadas dependientes de anuncios para sus ingresos. Por lo tanto, por el bien de una sociedad libre, debemos exigir responsabilidad a los motores de búsqueda y transparencia en cómo funcionan sus algoritmos².

Creación de burbujas de filtro

Los sistemas que recomiendan contenido basado en perfiles de usuario, incluidos los motores de búsqueda, pueden aislar a los usuarios de la exposición a diferentes puntos de vista. Al alimentar contenido que le gusta al usuario, crean sesgos auto-reforzados y «burbujas de filtro»^2,4. Estas burbujas, creadas cuando el conocimiento recién adquirido se basa en intereses y actividades pasadas⁵, cementan los sesgos como fundamentos sólidos del conocimiento. Esto podría volverse particularmente peligroso cuando se usa con mentes jóvenes y susceptibles. Por lo tanto, se deben promover en el aula discusiones abiertas entre estudiantes, profesores y generar actividades de aprendizaje colaborativo.

Bucles de retroalimentación

Los motores de búsqueda, como otros sistemas de recomendación, predicen lo que será de interés para el usuario. Luego, cuando el usuario hace clic en lo que se recomendó, lo (el motor de búsqueda) toma como retroalimentación positiva. Esta retroalimentación afecta qué enlaces se muestran en el futuro. Si un usuario hizo clic en el primer enlace mostrado, ¿fue porque lo encontró relevante o simplemente porque era el primer resultado y, por lo tanto, más fácil de elegir?

La retroalimentación implícita es difícil de interpretar. Cuando las predicciones se basan en una interpretación incorrecta, los efectos son aun más difíciles de predecir. Cuando ciertos resultados se muestran repetidamente, y son lo único que el usuario llega a ver, incluso puede terminar cambiando lo que al usuario le gusta y lo que no le gusta, una predicción autocumplida, quizás.

En los Estados Unidos, se lanzó un sistema de policía predictiva mediante el cual se destacaban las áreas de alta criminalidad de una determinada ciudad. Esto significaba que se desplegaban más oficiales de policía en tales áreas. Dado que estos oficiales sabían que el área estaba en alto riesgo, eran cuidadosos y detenían, registraban o arrestaban a más personas de lo normal. Los arrestos validaban la predicción, incluso cuando la predicción estaba sesgada en primer lugar. No solo eso, los arrestos eran datos para futuras predicciones sobre las mismas áreas y sobre áreas similares, acumulando sesgos con el tiempo⁵.

Usamos sistemas de predicción para actuar sobre las predicciones. Pero actuar sobre predicciones sesgadas afecta los resultados futuros, las personas involucradas, y en última instancia, la sociedad misma. «Como efecto secundario de cumplir su propósito de recuperar información relevante, un motor de búsqueda necesariamente cambiará la misma cosa que pretende medir, ordenar y clasificar. De manera similar, la mayoría de los sistemas de aprendizaje automático afectarán los fenómenos que predicen»⁵.

Noticias falsas, contenido extremo y censura

Hay una prevalencia creciente de noticias falsas (historias falsas que aparecen como noticias) en foros en línea, sitios de redes sociales y blogs; todos disponibles para los estudiantes a través de la búsqueda. Pequeños grupos de personas enfocados pueden aumentar las calificaciones para videos específicos y sitios web de contenido extremo. Esto aumenta la popularidad del contenido y la apariencia de autenticidad, manipulando los algoritmos de clasificación⁴. Sin embargo, hasta ahora, las compañías de motores de búsqueda no han adoptado una política clara y explícita para controlar las noticias falsas².

Por otro lado, los motores de búsqueda excluyen sistemáticamente ciertos sitios y ciertos tipos de sitios a favor de otros⁶. Censuran contenido de algunos autores, a pesar de no haber sido solicitado hacerlo por el público. Por lo tanto, se debe usar los motores de búsqueda con conciencia, discreción y discriminación.

^{1 Hillis, K., Petit, M., & Jarrett, K. (2013). Google and the culture of search. Routledge Taylor & Francis. https://books.google.com/books/about/Google_and_the_Culture_of_Search.html?id=0X_1HS13FbsC}

² Tavani, H. T., & Zimmer, M. (2020, Fall). Search engines and ethics. En E. N. Zalta (Ed.), The Stanford Encyclopedia of Philosophy (Fall 2020 ed.). Stanford University. https://plato.stanford.edu/archives/fall2020/entries/ethics-search

^{3 Hinman, L. M. (2005). Esse est indicato in Google: Ethical and political issues in search engines. International Review of Information Ethics, 3(6), 19–25. https://doi.org/10.29173/irie345}

^{4 Milano, S., Taddeo, M., & Floridi, L. (2020). Recommender systems and their ethical challenges. AI & Society, 35(6), 957–967. https://doi.org/10.1007/s00146-020-00950-y}

^{5 Barocas, S., Hardt, M., & Narayanan, A. (2023). Fairness and machine learning: Limitations and opportunities. MIT Press. https://fairmlbook.org/}

^{6 Introna, L. D., & Nissenbaum, H. (2000). Shaping the web: Why the politics of search engines matters. The Information Society, 16(3), 169–185. https://doi.org/10.1080/01972240050133634}