La automatización y el uso de algoritmos en la toma de decisiones están transformando nuestras vidas, prometiendo soluciones a problemas cotidianos como la personalización médica y la elección de entretenimiento. Sin embargo, un análisis de la novela "QualityLand" revela una perspectiva más oscura sobre estas tecnologías. Investigadores de la Universitat Oberta de Catalunya advierten que la digitalización forzada puede excluir a los colectivos vulnerables debido a sesgos en los sistemas algorítmicos. Este artículo explora las implicaciones éticas y sociales de confiar en la inteligencia artificial para decisiones críticas.
En la actualidad, se sostiene que la inteligencia artificial tiene el potencial de resolver casi todos nuestros problemas. Se habla de una medicina personalizada, de trámites administrativos más ágiles y de la posibilidad de elegir películas o canciones sin riesgo a equivocarse, todo ello basado en nuestros gustos personales. No obstante, esta visión optimista es cuestionada por expertos en el campo.
Según Andrea Rosales, investigadora del grupo Communication Networks and Social Change (CNSC) del Internet Interdisciplinary Institute (UOC), las sociedades contemporáneas tienden a ver únicamente las ventajas que trae consigo la digitalización.
Sin embargo, un análisis reciente de la novela QualityLand, escrita por Marc-Uwe Kling, revela una realidad distinta. Esta obra de ficción presenta un mundo donde los algoritmos lo regulan todo. En un estudio publicado en The De Gruyter Handbook of Automated Futures: Imaginaries, Interactions and Impact, Rosales y su colega Sara Suárez destacan que existe una dimensión oscura y poco explorada en la implementación de nuevas tecnologías.
El fenómeno de la digitalización forzada está dejando fuera a los colectivos más vulnerables, ya que los sistemas algorítmicos suelen presentar sesgos. Además, estas tecnologías se enfrentan al desafío de tratar problemas para los cuales no están realmente preparadas.
La noticia aborda el impacto de la automatización y los algoritmos en la sociedad, destacando tanto las ventajas como las desventajas de la digitalización forzada, especialmente en relación con los colectivos más vulnerables.
Se menciona que la inteligencia artificial podría solucionar muchos problemas, como personalizar la medicina, agilizar trámites administrativos y mejorar las recomendaciones de películas o canciones según los gustos individuales.
Andrea Rosales señala que hay una parte oscura en la digitalización, donde los sistemas algorítmicos pueden tener sesgos y no estar preparados para resolver ciertos problemas, lo que puede excluir a colectivos vulnerables de los beneficios tecnológicos.
Se hace referencia a la novela QualityLand, de Marc-Uwe Kling, que presenta un mundo regulado por algoritmos y sirve como base para discutir las implicaciones de la automatización en la sociedad.
La digitalización forzada puede llevar a la exclusión de grupos vulnerables y a una dependencia de tecnologías que no están adecuadamente equipadas para abordar todos los problemas sociales.