El sistema DAP (datos, algoritmos, plataformas) es una construcción analítica, propia de este proyecto, para situar en contexto el campo de la inteligencia artificial y lograr integrar varias perspectivas críticas bajo un mismo paraguas con el objetivo de generar insumos para políticas públicas abocadas a dicho campo.
El sistema DAP parte de la base de que las IA son metatecnologías y que, más que referirse a una entidad artificial que exhibe una inteligencia, como pudo plantear en su origen, se trata de una sociedad artificial, esto es, de lazos y actividades sociales procesados a través de una tecnología con la cual interactuamos incesantemente. De hecho, el ecosistema digital se ha transformado en nuestro medio ambiente, de manera tal que los problemas ligados a la IA, relativos al enfoque del riesgo y al enfoque ético, no son otra cosa que problemas sociales de larga data a los que se le agrega en la actualidad el nivel específicamente técnico de su manifestación.
La tripartición entre datos, algoritmos y plataformas, que son niveles que operan de manera integrada y dinámica, obedece a la posibilidad de distinguir distintos aspectos de la generalización de la IA en la sociedad: epistemológicos, técnicos, políticos, socioconómicos, políticos, culturales y subjetivos.
En la base del sistema DAP están los datos. Se trata de lo que se conoce hoy como Big Data, que alude, en primer lugar, a la gran cantidad de datos disponibles a partir del registro generalizado de cualquier interacción social, y en segundo lugar, a la ciencia de datos encargada precisamente de convertir esos registros en datos, metadatos y perfiles junto con los procesamientos algorítmicos través de lo que se conoce como minería de datos. En el Big Data conviven dos niveles. El primero, correspondiente a la datificación, remite a la cuantificación dinámica y constante de todo registro de interacción social (viajar, pagar, desplazarse en el espacio, comunicarse a través de redes sociales, y cualquier actividad que termina condensada en un aplicativo para celular) en bits capaces de ser leído por diferentes sistemas digitales. El segundo nivel es el nuevo papel de la estadística “en tiempo real”. Allí donde la estadística tradicional elabora promedios que atraviesan cualidades y aspectos específicos de aquello que cuantifica y calcula, la estadística de la ciencia de datos “personaliza”, como lo hacen, por ejemplo, las plataformas de consumo cultural en música y en video. Y allí donde la estadística construía modelos que “representaban”el universo estudiado, la ciencia de datos prueba modelos en tiempo real para refutarlos o confirmarlos.
A través de los datos se llega a la segunda instancia del sistema, los algoritmos. Los procesamientos algorítmicos que realiza cualquier dispositivo digital con el que interactúa un individuo constituyen el emergente más inmediato para definir de qué se trata una IA, y es en este sentido que se dice que todos estos dispositivos contienen alguna clase de IA. Sin embargo, por lo dicho anteriormente, no se trata de una “máquina cerrada”, una inteligencia apretada dentro de un artificio, sino del resultado de una interacción con hechos sociales que está habilitada, ante todo, por la inmensa profusión de datos. Por eso se habla de que la IA es el resultado de la combinación entre una gran velocidad de procesamiento y un gran volumen de datos; ambas instancias se necesitan mutuamente.
Interesa mostrar que la algoritmización de los procesos sociales, así como la datificación, también tiene una doble faz, En la faz específicamente política, se trata del hecho de que “la recolección, la agrupación y el análisis automatizado de datos en cantidad masiva” apunta no sólo a registrar las interacciones sociales, sino sobre todo de “modelizar, anticipar y afectar por adelantado los comportamientos posibles” (Rouvroy, Berns, 2016: 96). Este proceso es denominado gubernamentalidad algorítmica, esto es, un modo de conducir conductas y anticipar comportamientos, bajo el paraguas de la “personalización”, que convierte a la algoritmización en un proceso no neutral y pasible de ser leído políticamente, algo en lo que se ha insistido frecuentemente en los últimos años con el llamado “efecto burbuja” y la pretendida manipulación de la opinión pública a través del control de las redes sociales. Sin embargo, la algoritmización también revela una faz técnica: existe una construcción matemática, una secuencia de pasos realizados desde un input hasta un output, bajo la lógica de la “máquina de Turing”, que se transforma en una función computacional con la que interactúan los usuarios de sistemas algorítmicos; o sea, un procesamiento que tiene un nivel interno de composición al cual el usuario no accede, pues solo se relaciona con sus resultados. Aquí yace la cuestión espinosa de los sesgos algorítmicos, donde efectivamente se entremezclan encuadres ideológicamente cuestionables, pero pertenecientes en definitiva a la sociedad, con dispositivos de selección de formas y contenidos que están justificados en el procedimiento técnico que, a la vez, se pretende objetivo en tanto tal y está lejos de serlo.
Las plataformas, tercer nivel del sistema DAP, resultan de la integración de los datos y los algoritmos en infraestructuras digitales globales que organizan los procesos de datificación y de algoritmización. En términos “neutrales”, plataforma es todo sistema de mediación entre usuarios para desplegar un lazo o actividad social en un entorno digital. Sin embargo, en la literatura especializada sobre el tema se destacan dos cuestiones que exigen ser abordadas desde una mirada atenta a las políticas públicas. La primera cuestión es política: como demostró la gestión global de la pandemia de Covid-19, las aplicaciones basadas en plataformas fueron utilizadas para la salud pública, la logística de distribución de bienes y la administración de la cosa pública, además de incentivar mecanismos novedosos de participación ciudadana. Por lo tanto, se puede considerar a las plataformas como algo relativo a los bienes comunes (Van Dijck, Poell y De Waal 2018), y por lo tanto pasibles de ser reguladas, siendo que hoy están controladas, en su gran mayoría, por corporaciones privadas y muy poco por estados u organismos internacionales; de allí la importancia de las regulaciones que se están planteando en la última década en torno a la IA.
La segunda cuestión relativa a las plataformas tiene que ver con su condición económica. Se trata de modelos de negocios que conducen a la formación de oligopolios merced a los efectos de red (cuántos más usuarios tiene una plataforma, más valor tienen y son integradas en plataformas mayores hasta quedar concentrado todo el mercado en los conocidos GAFAM, Google, Amazon, Faceboo –hoy Meta—y Microsoft). El llamado capitalismo de plataformas (Srnicek, 2018) procede con una creación incesante de nuevas materias primas (los datos; de allí que se hable de extractivismo y de colonialismo de datos), transformadas en un proceso productivo de los propios datos dentro de los sistemas algorítmicos e integrados luego en las infraestructuras de red de las plataformas que realizan interfaces cada vez más amplias entre sí. De esta manera, dicho sistema DAP se vincula con un “exterior”, la vida social, que es también “interior” en la medida en que los lazos sociales se encuentran configurados en dicho sistema. Por ello la distinción entre datos, algoritmos y plataformas es analítica pero no es estática o definida de una vez y para siempre. Una plataforma puede ser un dato para otra plataforma que la lee, entre ellas se entrecruzan algoritmos y en el medio de ellas transcurren los lazos y las actividades sociales, todas ellas pasibles de ser convertida en bienes económicos.
Las acciones que conducen a cada vez más datos, cada vez más algoritmos y cada vez más plataformas producen un conjunto de fenómenos, reconocibles en otros términos de este glosario y de esta investigación, que impactan en el modo de concebir y actuar sobre la expansión de la IA en nuestras sociedades. Respecto de la datificación (Couldry, Mejias, 2019) cabe destacar que los datos en la mayoría de los casos son extraídos sin la anuencia de los usuarios de plataformas, algo que da lugar a lo que se conoce como la economía de la atención (la vigilancia creciente sobre aspectos de los individuos para reconocer en ellos formas y patrones de comportamiento a través de la captación de la atención en la exposición de contenidos). Esto plantea la vulneración de los derechos a la intimidad y a la privacidad, además de llevar a la discusión acerca de la propiedad o titularidad de los datos respecto de las personas de donde son extraídas.
Respecto de la algoritmización, hay que sumar a los mecanismos de cajanegrización (el desconocimiento por parte de los usuarios del procedimiento por el cual se organizan las personalizaciones y las construcciones de sus propios perfiles) y la existencia de los sesgos, aspectos ya mencionados, la asignación de la responsabilidad legal y/o económica distribuida entre máquinas y personas (¿qué pasa si un automóvil autónomo atropella a una persona?). Por otro lado, en la construcción de patrones de conducta y predicción de comportamientos, se presenta la relación entre correlación y causalidad, de acuerdo a los estudios críticos sobre el tema, pues la copertenencia de dos o más aspectos de procesos asignados a una sola persona (la compra de un bien, el recorrido diario en una ciudad y el tipo de series que ve en una plataforma de streaming) no significa que se pueda establecer una causalidad entre ellos. Esto es particularmente inquietante cuando dichos procesamientos, que se entienden como IA, no se limitan a perfiles de personas sino que operan en oficinas públicas y privadas que definen el destino de un crédito, un plan social, el establecimiento de una política de salud, etc.
Finalmente, respecto de la plataformización, cabe señalar que “arrastra” los problemas existentes en los dos procesos previos, la datificación y la algoritmización. Por lo tanto, se puede decir que si se trata de una mediación, la plataformización es todo menos neutral. Además, en la medida en que se trata de instituciones (a esta altura) tan públicas como un ministerio o una secretaría, es materia de análisis y eventual regulación el hecho de que dichas instituciones operan de acuerdo a criterios económicos: todas las actividades registradas son pasibles de monetización (venta de bases de datos, de perfiles, de publicidades, etc., según la plataforma que se trate y la diversificación de negocios que tengan), y tantos los datos como los algoritmos entran en el régimen de la propiedad privada, siendo que esos datos corresponden a individuos y sus resultados no son sometidos al escrutinio público.
REFERENCIAS
Cheney-Lippold, John (2017). We are Data: Algorithms and The Making of Our Digital Selves. Nueva York, New York University Press.
Couldry, Nick y Mejías, Ulises (2019). “Datafication”.Internet Policy Review. Journal on Internet Regulation, Vol.8, Issue 4. https://policyreview.info/concepts/datafication
The Costs of Connection. How Data Is ColonizingHuman Life and Appropriatingit for Capitalism. Stanford UniversityPress.
Pasquinelli, Matteo; Joler, Vladan (2021). “El nooscopio de manifiesto. La inteligencia artificial como instrumento del extractivismo cognitivo”, en revista La Fuga.https://lafuga.cl/el-nooscopio-de-manifiesto/1053.
Rouvroy, Antoinette y Berns, Thomas (2016). “Gubernamentalidad algorítmica y perspectivas de emancipación. ¿La disparidad como condición de individuación a través de la relación?”. En Adenda filosófica, nro.1. Santiago de Chile, Doble Ciencia.
Srnicek, Nick (2018). Capitalismo de plataformas. Buenos Aires, Caja Negra Editora.
Van Dijck, José; Poell, Thomas y De Waal, Martijn (2018). The Platform Society. Public Values in a Connective World. Oxford, Oxford UniversityPress.
