Es el algoritmo, estúpido

Por Santiago Goyer y Paula López Massimino

 

Desde hace años que los Estados vienen ensayando diferentes respuestas acerca de cómo limitar el campo de acción a las principales y más influyentes plataformas digitales; desde restricciones, regulaciones, penalidades económicas. La mayoría coincide, como hemos desarrollado en otros artículos, sobre los efectos perniciosos que estas plataformas producen a la democracia y a la sociedad por igual. No pretendemos ser ludditas del siglo XXI, más bien, todo lo contrario. Pretendemos aportar al debate, procurando problematizar sobre las discusiones que vienen originándose en otros rincones de nuestro planeta, que probablemente servirán como base (por ensayo y error) de lo que se discutirá en materia legislativa en nuestro continente en general y en nuestro país en particular. Por dicho motivo, desarrollaremos en este artículo cuáles son los principales debates que se vienen pronunciando en la actualidad, en especial, en los Estados Unidos de América y la Unión Europea.

La mayoría coincide sobre los efectos perniciosos que las principales y más influyentes plataformas digitales producen a la democracia y a la sociedad por igual. Y los Estados vienen ensayando diferentes respuestas.

Consideramos conveniente, antes de presentar los diferentes escenarios, esgrimir algunos argumentos de lo que creemos es y será la piedra angular de esta discusión: los algoritmos. Ed Finn, en su libro Lo que los algoritmos quieren, nos propone, a través de una metáfora, pensar en la influencia que los algoritmos tienen no solo en nuestra realidad sino también en relación a cómo construimos esa realidad. Busca, aun comprendiendo la imperfección de su metáfora, comparar la construcción de un algoritmo a la edificación de una catedral. En el lenguaje arquitectónico, una catedral posee una serie de valoraciones simbólicas muy importantes: una fuente bautismal, su orientación al este, ilustraciones de historias bíblicas, etcétera. Es, más allá de un edificio, “la casa de Dios”, la puesta en marcha de la maquinaria invisible de la fe. Sin embargo, hay cosas que permanecen ocultas más allá de la realidad física o espiritual: contradicciones doctrinarias, presupuestarias, escándalos varios, entre muchas otras. Lo que un ingeniero de software podría denominar como “back-end”.

Ahora bien, este autor afirma que en la actualidad la relación que hemos adoptado con los algoritmos se presenta más cercana a una relación basada en la fe que a un pensamiento racional. Los algoritmos nos llevan por las calles, nos recomiendan películas, amistades, relaciones sexuales, tipos y estilos de consumo; se encuentran, básicamente, presentes en la mayoría (por no decir en todas) de las relaciones que entablamos en el mundo digital. 

“Imaginamos estos algoritmos como elegantes, simples y eficientes, pero son conjuntos en expansión que involucran muchas formas de trabajo humano, recursos materiales y elecciones ideológicas”.

Ed Finn

Dicho de otro modo: los algoritmos aparecen como los productos mágicos de la tecnología digital, o en palabras de Finn, “imaginamos estos algoritmos como elegantes, simples y eficientes, pero son conjuntos en expansión que involucran muchas formas de trabajo humano, recursos materiales y elecciones ideológicas”.  Se presentan como algo inocuo, y las corporaciones guardan, recelosas, las cajas negras que ejecutan este conjunto de datos y procesos. Por este motivo, creemos que resulta fundamental y necesario que el debate y sus conclusiones estén orientados a pensar cuál será la relación entre los Estados, las corporaciones y sus dueños/principales accionistas y sus algoritmos. En otras palabras: que las corporaciones abran la caja de Pandora y que los Estados conozcan qué hay detrás de sus algoritmos.

Planteado esto, repasemos qué discusiones vienen gestándose.

Regulaciones, lobby y preguntas

A fines del 2020, la Comisión Europea propuso dos iniciativas legislativas para actualizar las normas que rigen los servicios digitales en la UE: la Ley de Servicios Digitales (DSA) y la Ley de Mercados Digitales (DMA). 

La DMA prevé controlar el poder de los gigantes tecnológicos utilizando por primera vez la legislación en lugar de largas investigaciones antimonopolio. En este sentido, estipula sanciones a través de multas e incluso, en caso de ser necesario, puede imponer medidas correctoras estructurales o de comportamiento.

Por medio de esta normativa, las bigtech deberán garantizar el derecho de los usuarios a darse de baja de los servicios básicos de plataforma en condiciones similares a las de suscripción, no imponer el software por defecto en la instalación del sistema operativo y, a su vez, asegurar la interoperabilidad de las funcionalidades básicas de sus servicios de mensajería instantánea. Las compañías tampoco podrán reutilizar los datos personales recabados durante la prestación de un servicio para brindar otro sin el consentimiento previo de los usuarios.

A fines de 2020, la Comisión Europea propuso dos iniciativas legislativas para actualizar las normas que rigen los servicios digitales en la UE: la Ley de Servicios Digitales (DSA) y la Ley de Mercados Digitales (DMA). 

Esta norma antimonopolio se complementa con la Ley de Servicios Digitales, que cuenta con medidas para poner freno al contenido ilícito, responsabilizar a las plataformas digitales de sus algoritmos (exigiendo mayor transparencia) y mejorar la moderación de los contenidos. Al igual que la DMA, ante el incumplimiento la DSA impondrá multas a las compañías que podrían llegar hasta un 6 % de su facturación mundial.

Dado que aún falta dar una serie de pasos en materia legislativa dentro del Consejo de la UE, tendremos que esperar al 2023 para ver en concreto qué sucederá.

Mientras tanto, en EUA sigue empantanada la discusión en relación a la reforma de la sección 230 de la Ley de Decencia en las Comunicaciones, de 1996. Dicha sección desliga a las plataformas por el contenido que en ellas se vuelca; es decir, se las considera solo como canales a través de los cuales se difunde la información pero no se las responsabiliza por el contenido. 

Sin embargo, recientemente, el expresidente Barack Obama dio un discurso en Stanford, semillero de Silicon Valley, donde uno de los principales planteos fue la regulación y el conocimiento de los algoritmos, como parte de la respuesta para combatir los efectos que estas plataformas producen en la democracia. En este sentido, la “moderación” del contenido pasa a un segundo plano y se pone especial importancia en la transparencia del algoritmo. 

En ambas latitudes vemos que son claras las intenciones de avanzar en la regulación de las grandes plataformas, aunque la UE haya logrado cristalizarlo en un debate y propuesta parlamentaria. Hemos detallado las restricciones y regulaciones que las nuevas leyes imponen a las grandes empresas, así como las penalidades ante el incumplimiento, pero la evidencia indica que dichas compañías no tienen problema alguno en pagar grandes multas (aunque ínfimas comparadas a sus ganancias), como ya lo han hecho en múltiples oportunidades.

De todos modos, sostenemos que habrá que prestarle mayor atención al eje que proponemos en este artículo: la “regulación” de los algoritmos. Creemos que las grandes plataformas digitales buscarán apañarse en su principal bandera, su autoproclama como “defensoras de la libertad de expresión”. Sobre este punto en particular ya hemos volcado nuestra opinión en el artículo “Elon Musk: ¿la libertad o la libertad mil millonaria?”.

Por último, las discusiones que aquí buscamos plasmar sobre la regulación a las grandes plataformas efectivamente sugieren un avance en el tema, aunque no dejan de inquietarnos. ¿Qué poder de lobby ejercerán dichas empresas para imponer su visión dentro del marco regulatorio que se viene discutiendo? ¿Cuál será la capacidad coactiva de los Estados en imponer ese marco regulatorio? ¿Cuánto se escudarán estas grandes corporaciones mediante el discurso de la “libertad de expresión” para no brindar información acerca de sus algoritmos? ¿Cuáles serán las penalidades económicas en caso del posible incumplimiento de un futuro marco regulatorio?

Este artículo fue publicado por primera vez en Contraeditorial