Se necesita un cambio estructural antes de que la regulación tecnológica pueda realmente servir al interés público.
La regulación tecnológica es difícil. Esperamos privacidad de nuestras plataformas, integridad de nuestros proveedores de contenido, responsabilidad de nuestros algoritmos y seguridad de nuestras infraestructuras, pero a menudo terminamos decepcionados.
La dificultad de regular las tecnologías digitales se ha atribuido comúnmente al “problema del ritmo”, según el cual la ley no puede seguir el ritmo del desarrollo tecnológico y siempre quedará rezagada. Quiero ofrecer una alternativa a esta formulación simplista del problema. Yo diría que nuestra incapacidad para controlar las consecuencias no deseadas de las tecnologías digitales, probablemente el mayor fracaso político de nuestro tiempo, no se debe a una carrera imposible entre reguladores y empresarios tecnológicos. Es un problema de intereses desalineados, un entorno político y económico hostil y poder y capacidades asimétricos entre reguladores y regulados.
La regulación tecnológica implica la elaboración de reglas, el monitoreo y la aplicación de reglas para las tecnologías digitales. Para comprender de manera integral el problema de la regulación tecnológica, debemos seguir seis factores que desempeñan un papel a la hora de explicar por qué regular la tecnología es tan difícil:
En primer lugar, la formulación de normas suele ser ambigua y poco clara. Los formuladores de políticas tienen la tarea de diseñar políticas que reduzcan valores sociales como la privacidad y la seguridad a términos legales confusos que a menudo se interpretan de manera que no benefician a la sociedad. El Reglamento General de Privacidad de Datos (GDPR) de la Unión Europea, por ejemplo, advierte sobre la “señalización” (una forma de hacer que los individuos en un conjunto de datos dejen de ser anónimos), pero el concepto significa cosas diferentes para diferentes actores. De manera similar, el requisito del RGPD de “consentimiento significativo” antes del procesamiento de la información personal de un individuo se redujo a una práctica común y estándar de la industria, hasta que un tribunal belga lo rechazó por ser incompatible con el RGPD. La Ley de Inteligencia Artificial (IA) de la UE y las Medidas Provisionales de IA Generativa de China también emplean un lenguaje vago. Cuando la ley es vaga y confusa, las empresas pueden tergiversar su significado. Esto suele ser una mala noticia para la sociedad.
En segundo lugar, los reguladores tecnológicos carecen de un seguimiento eficaz e independiente de las normas. La tecnología es demasiado opaca y compleja para ser descomprimida y monitoreada, especialmente cuando los monitores no tienen acceso a su funcionamiento interno. Las empresas tienen un claro interés en enmascarar cómo sus algoritmos toman decisiones y respaldan sus modelos de negocio. Cuando el Observatorio de Publicidad de la Universidad de Nueva York, por ejemplo, quiso echar un vistazo a cómo Facebook entrega anuncios, Facebook rápidamente cerró las cuentas de los investigadores. De manera similar, cuando ChatGPT explotó en popularidad, OpenAI cerró rápidamente sus modelos, supuestamente para evitar el escrutinio. Otros siguieron sus pasos, y actualmente, los grandes modelos de lenguaje que subyacen a los populares chatbots de IA carecen de transparencia. Los reguladores tienen poca información sobre los datos utilizados para entrenar modelos líderes, los pesos que utilizan y las conexiones que construyen para construir sus redes neuronales y entregar respuestas probabilísticas a sus usuarios. Esta opacidad en la tecnología a menudo lleva a que la misión se desvíe, cuando una herramienta se utiliza para propósitos que van más allá de lo previsto originalmente. Los reguladores se quedan con una comprensión muy parcial de cómo funciona nuestra tecnología y en qué medida sus creadores cumplen con los requisitos regulatorios.
En tercer lugar, las empresas carecen de incentivos suficientes para cumplir significativamente con las regulaciones existentes. Los requisitos regulatorios tecnológicos a menudo entran en conflicto con sus intereses comerciales. Los reguladores piden a los anunciantes digitales que preserven la privacidad de los usuarios, a los autores de motores de búsqueda que se descentralicen, a los creadores de software espía comercial que limiten su base de clientes o esperan que las empresas de tecnología se incluyan en rúbricas legales específicas como «servicios de salud» para poder ser reguladas. Los requisitos regulatorios a menudo afectan el corazón de la forma en que las empresas de tecnología ganan dinero, y nuestras expectativas de un cumplimiento significativo nunca podrán cumplirse por completo. El cumplimiento, entonces, es intrínsecamente problemático para las empresas de tecnología, y la investigación empírica demuestra que es probable que intenten evadir el cumplimiento significativo tanto como sea posible.
En cuarto lugar, existe una clara asimetría en las capacidades entre los reguladores y los regulados, lo que cuestiona la aplicación efectiva de las regulaciones. Los reguladores carecen de la capacidad y la experiencia para monitorear y hacer cumplir los requisitos regulatorios de las empresas de tecnología. Por lo tanto, no pueden ser proactivos ni investigar todos y cada uno de los casos de posible violación regulatoria. Los reguladores luchan por crear una cultura de cumplimiento de las políticas tecnológicas y terminan dependiendo en gran medida de que las empresas hagan lo correcto.
Quinto, los reguladores tecnológicos trabajan dentro de un entorno político y económico favorable a las empresas.. Los mayores cabilderos del Congreso de Estados Unidos son las empresas de tecnología. Controlan el mercado de la IA y determinan qué modelos futuros se desarrollarán para la sociedad. Dan forma al problema y, a menudo, a la solución durante los debates políticos, como se demuestra en el proceso legislativo de la Ley de Servicios Digitales en la UE. Los cabilderos tecnológicos están consiguiendo nombramientos críticos dentro de las agencias reguladoras. Los reguladores dudan en detener o prohibir prácticas problemáticas de procesamiento de datos, incluso después de que se hayan detectado violaciones regulatorias, como lo demuestra la inspección de la industria de la publicidad digital realizada por la autoridad de protección de datos del Reino Unido. La fuerte influencia de las empresas tecnológicas en todos y cada uno de los pasos del ciclo político hace que sea muy difícil diseñar y hacer cumplir regulaciones tecnológicas que pongan el interés público en la máxima prioridad.
Finalmente, debido a que la tecnología se ha institucionalizado de maneras muy determinadas y se ha arraigado en la sociedad, es difícil apartarse de los acuerdos existentes dañinos. Es difícil imaginar, por ejemplo, nuevos protocolos seguros para comunicarse entre infraestructuras cibernéticas a pesar de que las existentes sean vulnerables a los ataques cibernéticos; la sociedad lucha por imaginar nuevas formas de desarrollar una IA que ponga el interés público como máxima prioridad, en lugar de los actuales gigantes privados de la IA que entrenan sus algoritmos con los datos de los usuarios sin consentimiento y se centran en cumplir su misión de producir un producto comercial, en lugar de público; Nuestra sociedad es incapaz de cambiar a nuevos modelos de negocios que financien el contenido en línea sin despojar totalmente a los usuarios de su privacidad; Los usuarios luchan por dejar de utilizar las plataformas de redes sociales tradicionales y tóxicas, a pesar de la creciente conciencia de que sus algoritmos son adictivos y tienden a amplificar el contenido extremo. Todos estos son ejemplos de decisiones en la intersección de la tecnología, la sociedad y la economía que parecían muy arbitrarias hace décadas pero que ahora es difícil desviarse. Se está volviendo extremadamente difícil imaginar un futuro diferente con la tecnología, y se ha vuelto demasiado costoso cambiar hacia una nueva visión de la tecnología y la sociedad.
Entonces, ¿qué se puede hacer?
Las personas que trabajan para la tecnología no son maliciosas, pero trabajan en una estructura que recompensa el daño social. La pregunta apremiante es si los reguladores pueden cambiar esa estructura y crear una convergencia de intereses corporativos y sociales para el uso y desarrollo de la tecnología.
Las ambigüedades legales deberían sustituirse con un llamado a indicadores de cumplimiento legibles por máquinas. Esto permitiría la verificación automática de la regulación tecnológica. El Reglamento Ómnibus Digital propuesto por la UE, por ejemplo, requeriría que las empresas que procesan datos se adhieran a estándares técnicos más concretos para interpretar las decisiones de los usuarios sobre cómo se pueden utilizar sus datos. Los gobiernos, como la Administración de la Seguridad Social de EE. UU., que proponen utilizar la IA para decidir la elegibilidad de las personas para recibir asistencia social, deberían formalizar los requisitos legales para la IA que compran para que podamos evaluar automáticamente su responsabilidad legal. Necesitamos abordar directamente la confusión de la ley; de lo contrario, la discreción que aplican las empresas seguirá jugando en nuestra contra.
La opacidad de la tecnología se ha abordado con éxito en otros contextos. Un subcampo de investigación emergente es el uso de herramientas computacionales para medir el cumplimiento regulatorio de la tecnología. Necesitamos más académicos, organizaciones no gubernamentales y denunciantes para evaluar e informar al público cómo funcionan esos sistemas. En pocas palabras, necesitamos intermediarios regulatorios más fuertes para avanzar en el seguimiento de las normas y disuadir a los infractores.
Aunque los modelos de negocio tecnológicos basados en datos llegaron para quedarse, los consumidores merecen más transparencia sobre los modelos de negocio y las políticas de gestión de datos de las empresas tecnológicas líderes. Las innovaciones regulatorias, como aquellas que exigen que los intermediarios de datos se registren ante el Estado, son sólo un punto de partida. Los consumidores necesitan una mejor comprensión de cómo viajan nuestros datos, a quién y por qué. Todavía somos incapaces de desarrollar actores independientes y confiables que puedan mediar en nuestros datos antes de que tomen decisiones sobre nosotros.
Para abordar las asimetrías de poder y capacidad entre los reguladores y las empresas de tecnología, los reguladores deberían recibir asistencia sistemática de otras partes interesadas. La UE ha reconocido la debilidad de las autoridades nacionales de protección de datos al permitir que la Comisión Europea haga cumplir la Ley del Mercado Digital y la Ley de Servicios Digitales, regulaciones de la UE que tienen como objetivo hacer que las plataformas tecnológicas sean más competitivas y transparentes. Por primera vez, la Comisión Europea disfruta de autoridad para hacer cumplir las políticas tecnológicas. Las organizaciones no gubernamentales en Europa que defienden los derechos de privacidad han demostrado que pueden influir en el significado y la implementación del RGPD. No podemos dejar que los reguladores resuelvan todo por nosotros. Nosotros, los académicos y la sociedad civil, debemos ser una parte institucionalizada de cualquier solución regulatoria tecnológica.
La concentración de poder sobre los datos, la computación y el poder de lobby dentro de un puñado de empresas e individuos tecnológicos debe diluirse. Los casos antimonopolio recientes son pasos en la dirección correcta, pero sin un desarrollo tecnológico descentralizado, la competencia del mercado por sí sola siempre tendrá dificultades para lograr el bienestar social general. Las grandes empresas tecnológicas son las que deciden exclusivamente sobre el próximo desarrollo de la IA. Tienen un historial problemático de prioridades, por decir lo menos. Las empresas más pequeñas y los consumidores tienen el poder de quitar esta autoridad de toma de decisiones de las manos de las grandes empresas tecnológicas mediante el desarrollo de tecnologías cívicas desde abajo, con financiación de autoridades públicas o sin fines de lucro. Los reguladores deben poder establecer claramente qué está éticamente prohibido desarrollar y vender, y qué puede usarse como arma contra la sociedad.
Finalmente, en este momento, puede resultar difícil imaginar un cambio de paradigma completo en la forma en que la tecnología está integrada en la sociedad. Aún así, el cambio gradual hacia protocolos de red más seguros, como IPv6, DNS seguro y BGP seguro, muestra que es posible desviarse de los protocolos de red que permitieron Internet en primer lugar. Todos estos son ejemplos de cómo la sociedad pudo avanzar hacia formas más seguras de conectar infraestructuras digitales. También deberíamos abogar por soluciones para la portabilidad de datos, que nos permitan trasladar nuestros datos a diferentes servicios de plataforma, o crear marcos para recopilar información sobre cómo nuestros compromisos históricos en línea dan forma a nuestro futuro tecnológico. Esto nos permitiría reconocer los lugares donde nuestros hábitos digitales nos resultan contraproducentes a nosotros y a la sociedad.
La regulación tecnológica es difícil pero no imposible. Aún así, tenemos mucho trabajo por hacer. Actualmente ganamos algunas batallas pero perdemos la guerra. Sin un cambio estructural en los seis factores que he identificado, el futuro tecnológico no será ni puede ser agradable.
