Por Robert Fay. Traducido bajo autorización de CIGI por Karla Prudencio Ruiz, Co-Capitana de Data.Democracia
Las plataformas están en el centro de la economía digital. Son su columna vertebral y sus conductos. Se utilizan para buscar, para involucrarse en distintas actividades sociales e intercambiar conocimiento, realizar intercambios laborales, bienes y servicios. Las actividades que se ejecutan en las plataformas se están expandiendo a un ritmo descomunal que, muy probablemente, continúe, especialmente con el desarrollo de la tecnología 5G que se avecina. Plataformas como Google, Facebook, Twitter y Amazon se extienden por todo el mundo, prestan servicios a miles de millones de usuarios y desempeñan funciones básicas en nuestra sociedad, análogas al papel que desempeñan los servicios públicos. Sin embargo, la gobernanza en torno a sus funciones no está del todo desarrollada, como es en el caso de los servicios públicos. De hecho, hay un abismo en materia de gobernanza.
En efecto, aunque las plataformas son omnipresentes e impregnan todas las areas de la vida cotidiana, la gobernanza a través de sus distintas áreas de actividades es ad hoc, incompleta e insuficiente. Ellas son una fuente de información lista de antemano y, comúnmente, la fuente primaria para muchas personas y empresas, algo que puede mejorar la elección del consumidor y el funcionamiento del mercado. Sin embargo, la información puede ser inexacta, por diseño o no, y se utiliza para influir en las acciones de las personas y, recientemente, en los resultados de las elecciones. Sus operaciones tienen un alcance mundial, pero la reglamentación, la poca que existe, es de carácter nacional. Ayudan a facilitar nuestra vida privada, pero también pueden utilizarse para rastrear e inmiscuirse en ella. El uso que le dan a los datos privados es opaco, y los algoritmos que alimentan las plataformas son esencialmente black boxes (cajas negras). Esta situación es inaceptable.
Aunque que las plataformas impregnan todas las areas de la vida cotidiana, la gobernanza a través de sus distintas áreas de actividades es ad hoc, incompleta e insuficiente
Sin duda, en la actualidad existen muchas iniciativas de gobernanza. Algunos países están elaborando estrategias nacionales para la inteligencia artificial (IA) y el big data. Otros están examinando y elaborando respuestas de política al problema y las implicaciones que tienen las fake news (noticias falsas). Varios están elaborando estrategias cibernéticas nacionales. Muchos están revisando y modificando la legislación relativa a la privacidad. El Grupo de los Siete y el Grupo de los Veinte (G-20) han emprendido algunas iniciativas, al igual que la Organización de Cooperación y Desarrollo Económicos (OCDE) y las Naciones Unidas. Incluso las propias plataformas han pedido alguna forma de regulación.
Pero, hasta ahora, no ha habido una discusión o acción global exhaustiva. La innovación en materia de gobernanza es necesaria para crear un marco integrado a nivel nacional e internacional. Este marco necesita una amplia combinación de políticas, principios, reglamentos y normas, y su desarrollo supondrá la experimentación, la iteración y la coordinación internacional, así como la participación de una amplia variedad de partes interesadas.
La situación actual se ha visto antes
De alguna manera, la situación actual recuerda el rápido desarrollo de los servicios financieros a nivel mundial en los años 90 y 2000. Impulsados por una regulación ligera, y en no poca medida por la arrogancia, los bancos crecieron en tamaño y poder, dando lugar a algunos bancos mundiales excepcionalmente grandes. En muchos casos, esta expansión se vio alentada por la noción predominante de que se trataba de un bien mundial, que creaba nuevos servicios financieros para nuevos clientes con mayor eficiencia mediante magia financiera, que resultó ser opaca en cuanto a efectos de red, riesgos y consecuencias. La opinión, en ese entonces, era que sus intereses y su reputación limitarían su mal comportamiento.
De alguna manera, la situación actual recuerda el rápido desarrollo de los servicios financieros a nivel mundial en los años 90 y 2000. La opinión, en ese entonces, era que sus intereses y su reputación limitarían su mal comportamiento. ¿Suena familiar?
¿Suena familiar? Fuimos testigos de las importantes consecuencias sociales, y de la caída en picada de la confianza pública en las instituciones.
El marco reglamentario actual en torno a las plataformas es el ejemplo perfecto de una regulación ligera. Al igual que los pocos bancos mundiales que habían dominado los servicios financieros antes de la Gran Recesión, hay unos pocos gigantes tecnológicos mundiales que dominan las plataformas, pero la forma en que operan es opaca. Cada vez más frecuentemente, además, están exhibiendo un mal comportamiento a través de una enmarañada red de conexiones tan complicada que se necesitaría un algoritmo de machine learning para descifrarlas. Más insidioso es el capitalismo de vigilancia que opera a través del modelo de negocios basado en publicidad en muchas de las plataformas. Adicionalmente, existen preocupaciones compartidas en todo el mundo –independientemente de los diferentes valores de cada sociedad individualmente– sobre cómo se está utilizando la información, cuestiones que van desde problemas en materia de privacidad hasta la monetización.
Impulsados por una regulación ligera y, en gran medida, por la arrogancia, los bancos crecieron en tamaño y poder, dando lugar a algunos bancos mundiales excepcionalmente grandes.
De hecho, el posible impacto negativo que tiene el uso indebido de la información que recolectan las plataformas haría que, en comparación, el impacto negativo de la crisis financiera mundial palideciera, dado que las tecnologías impregnan todos los aspectos de nuestras vidas, y seguirán haciéndolo a un ritmo cada vez mayor y en formas que ni siquiera podemos prever en este momento. De hecho, a través de su interconexión, el Internet de las cosas, el 5G y las identidades digitales encarnan riesgos sistémicos. Estos riesgos son profundos: desde una guerra cibernética hasta la vigilancia estatal y la invasión de la privacidad, pasando por las filtraciones de datos, las grandes pérdidas de ingresos económicos y personales y, en última instancia, la pérdida de confianza. Además, existe una división geopolítica Este-Oeste, ya que Estados Unidos y China compiten cara a cara por la supremacía en el ámbito de los datos y la IA dejando a otros actores atrapados en el medio.
Sin embargo, el potencial de estas tecnologías para mejorar la vida cotidiana de las personas es sustancial y se deriva, en parte, de la interconexión basada en la confianza. De hecho, los mayores beneficios surgen cuando todos pueden participar en una economía mundial de Internet en lugar de una economía digital que se encuentra dividida.
El momento de actuar -a nivel mundial- es ahora: desarrollar un marco de gobernanza a nivel mundial, y asegurar que estas tecnologías se utilicen para el bien común, a nivel mundial.
Un modelo y un camino por seguir
Una forma de avanzar es aprovechar las lecciones que nos han brindado la crisis financiera y la manera en la que los encargados de formular políticas abordaron las grandes problemáticas económicas y financieras resultantes. En particular, en el corazón de esta crisis se creó el Consejo de Estabilidad Financiera (CEF) (a partir del Foro de Estabilidad Financiera), al que el G-20 dio el mandato de promover la reforma financiera internacional de supervisión y regulación, con un papel en el establecimiento de normas y en la promoción de la aplicación de las normas internacionales por parte de sus miembros.
Algunos antecedentes sobre el funcionamiento del CEF ayudarán a sentar determinadas bases. El principal órgano de decisiones es el pleno, que está integrado por representantes de todos los miembros: 59 representantes de 25 jurisdicciones; seis representantes de cuatro instituciones financieras internacionales; y ocho representantes de seis organismos internacionales de normalización, reglamentación, supervisión y bancos centrales. En el desempeño de su labor, el CEF promueve la estabilidad financiera mundial “coordinando la elaboración de políticas de reglamentación, supervisión y otras políticas del sector financiero y realizando actividades de divulgación en países no miembros. Logra la cooperación y la coherencia mediante un proceso de tres etapas”.[1] Estas etapas consisten en una evaluación de las vulnerabilidades, la elaboración de políticas y la supervisión de su aplicación. Cada esfera cuenta con varios grupos de trabajo integrados, no sólo por personas de los países miembros y los organismos de normalización internacional, sino también por países no miembros y organizaciones que podrían verse afectadas.
Uno de los primeros pasos de esta nueva institución sería documentar todas las actividades actuales, buscando los puntos comunes y las principales áreas de divergencia, las lagunas y las instituciones involucradas.
La reforma de regulación y supervisión financiera internacional era una tarea proporciones enormes –de hecho, es una labor que continúa hasta el día de hoy- dado que los mandatos y la cultura varían enormemente entre las instituciones que participan en la regulación y la prestación de servicios financieros; bancos centrales, bancos privados, mercados de capitales, reguladores de valores y seguros, órganos de normalización, responsables de la formulación de políticas, entre otros. En adición a lo anterior, los esfuerzos reformistas se encontraron con una fuerte resistencia, incluyendo quejas sobre el aumento de las cargas y los costos resultantes de la regulación. Sin embargo, en última instancia, estaba claro que la reglamentación había sido demasiado laxa y que era urgente abordarla.
Los procesos innovadores e integrados por múltiples partes interesadas del CEF han sido esenciales para cumplir con sus responsabilidades. A pesar de la enorme tarea a la que se enfrentaba el CEF, los importantes avances en la reforma del sector financiero son una prueba de que esos procesos pueden lograr reformas reales y sustanciales. Estos procesos proporcionan un modelo que podría ser útil para la gobernanza de las plataformas digitales, pero ¿cómo podremos adaptarlos?
Crear un Consejo de Estabilidad Digital
Un camino por seguir es crear una nueva institución -llamémosla Consejo de Estabilidad Digital (CED)- y que los líderes mundiales le den un mandato. Un órgano plenario fijaría los objetivos y supervisaría la labor de la CED y estaría compuesto por funcionarios de los países que se incorporen inicialmente a la organización. Además, la CED trabajaría con órganos de normatividad, gobiernos y encargados de la formulación de políticas públicas, reguladores, sociedad civil y las propias plataformas, a través de grupos de trabajo con mandatos claros que informarían al plenario. Por ejemplo, los objetivos generales del CED podrían ser:
- Coordinar el desarrollo de normas, reglamentos y políticas en los múltiples ámbitos que tocan las plataformas. Estos ámbitos incluirían, entre otros, la gobernanza a lo largo de la cadena de valor de los datos y la inteligencia artificial (incluidas esferas como privacidad, ética, calidad y portabilidad de los datos, responsabilidad algorítmica, entre otras); el contenido en redes sociales; la política de competencia y la integridad electoral. El objetivo de la coordinación sería elaborar un conjunto de principios y normas que pudieran aplicarse internacionalmente y, al mismo tiempo, permitir que la diversidad interna refleje los valores y costumbres nacionales.
- Supervisar el desarrollo, asesorar sobre las mejores prácticas y considerar las medidas reglamentarias y normativas necesarias para abordar las vulnerabilidades de manera oportuna.
- Evaluar las vulnerabilidades derivadas de esas tecnologías, incluyendo su impacto en la sociedad civil y las medidas reglamentarias y normativas que son necesarias para abordarlas oportunamente.
- Supervisar que esta labor se incorpore a otras organizaciones, como la Organización Mundial del Comercio, que necesita modernizar sus normas comerciales para que reflejen el big data y la inteligencia artificial, pero también elaborar un marco para evaluar las consecuencias en el comercio y el cumplimiento de normas comerciales.
El objetivo no es reinventar el trabajo que se está haciendo. En el mundo, hay muchas iniciativas notables y sustantivas que podrían incorporarse al CED, pero por lo general no están articuladas y, en muchos casos, tienen mandatos limitados que es posible que no sean representativos de intereses mucho más amplios. El objetivo es coordinar esos esfuerzos y llenar las lagunas según sea necesario. A continuación, se presentan algunas de las iniciativas existentes.
Establecimiento de estándares
El Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) ha puesto en marcha una Iniciativa Mundial sobre la Ética de los Sistemas Autónomos e Inteligentes (IEEE Global Initiative). La Unión Internacional de Telecomunicaciones tiene su Simposio Mundial para Reguladores. Los equivalentes nacionales también se llamarán, según sea necesario. La Organización Internacional de Normalización y la Comisión Electrotécnica Internacional han iniciado actividades de elaboración de normas bajo la tutela del Comité Técnico Conjunto (CTC 1). El propio CEF está examinando las repercusiones que tienen las fintech y la forma en que puede requerirse una actualización de las reglas y normas reglamentarias.
El Big Data y la Inteligencia Artificial
La OCDE ha publicado recientemente sus Principios de la IA;[2] la Unión Europea ha promulgado el Reglamento General de Protección de Datos (GDPR por sus siglas en inglés) relacionado con la privacidad, además tiene varias iniciativas en marcha; las Naciones Unidas, a través de su Panel de Alto Nivel del Secretario General sobre la Cooperación Digital, acaba de publicar un informe en el que pide al Secretario General de las Naciones Unidas que facilite un proceso de consulta ágil y abierto para desarrollar mecanismos actualizados de cooperación digital mundial (ONU, 2019). Canadá, junto con otros ocho países, participa en el Digital 9, en el que los participantes comparten prácticas digitales de categoría mundial, colaboran para resolver problemas comunes, identifican mejoras de los servicios digitales y apoyan y defienden las crecientes economías digitales.[3]
Política
El gobierno del Reino Unido ha esbozado muchas iniciativas, entre ellas el Online Harms Paper (documento sobre los daños en línea), (HM Government, 2019), así como la iniciativa Unlocking digital competition: Report of the Digital Competition Expert Panel (Desbloquear la competencia digital: Informe del Panel de Expertos en Competencia Digital), (HM Treasury, 2019). Canadá ha dado a conocer su estrategia nacional de propiedad intelectual[4] , su ciberestrategia (Canadá, 2018), y recientemente, anunció su Carta Digital.[5]
Democracia
Existen muchos esfuerzos significativos en esta área, incluyendo informes del Grupo de Expertos de Alto Nivel de la Comisión Europea sobre noticias falsas y desinformación en línea (2018), la Comisión de Digital, Cultura, Medios y Deportes del Parlamento del Reino Unido sobre desinformación y noticias falsas (Cámara de los Comunes del Reino Unido, 2019), la Comisión Knight sobre Confianza, Medios y Democracia (2019), la Comisión de Verdad, Confianza y Tecnología de la LSE (LSE, 2019), y el Créer un Cadre français de Responsabilisation des Réseaux Sociaux, del Gobierno francés: Agir en France avec une ambition européenne (Potier and Arbiteboul, 2019).
Las plataformas también han anunciado iniciativas: Google (2019) ha publicado recientemente su propuesta “Dar a los usuarios más transparencia, elección y control sobre cómo se utilizan sus datos en la publicidad digital”, Apple y Microsoft han pedido leyes de privacidad más estrictas, y Facebook está en proceso de desarrollar su junta de revisión de contenidos (Bloomberg 2018; Microsoft 2019; Harris 2019).
¿Por qué una nueva institución?
Para darle a esta importante iniciativa de gobernanza alguna esperanza de éxito es necesario la formación de una nueva institución –el CED. Las instituciones actuales del Bretton Woods tienen las manos llenas y no tienen la experiencia en todas estas áreas. Permitirles formular las reformas, probablemente, dejaría el proceso lentamente en su mismo estado actual. Al igual que en el caso de la reforma de la regulación financiera, la realización de una reforma digital requiere la creación de una nueva institución y, también es significativo señalar y reconocer, la importancia de establecer normas y políticas mundiales para el big data, la IA y las plataformas. El escenario ya está listo para avanzar con una organización como el CED. Reconociendo el papel clave que los datos desempeñan en la economía mundial, así como la importancia de la confianza para sustentar su uso, la actual presidencia japonesa del G20 tiene como uno de sus temas clave “el flujo libre de los datos con confianza”.[6]
El Comité Internacional de Big Data, Privacidad y Democracia -que comprende un conjunto diverso de 11 países y más de 400 millones de ciudadanos- podría servir como un trampolín natural para lanzar el CED. El Comité se ha centrado en el comportamiento de las plataformas, incluido su papel en la difusión de noticias falsas. La diversidad de sus miembros -países pequeños y grandes, con diferentes culturas, valores e instituciones- hace que sea ideal para lanzar el CED. La financiación provendría de sus países miembros, junto con donaciones voluntarias y contribuciones en especie a través de la participación en los grupos de trabajo del CED.
Este año es el septuagésimo quinto aniversario de Bretton Woods. Al anunciar la formación del CED se reconocería el importante papel que han desempeñado las instituciones de Bretton Woods en la promoción de un sistema basado en normas -que ha dado lugar a enormes mejoras en los niveles de vida-, al tiempo que se reconocería la necesidad de actualizar estos acuerdos para reflejar las profundas implicaciones que derivan de las plataformas digitales.
Uno de los primeros pasos de la nueva institución sería documentar todas las actividades actuales, buscando los puntos comunes y las principales esferas de divergencia, las lagunas y las instituciones participantes. Con el tiempo, se elaboraría una declaración universal sobre la ética de la IA, siguiendo el modelo de la declaración universal de derechos humanos. Esto requerirá una labor sustantiva y, serían objetivos dignos de ser emprendidos por una nueva institución.
Es un comienzo, no un fin
El CED es un punto de partida. Es probable que un conjunto diverso de países y partes interesadas quieran participar y, de hecho, sería necesario para que la organización tenga legitimidad.
También es probable que haya resistencia a nuevas formas de regulación y de hacer negocios en el espacio de la plataforma tecnológica, de la misma manera que la creación del CEF suscitó oposición. Pero, al igual que en el caso de la reforma del sector financiero, estos esfuerzos son esenciales para obtener todos los beneficios de las plataformas. Construirán y consolidarán la confianza, y la confianza es, en última instancia, lo que atraerá a los usuarios a una plataforma. En consonancia con el carácter abierto de la World Wide Web, el proceso de reforma debe estar abierto a todos los países y organizaciones que deseen adherirse, ya sea al principio o a medida en que madure el proceso de reforma.
El momento de comenzar es ahora.
[1] Véase: http://www.fsb.org/work-of-the-fsb/#coordination.
[2] Véase https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449.
[3] Véase http://www.canada.ca/en/government/system/digital-government/improving-digital-services/digital-9.html#Charter.
[4] Véase http://www.ic.gc.ca/eic/site/108.nsf/eng/h_00000.html.
[5] Véase http://www.ic.gc.ca/eic/site/062.nsf/eng/h_00108.html.
[6] Véase https://g20.org/en/overview/.
Obras citadas
Bloomberg. 2018. «Tim Cook de Apple pide más regulaciones sobre la privacidad de los datos». Noticias Bloomberg, 24 de marzo. http://www.bloomberg.com/news/articles/2018-03-24/apple-s-tim-cook-calls-for-more-regulations-on-data-privacy.
Canadá. 2018. Estrategia Nacional de Seguridad Cibernética: La visión de Canadá para la seguridad y la prosperidad en la era digital. PS4-239/2018E. http://www.publicsafety.gc.ca/cnt/rsrcs/pblctns/ntnl-cbr-scrt-strtg/index-en.aspx.
Grupo de expertos de alto nivel de la Comisión Europea sobre noticias falsas y desinformación en línea. 2018. Informe final. 12 de marzo. https://ec.europa.eu/digital-single-market/en/news/final-report-high-level-expert-group-fake-news-and-online-disinformation.
Google. 2019. «Dando a los usuarios más transparencia, elección y control sobre cómo sus datos se utilizan en la publicidad digital». Propuesta de retroalimentación y discusión, versión 1.0, agosto. http://services.google.com/fh/files/misc/industry_request_for_comment_v1.0.pdf.
Harris, Brent. 2019. «Establecimiento de la estructura y la gobernanza de una Junta de Supervisión Independiente». Facebook Newsroom, 17 de septiembre. https://newsroom.fb.com/news/2019/09/oversight-board-structure/.
Gobierno de Su Majestad. 2019. Libro Blanco de los daños en línea. Presentado al Parlamento por el Secretario de Estado para Digital, Cultura, Medios y Deportes y el Secretario de Estado para el Departamento del Interior por el Comando de Su Majestad, abril. http://www.gov.uk/government/consultations/online-harms-white-paper.
Tesoro de Su Majestad. 2019. Desencadenando la competencia digital: Informe del Panel de Expertos en Competencia Digital. Marzo. http://www.gov.uk/government/publications/unlocking-digital-competition-report-of-the-digital-competition-expert-panel.
Comisión Knight sobre Confianza, Medios de Comunicación y Democracia. 2019. Crisis en la democracia: Renovar la confianza en América. Washington, DC: Instituto Aspen. http://csreports.aspeninstitute.org/documents/Knight2019.pdf.
London School of Economics. 2019. Tackling the Information Crisis: A Policy Framework for Media System Resilience. Londres, Reino Unido: Comisión de la Verdad, la Confianza y la Tecnología de la LSE. http://www.lse.ac.uk/media-and-communications/truth-trust-and-technology-commission/The-report.
Microsoft. 2019. «Microsoft pide una mayor colaboración entre las empresas tecnológicas y el gobierno para fortalecer la confianza de los consumidores en los servicios digitales». Centro de Noticias de Microsoft India, 27 de junio. news.microsoft.com/es-in/microsoft-greater-collaboration-tech-companies-government-strengthen-consumer-trust-digital-services/.
Potier, Frédéric y Serge Abiteboul. 2019. Créer un cadre français de responsabilisation des réseaux sociaux: agir en France avec une ambition européenne. Mayo. Francia: Secrétariat d’Etat au numérique. http://www.ladocumentationfrancaise.fr/var/storage/rapports-publics/194000427.pdf.
Cámara de los Comunes del Reino Unido. 2019. Desinformación y «Noticias Falsas»: Informe final. 18 de febrero. https://publications.parliament.uk/pa/cm201719/cmselect/cmcumeds/1791/1791.pdf.
ONU. 2019. La Era de la Interdependencia Digital. Informe del Grupo de Alto Nivel sobre Cooperación Digital del Secretario General de las Naciones Unidas, junio. https://digitalcooperation.org/report/.
Las opiniones expresadas en este artículo/multimedia son las de su(s) autor(es) y no reflejan necesariamente los puntos de vista del CIGI o de su Junta Directiva.
Acerca del autor
Robert Fay
Robert (Bob) Fay es Managing Director de Economía Digital en el CIGI y responsable de la dirección de la investigación y actividades relacionadas. Tiene una amplia experiencia en investigación macro y microeconómica y análisis de políticas.
First published in English by the Centre for International Governance Innovation, copyright 2019
Acerca de Data.Democracia
Data.Democracia es una iniciativa para mejorar la relación entre democracia y tecnología. La traducción de los ensayos de la colección “Models for Platforms Governance” constituye un esfuerzo de difusión para pensar en políticas públicas tecnológicas colaborativas, internacionalmente coordinadas y con base local.
Data.Democracia 