*Reenvía el título original: ‘“Solo lo apoyo si es open source” debería ser una perspectiva más habitual’

Una de las inquietudes recurrentes acerca de determinadas tecnologías radicales es que puedan intensificar las desigualdades de poder al estar, inevitablemente, reservadas solo a los ricos y poderosos.

He aquí una cita de alguien preocupado por las consecuencias de la extensión de la vida:

“¿Habrá personas que se queden atrás? ¿Acabaremos haciendo una sociedad todavía más desigual que ahora?”, planteó. Tuljapurkar previó que el auge de la longevidad se restringirá a los países acomodados, donde los ciudadanos pueden costearse la tecnología antienvejecimiento y los gobiernos pueden asumir la financiación de la investigación científica. Esta diferencia complica el debate actual sobre el acceso a la sanidad, ya que los ricos se distancian cada vez más de los pobres, no solo en cuanto a calidad de vida, sino también en cuanto a longevidad.

“Las grandes farmacéuticas cuentan con un historial bien conocido de dificultad a la hora de garantizar el acceso a quienes no pueden pagar”, añadió.

Si las tecnologías antienvejecimiento se distribuyen en un mercado libre sin control, “me parece muy probable que acabemos con clases subalternas permanentes a escala global, con países atrapados en las condiciones de mortalidad actuales”, advirtió Tuljapurkar. “Si ocurre eso, se produce una reacción negativa, un círculo vicioso. Aquellos países que quedan excluidos seguirán así”.

Aquí tienes también palabras contundentes de un artículo sobre las consecuencias de la mejora genética humana:

A principios de mes, científicos anunciaron que habían editado genes en un embrión humano para eliminar una mutación causante de enfermedad. El trabajo fue asombroso y respondía a las plegarias de muchos padres. ¿Quién no querría evitar a sus hijos sufrimientos innecesarios?

Pero ahí no acaba todo. Muchos padres querrán asegurarse de que sus hijos gocen de las mejores ventajas mediante mejora genética. Quienes tengan recursos podrán acceder a ello. Esa posibilidad plantea dilemas éticos que van más allá de la seguridad última de las técnicas. Su elevado coste generará escasez y agravará aún más la brecha de ingresos.

Y puntos de vista similares en otros ámbitos tecnológicos:

• Tecnología digital en general: https://www.amnestyusa.org/issues/technology/technology-and-inequality/
• Viajes espaciales: https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html

• Geoingeniería solar: https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57

  Este es un recurrente en muchas críticas a la innovación tecnológica. Existe otro argumento, relacionado pero crucialmente distinto, que alude a los productos tecnológicos como herramientas de recopilación de datos, forzar dependencia del proveedor, ocultar deliberadamente efectos secundarios (como se ha criticado, por ejemplo, con las vacunas modernas), y otras formas de abuso. Las tecnologías emergentes tienden a generar más oportunidades para “dar” a alguien algo sin proporcionarle los derechos ni toda la información, y desde esta óptica las tecnologías tradicionales a menudo parecen más seguras. También se trata de una tecnología que refuerza a los poderosos a costa de los demás, pero aquí el eje es el fabricante frente al usuario, no tanto la desigualdad de acceso.

  A título personal, soy muy partidario de la tecnología, y si tuviera que elegir entre “avanzar” o “quedarme donde estamos”, impulsaría sin dudarlo todo, salvo una pequeña lista (p. ej., investigación de ganancia de función, armas y superinteligencia artificial), a pesar de los riesgos. Esto se debe a que, en términos generales, los beneficios —vidas mucho más largas y saludables, una sociedad más próspera, mantener la relevancia humana en una época de IA en rápida evolución, preservar la continuidad cultural al permitir que las generaciones mayores sobrevivan como personas y no solo como recuerdos en los libros de historia— superan, con mucho, los inconvenientes (que a menudo se sobrevaloran).

  Pero, ¿qué ocurriría si adoptara la perspectiva de alguien menos optimista respecto a las implicaciones positivas, o más temeroso de que las élites usen las nuevas tecnologías para perpetuar su dominio económico y su control, o ambas cosas? Por ejemplo, ya percibo esto en los dispositivos del “hogar inteligente”: el beneficio de controlar la bombilla con la voz no compensa que mi vida personal quede expuesta a Google o Apple. Con una visión aún más pesimista, sentiría lo mismo respecto a ciertas tecnologías mediáticas: si permiten que los poderosos difundan mensajes de forma mucho más efectiva que el resto, pueden servir para ejercer control y acallar al resto, y para muchos de estos avances, lo conseguido en información o entretenimiento no compensa la redistribución de poder.

Open source como tercera vía

Un enfoque que, en mi opinión, no recibe suficiente valoración en estos casos es: apoyar únicamente el desarrollo de una tecnología si es open source.

Existen argumentos sólidos a favor de que el open source acelera el avance: facilita enormemente que la comunidad construya sobre el trabajo de otros. También existen motivos de peso para pensar que exigir open source puede ralentizar el progreso: impide emplear muchas estrategias habituales de monetización. Pero lo más interesante de la opción open source son las consecuencias que trascienden el eje “más rápido contra más lento”:

• El open source mejora la igualdad de acceso: si algo es open source, cualquiera puede acceder en cualquier país. Para bienes y servicios físicos, se siguen pagando costes marginales (por unidad), pero en muchísimos casos los altos precios de productos propietarios se deben a costes fijos elevados (ejemplo: los NRE de innovación), mientras que los costes marginales suelen ser bajos (especialmente en farmacéuticas).
• El open source amplía la igualdad de acceso a la producción. Una crítica frecuente a ofrecer productos gratis (incluso si son claramente positivos, como la sanidad) es que eso no ayuda a la gente a adquirir habilidades, experiencia ni progresar económicamente, que es lo único que garantiza un acceso sostenible a una vida de calidad (véase la crítica de Magatte Wade a la ayuda en África). El open source es lo opuesto: se basa en permitir que cualquier persona, en cualquier lugar, pueda ser productor en cualquier fase de la cadena de valor, y no solo consumidor.
• El open source mejora la verificabilidad: si algo es open source (idealmente incluyendo no solo el resultado, sino también el proceso, cómo se fijan los parámetros, etc.), resulta mucho más sencillo comprobar que lo que recibes coincide con lo que promete el proveedor, y que terceros puedan investigar para detectar inconvenientes ocultos.

• El open source elimina oportunidades de dependencia del proveedor. Si algo es open source, el fabricante no puede inutilizarlo a distancia, ni dejar de prestar servicio si entra en quiebra (como ocurre con los temores a que los coches informatizados/conectados dejen de funcionar si su fabricante desaparece). Siempre mantienes el derecho a reparar por tu cuenta o con otro proveedor.

  Puedes analizar esto respecto a algunas de las tecnologías radicales mencionadas al inicio:

• Si la tecnología de extensión de vida es propietaria, podría estar restringida a multimillonarios y dirigentes políticos (personalmente prevéo que estos avances se abaratarán pronto, pero tal vez seas más escéptico). Si es open source, cualquiera puede utilizarla y ofrecer servicios a precios mucho más bajos.

• Si la mejora genética humana es privativa, solo multimillonarios y élites políticas podrían acceder, originando una superclase. (De nuevo, creo que con el tiempo se democratizará, pero existirá una diferencia entre lo que obtiene el más privilegiado y lo que recibe el común de la población). Si es open source, esa distancia se reduce enormemente.
• Para la biotecnología en general, un ecosistema de pruebas de seguridad basado en la open science podría resultar más honesto y efectivo que una empresa avalando la seguridad de su propio producto y obteniendo el visto bueno de un regulador complaciente.
• Si solo unos pocos pueden viajar al espacio, en función de cómo evolucionen las políticas, existe la posibilidad de que alguien acapare un planeta o luna enteros. Si la tecnología se distribuye de forma más abierta, tendrán menos margen para ello.

• Si tu coche inteligente es open source, puedes comprobar que el fabricante no te espía y no dependes de él para seguir utilizándolo.

  En resumen, el argumento se puede plasmar así:

Observa que el área de “solo desarrollarlo si es open source” es más amplia, lo que refleja la gran incertidumbre sobre hasta qué punto el open source acelerará el desarrollo y cuántos riesgos de concentración de poder logrará evitar. Pese a ello, estadísticamente, es una opción que sale a cuenta en una variedad de situaciones.

Open source y riesgo de abuso

Un argumento importante que se esgrime para no abrir tecnologías potentes es el riesgo de conductas de suma cero y de abusos no jerárquicos. Poner armas nucleares en manos de todo el mundo pondría fin a la desigualdad nuclear (que es real; hemos visto repetidamente cómo grandes potencias emplean la asimetría nuclear para intimidar), pero a la vez conduciría casi seguro a miles de millones de muertes. Por poner otro ejemplo de consecuencia negativa sin daños intencionados: si todo el mundo accediera a la cirugía estética, podría desencadenarse un juego competitivo donde todos gastan recursos e incluso arriesgan su salud solo por ser más atractivos, pero al final la sociedad no mejora porque ese estándar se normaliza. Algunas biotecnologías podrían provocar este tipo de efectos, y muchas tecnologías (y buena parte de la biotecnología) se mueven entre ambos extremos.

Este argumento es razonable para defender la postura opuesta: “Solo lo apoyo si está cuidadosamente controlado por garantes fiables”. Estos garantes podrían permitir los usos positivos y excluir los negativos. Incluso podrían recibir un mandato público para garantizar la igualdad de acceso a todos los que respetaran ciertas reglas. Pero soy muy escéptico con este planteamiento. La razón principal es mi desconfianza en la existencia, a día de hoy, de garantes realmente fiables. Muchos de los usos de riesgo más extremo y de suma cero son militares, y la experiencia demuestra que los ejércitos no se auto-restringen fácilmente.

Un buen ejemplo es el programa soviético de armas biológicas:

A pesar de su contención ante la IDS y las armas nucleares, la actitud de Gorbachov respecto al programa ilegal soviético de armas biológicas resulta paradójica, según destaca Hoffman.

Cuando Gorbachov llega al poder en 1985, la Unión Soviética cuenta con un gran programa de armas biológicas iniciado por Brézhnev, pese a haber firmado la Convención de Armas Biológicas. Además del ántrax, los soviéticos investigan la viruela, la peste y la tularemia, aunque no está claro cuáles eran sus fines y objetivos.

“Los documentos de Kateyev prueban que, a finales de los años 80, hubo varias resoluciones del Comité Central sobre el programa de guerra biológica. Es difícil creer que se firmaran y despacharan todas sin que Gorbachov estuviera al tanto”, señaló Hoffman.

“Incluso hay una nota de mayo de 1990 dirigida a Gorbachov sobre el programa de armas biológicas, y en ese propio documento tampoco se revela todo. Los soviéticos engañaron tanto al resto del mundo como a sus propios dirigentes.

Consulta también este enlace, donde se argumenta que ese programa pudo acabar estando disponible para otros países tras la caída soviética (!!).

Otros países tienen errores graves que responder. No es necesario enlazar todos los casos destapados sobre la participación de numerosos estados en investigaciones de ganancia de función y los riesgos asociados (este libro es bastante ilustrativo). En el ámbito digital (por ejemplo, el financiero), la historia de la interdependencia convertida en arma demuestra cómo lo que nació como prevención de abusos fácilmente degenera en poder unilateral del operador.

Esta es otra debilidad de los garantes: habitualmente dependen de gobiernos nacionales, y estos pueden esforzarse en garantizar la igualdad de acceso dentro de sus fronteras, pero no existe ninguna entidad con mandato real de asegurar la igualdad entre países.

Dejo claro que no estoy diciendo “los garantes también son malos, así que todo vale” (al menos, no para la investigación de ganancia de función). Mi planteamiento es:

• Si un avance conlleva tanto riesgo de “abuso generalizado” que solo aceptarías verlo en entornos encapsulados con garantes centralizados, quizá la mejor solución sea no desarrollarlo en absoluto y apostar en cambio por tecnologías alternativas con mejor perfil de riesgo.
• Si los riesgos de “dinámicas de poder” son tan altos que hoy no tolerarías siquiera intentarlo, quizá la solución sea hacerlo, pero sólo open source, para que todos tengan la opción real de comprender y participar.

Destaco también que “open source” no equivale a “barra libre”. Por ejemplo, apoyaría la geoingeniería realizada de forma open source y open science. Pero eso no significa que cualquiera pueda desviar ríos o lanzar lo que quiera a la atmósfera: existen legislación y diplomacia internacional, y esas acciones se detectan con facilidad, lo que hace bastante viable la exigibilidad de acuerdos. El valor de la apertura reside en: (i) asegurar su democratización efectiva (por ejemplo, que la usen muchos países, no solo uno); y (ii) facilitar el acceso a la información para que las personas puedan formarse criterios propios sobre si lo que se está haciendo es eficaz y seguro.

En esencia, veo el open source como el Schelling point) más fiable para desarrollar tecnología minimizando el riesgo de concentración de riqueza, poder e información. Hay quien intentará diseñar instituciones sofisticadas para separar usos positivos y negativos, pero, en el mundo moderno y caótico, la garantía más robusta y comprensible para el público es que los desarrollos sean abiertos y cualquier persona pueda comprender y participar en el proceso.

En muchos casos, estas preocupaciones importan menos que el avance tecnológico acelerado (o, a veces, que la necesidad de frenarlo hasta contar con contramedidas o alternativas válidas). Pero, de forma marginal, la tercera vía —centrarse menos en la velocidad y más en el tipo de progreso, utilizando el open source como palanca fácilmente reconocible para mejorar la dirección— es una alternativa infravalorada.

Aviso legal:

1. Este artículo se ha reproducido de [vitalik]. Todos los derechos de autor son propiedad del autor original [vitalik]. Si tienes alguna objeción a esta publicación, contacta con el equipo de Gate Learn para su gestión.
2. Descargo de responsabilidad: Las opiniones y puntos de vista expresados en este artículo corresponden únicamente al autor y no suponen ningún tipo de asesoramiento de inversión.
3. Las traducciones de este artículo a otros idiomas han sido realizadas por el equipo de Gate Learn. Salvo indicación expresa, queda prohibida la copia, distribución o plagio de los artículos traducidos.