Poner en marcha las prohibiciones de tecnología

A mediados de julio de 2019, Oakland, California, se convirtió en la tercera ciudad de Estados Unidos en prohibir a los departamentos municipales el uso de la tecnología de reconocimiento facial. Mientras tanto, el Congreso inició audiencias sobre si y cómo regularlo a nivel nacional. En un momento sorprendente de consenso bipartidista, lo único por lo que lucharon los legisladores fue sobre cuán extensas deberían ser las restricciones.

Esta respuesta a una tecnología poderosa y potencialmente invasiva es una señal de cómo el público y los responsables políticos podrían responder a los futuros desarrollos tecnológicos, especialmente aquellos que utilizan la inteligencia artificial. El reconocimiento facial no sólo permite a Facebook automatizar el etiquetado de personas en las fotos, sino que también aumenta la capacidad de las fuerzas del orden para localizar a los sospechosos de delitos. Las cuestiones éticas abundan. Como dijo el Centro de Privacidad y Tecnología de Georgetown, el reconocimiento facial podría conducir a "un mundo en el que, una vez que se pone un pie fuera, el gobierno puede seguir cada uno de sus movimientos". Y esto es sólo el principio.

En el horizonte se vislumbra una avalancha de innovaciones digitales que podrían ser al menos igual de poderosas, amplias y controvertidas: vídeos de "falsificación profunda" que muestran a la gente haciendo cosas que nunca hicieron, el "Internet de las cosas" que vigila constantemente los hogares privados, la realidad virtual manipuladora, los coches que conducen por sí solos abrumando a las comunidades y mucho más.

Soy un investigador que estudia los impactos sociales de la tecnología digital, y mi trabajo es mantenerme informado sobre las tecnologías futuras y proyectar resultados futuros. Pero, con cada vez más innovación, cada vez hay menos tiempo para reflexionar sobre las consecuencias. Muchos de mis colegas piensan lo mismo.

Para domar esta marea turbulenta, la sociedad necesita presas y diques. Al igual que ha comenzado a suceder con el reconocimiento facial, es hora de considerar prohibiciones legales y moratorias sobre otras tecnologías emergentes. No es necesario que sean permanentes o absolutos, pero la innovación no es un bien absoluto. Cuanto más potente es una tecnología, más cuidados requiere para operar con seguridad.

Poca urgencia

No hay una necesidad apremiante de la mayoría de las nuevas tecnologías digitales. Algunas innovaciones, por supuesto, son casi completamente positivas: anestesia, luz eléctrica, radio, vacunas. Pero la sociedad actual a menudo celebra la innovación por su propio bien, incluso cuando los beneficios son cuestionables, y cada vez más, los beneficios son cuestionables.


 
¿Va le la pena un cielo lleno de gente, lleno de aviones teledirigidos, para recibir una hora de entrega de bienes de consumo, en lugar de una entrega en 24 horas, o incluso dos días? ¿Es tan grande la realidad virtual que los niños deberían crecer con los ojos pegados a las pantallas de vídeo? Cuando los gobiernos pueden llevar a cabo asesinatos difíciles de rastrear con aviones teledirigidos, ¿hay alguien realmente seguro? Escanear listas de posibles tecnologías futuras puede incitar más al miedo que a la esperanza.

Este tipo de innovaciones fracasan repetidamente en proporcionar mejoras generales de manera verdaderamente significativa, como por ejemplo, cuán profundamente se aman las personas, cuán compasivamente se preocupan, cuán bien la sociedad apoya a los menos privilegiados, o cuán sabiamente los seres humanos administran el planeta. En todo caso, la tecnología parece amplificar las debilidades morales de los humanos al mimar a la gente con comodidades para el consumidor y cámaras de eco. El último medio siglo ha sido testigo de una época dorada de innovación digital, pero las tasas de pobreza se han estancado, la desigualdad se ha disparado y la sostenibilidad parece estar más allá de su alcance.

La mayoría de los avances tecnológicos en las obras de hoy no abordarán esos problemas; abordarán molestias menores que simplemente no hay prisa por aliviar.