Viernes 13

Fundación, de Isaac Asimov se publicó en 1951. En esta novela, el escritor estadounidense imaginó una civilización tan avanzada que terminó confiando su destino a sistemas cuyo funcionamiento sólo lo comprendía una minoría.

En esta historia, el científico Hari Seldon advierte que los imperios rara vez caen por un acontecimiento aislado, ya que, antes de hacerlo, suelen convencerse de que su estabilidad es permanente y que ninguna crisis es capaz de alterar el orden establecido.

Asimov desarrolla la idea de que, cuanto más compleja es una sociedad, más dependencia muestra hacia mecanismos que sus integrantes no terminan de comprender del todo. El desarrollo genera confianza y ésta, a su vez, dependencia.

El problema es cuando una falla inesperada pone de relieve la fragilidad de lo que parecía infalible. Precisamente lo ocurrido el pasado viernes 13 en el espacio aéreo de los Estados Unidos nos recordó dicha tesis: detrás de los avances tecnológicos también hay vulnerabilidades.

Millones de personas vieron cómo la nación que alberga a algunas de las empresas tecnológicas más poderosas del planeta tuvo que suspender temporalmente los despegues en todo su territorio debido a una falla en los sistemas de comunicación que coordinan el tráfico aéreo.

Hubo miles de cancelaciones y retrasos. No fue una película de ciencia ficción; una falla bastó para paralizar parcialmente una de las redes más complejas del orbe. En una época en la que se suele asociar tecnología con control, se pasó por alto que, cuanto más sofisticados son los sistemas, mayores suelen ser las consecuencias cuando éstos dejan de funcionar.

Ese mismo día, mientras la aviación comercial estadounidense enfrentaba una crisis, la compañía SpaceX realizaba otra prueba del proyecto Starship, de tal manera que una anomalía durante el regreso obligó a desviar y destruir el propulsor Super Heavy sobre las aguas del Golfo de México.

La coincidencia llama la atención pues, por un lado, una nación desarrollada no pudo garantizar el funcionamiento normal de su red aérea; por otro, una empresa privada lleva al límite la exploración espacial. Ambos hechos muestran el poder de la tecnología y los riesgos que acompañan su desarrollo.

La historia humana también se cuenta a través de sus avances. El fuego nos permitió sobrevivir; la imprenta multiplicó el conocimiento; la electricidad transformó la producción y la vida cotidiana; internet conectó continentes. Ahora entramos en otra etapa,la de la inteligencia artificial (IA).

Sus avances son extraordinarios, pero el entusiasmo no debe desplazar a la prudencia. La IA ofrece grandes beneficios, aunque también plantea problemas concretos, como la concentración de datos en pocas corporaciones, sustitución de empleos, desinformación, sesgos algorítmicos y dependencia tecnológica.Y estos son desafíos tangibles, no amenazas lejanas.

La innovación avanza más rápido que las normas para regularla; sin embargo, los costos suelen afectar a quienes tienen menos posibilidades de defenderse. Los beneficios se concentran arriba y los riesgos terminan distribuyéndose entre la población.

Cuando falla una red aérea, las y los pasajeros pierden sus vuelos; cuando una plataforma difunde información falsa, la ciudadanía enfrenta las consecuencias; cuando un algoritmo discrimina, las personas comunes padecen la exclusión. Y cuando un proyecto tecnológico provoca incidentes o impactos ambientales, las comunidades cercanas viven directamente sus efectos.

El desarrollo tecnológico merece reconocimiento, pero también requiere legislación, transparencia, responsabilidad y protección para los pueblos. Alcanzar nuevas metas no significa progreso, éste radica en evitar que sus riesgos impacten injustamente sobre la gente.

La tecnología tampoco es neutral, sino que responde a intereses económicos, políticos y sociales. Puede ampliar derechos o restringirlos, democratizar oportunidades o profundizar desigualdades. Todo depende de las decisiones colectivas que orienten su desarrollo.

Yo mismo he planteado que la IA no puede permanecer en un vacío jurídico. En mi libro Hacia una ley de inteligencia artificial en México: análisis y propuestas, abordé el desafío de aprovechar una herramienta capaz de transformar la salud, la educación, la juridicidad, la productividad y los servicios públicos, sin descuidar la protección de los datos y los derechos fundamentales.

Lo ocurrido este viernes 13 en Estados Unidos confirma que la seguridad tecnológica ya no es un asunto del futuro. Ninguna tecnología está exenta de errores y, cuando éstos ocurren, las consecuencias las padecen las personas, no las máquinas.

México debe aprender de estas experiencias; no podemos esperar a que los problemas nos alcancen. Por esa razón, hace tiempo también presenté ante el Congreso una iniciativa para expedir la Ley Federal que Regula la Inteligencia Artificial, que busca establecer reglas para desarrollar, implementar y supervisar responsablemente estos sistemas en nuestro país.

Necesitamos un modelo propio que combine innovación, soberanía tecnológica, competitividad económica y protección a los derechos humanos. El verdadero desarrollo no se mide por la velocidad con que aprenden las máquinas, se calcula por la capacidad de los gobiernos y los desarrolladores para asegurar que dicho conocimiento opere siempre en favor de las personas y no en su perjuicio.

ricardomonreala@yahoo.com.mx 

@RicardoMonrealA

Share the Post: