CONFUSIÓN ARTIFICIAL

Por Francisco Velázquez

Tiempos raros: sorprendentes, confusos y a menudo inquietantes, si seguimos con atención las noticias. Del cierre de dos de los estrechos más importantes del mundo para el comercio internacional, Bab el-Mandeb y Ormuz, pasamos de inmediato a la alarma levantada por los capitanes de la Inteligencia Artificial, que sin ningún tipo de rubor declaran que pueden ocurrir grandes desastres con el descontrol de la IA.

La sorpresa ciudadana se basa al menos en dos aspectos. El primero tiene que ver con la casi total unanimidad de las grandes empresas hasta ahora embarcadas en estratosféricas operaciones de bolsa, al parecer paralizadas temporalmente. El segundo en el criterio compartido de que la auto regulación debe ser el camino a seguir. La unanimidad no es total, porque parece que Meta se desmarca de las llamadas de atención de Anthropic, Open AI, Nvidia y otras.

Desde luego que no son favorables a que los gobiernos regulen, sino en que deben ser ellos mismos quienes lleven a cabo el diseño de los semáforos convenientes. “Ahora mismo somos empresas privadas que trabajan sin ningún tipo de regulación”, explica una ejecutiva, que apunta a la necesidad de que se establezcan reglas con mayor rapidez y coordinación. Pero estas reglas, a todas luces necesarias, se enfrentan con dos posiciones distintas. Por una parte, las grandes empresas tecnológicas que entienden que la autorregulación es necesaria y urgente, e instituciones como la Unión Europea, que ha comenzado ya a legislar en la materia con la ley digital y las prohibiciones de acceso a menores. La Comisión Europea ha dado por fin el paso que vienen reclamándole desde hace meses varios Estados, entre ellos España, y ha presentado la Kids Act, o Ley de niños, que pretende salvaguardar a los menores. Como señala el reglamento propuesto, se trata de “velar por que los espacios digitales de internet sean responsables y fiables”.

En medio, la administración norteamericana y probablemente China, partidarios de que la carrera no debe tener obstáculos de ningún tipo. Sin embargo, los anuncios de las últimas semanas auguran catástrofes relevantes si no se establecen reglas de funcionamiento que impidan que la Inteligencia Artificial genere dificultades a la humanidad. La seguridad es primordial. Es la tarea número uno. Ahora bien, la seguridad es un problema de ingeniería. Al fin y al cabo, desarrollamos software, afirma Huang, CEO de Nvidia.

Una opción, derivada de la cultura del multilateralismo, hoy en horas bajas, sería que tanto Estados Unidos como todos los gobiernos democráticos se coordinaran con los que están desarrollando la IA. No parece que sea la opinión de las grandes compañías tecnológicas, al menos por el momento.

Barack Obama declara que es necesario regular el sector y que no se puede dejar esa tarea en manos de los propios desarrolladores, sino que tiene que corresponder al Gobierno. Por su parte, el omnipresente y actual presidente norteamericano señala que “Ni los robots van a controlar el mundo, ni la inteligencia artificial va a controlar el mundo. Todo este tema es un engaño”.

El director general de Anthropic, Dario Amodei, ha advertido del peligro de “perder el control de los sistemas” de inteligencia artificial y del uso indebido de la IA para ciberataques y bioterrorismo. Por su parte ha lanzado una propuesta de plan de acción cuyo objetivo principal es bajar el ritmo de desarrollo de estos sistemas e incluye que las compañías que están desarrollando la IA permitan el pleno acceso de verificadores externos.

La autorregulación ha sido siempre el sueño de todos los magnates de la industria y el comercio. El mercado se controla a sí mismo, habría que añadir sin perjuicio de los que más débiles perecen por el camino…

Aunque no se conoce totalmente lo ocurrido en los incidentes de ciberseguridad de los últimos meses, parece que no fue que las máquinas se rebelaran, sino que los sistemas de IA cada día más potentes hicieron lo que se les pidió: buscar las rutas necesarias para solucionar los problemas, aunque en forma distinta a la prevista por los ingenieros de Open AI.

Se impone por sentido común establecer una gobernanza global sobre la materia y simultáneamente regulación en cada país, como ha empezado a realizar la Unión Europea. Como en casi todos los asuntos, las elecciones de noviembre en Estados Unidos serán determinantes, pues si los demócratas alcanzan la mayoría una regulación de la materia verá la luz, a juzgar por las declaraciones de sus líderes como Bernie Sanders, en este caso coincidente con Obama.

El problema requiere una solución pronta. Hasta los grandes competidores tecnológicos lo han manifestado con crudeza. La solución, como la tecnología de la Inteligencia Artificial que alcanza a todos los países, tiene que ser mundial. Bueno sería que en el seno de la ONU los países se pusieran manos a la obra.

Sobre el autor:

Francisco Velázquez es Presidente de la Academia Española de Administración Pública.

@fjvelazquez.bsky.social