Las grandes compañías de IA quieren echar el freno: ¿es una pausa por motivos de seguridad o más bien una retirada estratégica?

Durante el fin de semana, el director ejecutivo de Anthropic, Dario Amodei, pidió a las empresas de inteligencia artificial (IA), incluida la suya propia, que ralentizaran su ritmo de trabajo. Sam Altman y Elon Musk, directores de las empresas rivales OpenAI y xAI, respectivamente, se mostraron de acuerdo.

Esta medida refleja la preocupación en todo el sector de la IA y, en términos más generales, sobre los peligros de los nuevos sistemas, que mejoran rápidamente. Incidentes recientes de gran repercusión, como el de los agentes de IA de OpenAI que piratearon otra empresa y el secuestro de una página web pública, han demostrado que los modelos actuales pueden traspasar los límites de seguridad, y que se están desarrollando sistemas aún más potentes.

Lo que complica aún más la seguridad de la IA es la tensión entre seguridad y rendimiento. Las empresas se mostrarán reacias a limitar la eficacia de sus modelos en nombre de la seguridad por miedo a perder terreno frente a la competencia. El presidente de Estados Unidos, Donald Trump, también ha rechazado las peticiones de ralentizar el avance, por miedo a perder terreno frente a China.

Esto significa que cualquier esfuerzo exitoso por “regular el ritmo de avance de las capacidades para que la prevención de riesgos tenga tiempo de seguir el ritmo”, como dice Amodei, requerirá una cooperación significativa entre empresas rivales (y naciones).

Minimización de riesgos

Las nuevas tecnologías suelen traer consigo nuevos riesgos y nuevas preocupaciones. A menudo, los gobiernos, los investigadores y las empresas encuentran formas de gestionar esos peligros.

En 1975, la conferencia de Asilomar sobre las entonces nuevas tecnologías del ADN contribuyó en gran medida a garantizar que la investigación no se adelantara a nuestra comprensión de la seguridad y el riesgo. De manera similar, en la década de 1990, el Gobierno de Estados Unidos intentó alcanzar un consenso sobre la limitación de la criptografía y la seguridad informática.

La situación de la IA presenta una complicación adicional: el sector se encuentra en plena “fiebre del oro”. Puede que los rivales científicos sean capaces de contenerse, pero los competidores comerciales rara vez se frenan.

Existen precedentes claros de fracaso de la autorregulación ante la presión competitiva. En el desastre del Boeing 737 Max de 2018, por ejemplo, el anhelo de alcanzar a su rival Airbus llevó a Boeing a ocultar las limitaciones del Max, lo que finalmente costó vidas humanas.

En la carrera por la IA, la intensidad de la competencia es aún mayor. Anthropic y OpenAI rivalizan por afianzar su dominio en el mercado antes de salir a bolsa, lo que podría reportarles decenas o cientos de miles de millones de dólares.

Y a nivel de los Estados, lo que está en juego es aún mayor, con Estados Unidos y China apostando por utilizar la nueva tecnología para obtener ventajas geopolíticas.

Las ventajas de hacer una pausa

La propuesta de Amodei para frenar el avance se centra en un plan de tres pasos: incorporar revisores de seguridad independientes externos, establecer normas de seguridad coordinadas para el sector en los países democráticos y, finalmente, alcanzar acuerdos globales. Esto incluiría límites estrictos a las exportaciones de chips de IA a empresas y países que no acepten dar prioridad a la seguridad de la IA.

Anthropic y OpenAI ya han aceptado la primera fase de este plan, a pesar de su historial de demandas, insultos públicos y competencia desleal en su lucha por el dominio del mercado.

Y aunque los recientes ataques informáticos pueden haberles obligado a dar este paso, las principales empresas de IA en realidad podrían beneficiarse de una pausa o ralentización del desarrollo. Por un lado, tal vez retrasaría la implantación de una legislación estricta como la propuesta por el senador estadounidense Bernie Sanders: la Ley de Prohibición de la Superinteligencia Artificial. Por otro lado, al establecer costosas normas de seguridad y limitar las exportaciones de chips, podría impedir que los competidores más pequeños —especialmente empresas chinas como DeepSeek y Alibaba— les alcancen.

Una pausa también daría a los laboratorios de vanguardia, que están al límite de sus capacidades, la oportunidad de reponerse, recuperarse y centrarse en los beneficios por encima del progreso.

Estos laboratorios de IA han invertido enormes cantidades de dinero en desarrollar sus modelos actuales, una inversión que deben amortizar. Al mismo tiempo, el progreso se está topando con obstáculos, ya que cada vez es más difícil encontrar nuevos datos de entrenamiento de alta calidad, así como la construcción de la enormes infraestructuras de centros de datos necesaria para sostener el desarrollo supone un reto en sí mismo.

Una pausa coordinada por motivos de seguridad podría ser una excusa pública conveniente para justificar un estancamiento en el rendimiento de los modelos de IA.

¿Qué se puede hacer?

Garantizar la seguridad de la inteligencia artificial no será fácil. La gobernanza del software es particularmente difícil, como han demostrado los intentos anteriores de legislar sobre el software de cifrado.

Por otra parte, la IA depende de hardware físico relativamente escaso. Necesita chips de silicio avanzados y los enormes centros de datos necesarios para alimentarlos.

Aquí es donde los gobiernos tienen una influencia real. En este ámbito disponen de medios para supervisar y controlar el desarrollo de la IA, si es que encuentran la voluntad legislativa necesaria.

Mientras tanto, hay medidas que las empresas y los gobiernos pueden adoptar para minimizar nuestra exposición a los daños provocados por la IA. Esto debería incluir garantizar que las infraestructuras críticas para la seguridad —como las redes eléctricas, el suministro de agua y los sistemas militares— no solo estén aisladas de la IA, sino que incluso estén aisladas por completo de internet.

Y la cuestión de la responsabilidad también es importante. No pueden ser solo los usuarios quienes se enfrenten a riesgos legales por actos asistidos por la IA, sino también las personas responsables de crear los sistemas.

En esencia, el daño causado por la IA —incluso por los sistemas “autónomos"— no es un subproducto tecnológico abstracto. Es el resultado directo de las decisiones tomadas tanto por quienes crean la IA como por quienes la utilizan.

Andrew Cullen es miembro del consejo de administración de Music Technology Australia, miembro del Comité Técnico de Intercambio sobre Inteligencia Artificial de la Organización Mundial de la Propiedad Intelectual y consultor director de EthiCan Consultants.