Demis Hassabis tiene un plan para aprovechar la IA de forma segura

Las superpotencias mundiales de la inteligencia artificial empiezan a ejercer su influencia.

La efímera decisión del gobierno estadounidense de restringir el acceso de los extranjeros a Fable, un sofisticado modelo de IA desarrollado por Anthropic, refleja no solo el deseo de controlar esta tecnología, sino también el temor a los riesgos que podría entrañar si cayera en manos equivocadas.

Ahora también se dice que China está estudiando restringir el acceso desde el extranjero a sus modelos más avanzados.

Sin embargo, para que la IA pueda utilizarse de forma segura, el sector necesita un plan coherente y predecible.

Sir Demis Hassabis, cofundador de Google DeepMind, cree tenerlo.Sir Demis ya había planteado diversas propuestas para regular la IA.

Su última iniciativa —publicada en línea el 14 de julio y desarrollada en una entrevista exclusiva con The Economist— es más concreta.

Según explica, el gobierno estadounidense debería crear un sistema que evaluara la seguridad de los nuevos modelos de IA antes de autorizar su lanzamiento. «Es importante que no se trate simplemente de un organismo del sector», señala.

Sin embargo, considera que una agencia pública convencional tampoco sería adecuada. «No sería capaz de actuar con la suficiente rapidez ni dispondría de los recursos necesarios».

En su lugar, propone inspirarse en la FINRA, la Autoridad Reguladora del Sector Financiero de Estados Unidos, una entidad privada que supervisa a los corredores de bolsa y los mercados de valores.Se trata de una propuesta pragmática.

Han quedado atrás las esperanzas más optimistas —que algunos de sus colegas aún mantienen— de alcanzar primero un consenso internacional.

En opinión de Sir Demis, Estados Unidos debe tomar la iniciativa.

No considera imprescindible un acuerdo global, ya que, a su juicio, los demás países acabarán alineándose para preservar su acceso a la tecnología y al mercado estadounidenses.

Con el tiempo, eso podría incluir incluso a China, lo que ayudaría a evitar una carrera a la baja en materia de seguridad.

Aunque cree que el programa debería ser inicialmente voluntario para los desarrolladores de modelos, espera que termine siendo obligatorio.

La FINRA, por ejemplo, dispone de amplios poderes de ejecución delegados por el Estado.the_economist_0770El planteamiento de Sir Demis difiere del defendido por Sam Altman, director ejecutivo de OpenAI, en un artículo de opinión publicado a principios de este mes en el Financial Times.

Ambos coinciden en que la misión del nuevo organismo supervisor debería consistir en establecer normas, evaluar riesgos y garantizar que solo los países comprometidos con esos principios puedan acceder a la IA de vanguardia.

Sin embargo, Altman aboga por un esfuerzo de carácter internacional, aunque coordinado por Estados Unidos.

Ambas propuestas fueron presentadas a los líderes mundiales durante la reciente cumbre del G7 celebrada en Francia.La propuesta de Sir Demis es, hasta la fecha, la más detallada presentada por una figura destacada del sector de la IA.

Los principales líderes de esta industria suelen mostrarse más cómodos reclamando normas de forma genérica que diseñando desde cero un organismo regulador.

Sir Demis, en cambio, ha prestado atención a los aspectos más prácticos.

Considera que la nueva agencia debería financiarse con aportaciones de la propia industria y que una de sus prioridades iniciales sería atraer a profesionales altamente cualificados.

Mientras tanto, los organismos de seguridad de la IA ya existentes podrían proporcionar apoyo temporal.«Laboratorios de vanguardia»Sir Demis propone que la nueva agencia centre su labor en los laboratorios que desarrollan los modelos de IA más avanzados.

Propuestas anteriores de Estados Unidos y de la Unión Europea utilizaban como referencia aproximada la potencia de cálculo empleada para entrenar un modelo a la hora de determinar cuándo era necesaria una supervisión específica.

Sir Demis plantea un enfoque distinto: clasificar un modelo como «de vanguardia» cuando supere determinados umbrales en un conjunto seleccionado de pruebas de referencia.

Los desarrolladores de esos modelos pasarían a ser considerados «laboratorios de vanguardia» y asumirían responsabilidades adicionales.

Sir Demis destaca el carácter «elegante» de este planteamiento, ya que evita el debate sobre si los modelos académicos o de código abierto deben quedar incluidos o excluidos.

Lo verdaderamente importante son sus capacidades.La selección de los criterios de evaluación adecuados constituiría una de las principales responsabilidades de la nueva agencia.

En la actualidad, las pruebas aplicadas a los modelos de IA se centran sobre todo en capacidades con interés comercial, como la programación o los conocimientos generales.

Algunas organizaciones han ido más allá: el AI Security Institute del Reino Unido, por ejemplo, dispone de una prueba muy reconocida sobre capacidades de ciberataque que simula un intento de intrusión en una central eléctrica.

Sin embargo, otras características —como la disposición de un modelo a ignorar instrucciones o a fingir ser menos capaz de lo que realmente es— apenas se evalúan de manera sistemática ni permiten establecer umbrales de seguridad.«Hemos visto la amenaza cibernética y se avecinan amenazas mucho más graves.

Hay que hacer algo» Sir Demis HassabisLograr el respaldo de una comunidad de IA cada vez más dividida no será sencillo, aunque las coincidencias con la propuesta de Altman sugieren que no es una meta inalcanzable.

Además, el gobierno estadounidense parece haber tomado nota y, según diversas informaciones, está a punto de presentar su enfoque preferido.Después llegará la parte más complicada. «Ninguna propuesta está a salvo de una mala ejecución», reconoce Sir Demis. «Obviamente, hay versiones de esto que podrían no resultar especialmente útiles».Aun así, insiste en que actuar con rapidez es una necesidad urgente. «El tiempo apremia; ya vamos tarde.

Hemos visto la amenaza cibernética y se avecinan amenazas mucho más graves.

Hay que hacer algo: este es el momento». ...