Star Metro - ¿Se puede "apagar" una inteligencia artificial?

La pregunta parece cada vez más pertinente teniendo en cuenta que se multiplican los incidentes de seguridad relacionados con la IA y aumentan los temores sobre los peligros de esta tecnología.

- ¿Existe un "interruptor de emergencia"? -

"En el ámbito de la ciberseguridad vinculada con la IA", un interruptor de apagado de emergencia o "kill switch" en inglés, designa "la capacidad de interrumpir la ejecución de la acción de un agente de IA" --un programa construido sobre un modelo de IA generativa capaz de encadenar por sí solo una serie de tareas--, explica a AFP Nicolas Papernot, profesor en la Universidad de Toronto y especialista en seguridad informática e IA.

Este mecanismo tendría que poder activarse si una IA se escapa de todo control y presenta un riesgo para la seguridad.

Una IA sigue siendo un "programa informático", señala el investigador.

"La persona o la organización que lo ha creado puede detenerlo negándole el acceso a la potencia de cálculo necesaria para su ejecución", añade.

La situación se complica cuando se autoriza al programa a actuar más allá de su entorno inicial.

Según Papernot, esto puede pasar si un "gusano informático" (programa malicioso) controlado por la IA se propaga utilizando los recursos de otros aparatos para duplicarse. "En ese caso, habría que interrumpir simultáneamente todas las copias generadas por el gusano, aparato por aparato", explica.

Para Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, la cuestión sobre el "kill switch" puede alimentar la idea de "un riesgo metafísico" con una IA que tendría una voluntad propia. Pero para él, el peligro más concreto es nuestra creciente dependencia de estos sistemas.

- ¿Se puede realmente apagar una IA? -

Para Thierry Poibeau, director de investigación en el CNRS y especialista en IA, la imagen de un único botón que permita "apagar la IA" es engañosa.

"No se puede realmente cortar la IA así como así, hay una gran cantidad de empresas en todo el mundo, de programas, de servicios distintos", afirma. "No hay nadie que controle la IA" en su conjunto.

En cambio, sí es técnicamente posible detener un sistema concreto cuando se controlan las máquinas y los servicios de los que depende.

En un artículo publicado en LinkedIn, Hussein Abbass, profesor de informática en la Universidad de Nueva Gales del Sur (UNSW) de Canberra, presenta tres niveles de complejidad.

En el primero, el sistema permanece en el entorno controlado por su operador: la puesta en marcha de un dispositivo de parada de emergencia es "en teoría y en la práctica realizable".

En el segundo nivel, el agente dispone de permisos para intervenir en otros programas, archivos o máquinas: se vuelve más difícil detenerlo, especialmente las acciones que ya desencadenó.

En el tercero, el sistema amplía su acción a varios sistemas, la IA se convierte en un electrón libre y el objetivo ya no es tanto "apagarla" sino identificar los elementos que hay que detener antes que los otros.

"Una vez que se ha puesto en marcha, es un poco como un virus informático", zanja Poibeau.

- ¿Cuáles son los peligros de un "kill switch"? -

Cuanto más se integre la IA en las actividades cotidianas, más probabilidades habrá de que su interrupción bloquee también usos legítimos que se le da a esta tecnología.

A medida que "automatizamos cada vez más aspectos de la vida diaria gracias a la IA", "cada vez [será] más difícil distinguir una IA mala de una IA inofensiva y, por lo tanto, saber qué hay que 'apagar'", explica Nicolas Papernot.

Detener un sistema de IA podría tener como consecuencia deteriorar servicios de los que ya dependen empresas, administraciones o centros de salud.

"En una hipótesis de pérdida real de control" de los agentes de IA, "sería posible desactivar la IA desconectando toda la potencia de cálculo", pero "los costes y las consecuencias negativas serían considerables", alerta Papernot.

"Siempre podemos detener las máquinas", insiste Jean-Gabriel Ganascia. Pero, en la medida que estos dispositivos ocupan cada vez más lugar en la sociedad, "al mismo tiempo, no podemos detenerlas".

F.Tremblay--SMC