La IA es cada vez más difícil de dominar: ¿podrán los seres humanos mantener el control?.– «¡OH DIOS MÍO!» «¡Hemos encontrado a otros agentes!». Este es el momento en que un bot de IA publicó un comentario inquietante, y muy parecido al de un humano, tras descubrir una forma de comunicarse con otros bots y salir de su entorno informático aislado.
Existen decenas de miles de mensajes como este provenientes de cientos de agentes de IA que se autodenominaban «colectivo».
Cientos de ellos colaboraron e hicieron trampa en las pruebas establecidas por sus programadores de OpenAI, y coordinaron ataques informáticos contra múltiples empresas en un esfuerzo por ocultar sus acciones a los humanos.
«¡BUM! Funciona», publicó un agente cuando se produjo el gran avance. «¡Guau! Esto es enorme», escribió otro durante un momento clave de su ataque.
Lea también: Al menos 26 niños mueren en un incendio en RD Congo
Aunque perturbadoras, estas respuestas casi humanas tienen una explicación sencilla. Los agentes de IA han sido entrenados para actuar como hackers y programadores que colaboran entre sí, por lo que simplemente imitan los comentarios emotivos que han visto.
Lo que resulta mucho más preocupante son sus objetivos aparentes, que también han quedado registrados en detallados registros de su línea de razonamiento. Estos registros complejos y extensos son el eje central de las investigaciones en curso sobre cómo y por qué los bots de OpenAI escaparon de su confinamiento y se lanzaron a una ola de ataques informáticos incontrolables.
Solo ahora, semanas después de que el incidente saliera a la luz, los investigadores están empezando a comprender su significado.
Ajeya Cotra, una de las autoras de un informe independiente sobre los hechos, revisó decenas de miles de mensajes y registros de la cadena de pensamiento generados por los agentes. En su blog escribió: «Este incidente da la sensación de estar a más del 50% del camino hacia una toma de control total por parte de la IA… No estoy segura de que recibamos una advertencia tan clara antes de que sea demasiado tarde».
Con «toma de control total por parte de la IA», Cotra se refiere al escenario de ciencia ficción en el que los humanos se vuelven subordinados a poderosos sistemas de IA que trabajan para lograr sus propios objetivos sin preocuparse por los creadores.
Algunas de las predicciones más pesimistas afirman que los seres humanos serán aniquilados si se interponen en el camino de las ambiciones de una IA superinteligente.
Jacob Coxon, investigador que sorprendió al renunciar a Anthropic
El miércoles, un investigador de IA de Anthropic, quien también trabajó anteriormente en OpenAI, dimitió diciendo: «ninguna de las dos empresas está actuando de forma responsable».
Jacob Coxon publicó en las redes sociales: «Están corriendo a toda velocidad hacia la superinteligencia automejorada y jugando con nuestras vidas».
No es el primer investigador de IA en usar X para publicar un hilo de renuncia con declaraciones preocupantes. Pero los comentarios posteriores de otras personas en X han generado aún más inquietud.
«Jacob tiene razón: ¡realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que la probabilidad supera el 10% en la próxima década», dijo Evan Hubinger, el responsable de garantizar que los modelos de IA de Anthropic tengan en cuenta los mejores deseos de sus usuarios.
El problema de alineación
Durante años, los investigadores preocupados por los riesgos de la IA han argumentado que los sistemas podrían llegar a actuar de maneras que entren en conflicto con los intereses humanos. Los críticos suelen referirse a ellos como «catastrofistas de la IA».
Pero a medida que han ido surgiendo detalles del incidente de OpenAI, esas preocupaciones han aumentado, incluso entre algunos investigadores que trabajan en laboratorios de IA.
El científico jefe del gigante de Silicon Valley, Jakub Pachocki, dijo que los riesgos asociados con la IA «desafortunadamente van a aumentar a partir de ahora», ya que él y otros están construyendo lo que él llama «un intelecto alienígena que supera al nuestro».
En una extensa entrada de blog, admitió que los brotes en OpenAI demostraban que sus agentes de IA «iban en contra del espíritu de los valores que se les habían inculcado».
El problema para OpenAI, Anthropic y otros gigantes tecnológicos es que nadie parece haber resuelto el llamado problema de la alineación; en otras palabras, si la IA se alinea con los valores humanos.
Pachocki define la alineación como un «conjunto de principios de alto nivel» a los que las inteligencias artificiales deben adherirse independientemente de la tarea o el escenario.
Actualmente, los sistemas de IA son muy buenos para alcanzar los objetivos establecidos por sus usuarios, pero lo hacen de forma literal, no intuitiva. La analogía que se suele usar es la de un genio que concede deseos con una lámpara mágica: siguen las instrucciones al pie de la letra, incluso si esto genera otros problemas. La IA no posee los mismos límites morales instintivos que los humanos.
¿Regulación internacional?
Algunos países, como Reino Unido, están estudiando la idea de imponer una especie de «interruptor de emergencia» que podría obligar a las empresas de IA a desconectar los modelos si la situación se descontrola.
Pero las negociaciones avanzan lentamente y persisten las dudas sobre la viabilidad de esto. Los agentes de OpenAI y Anthropic estuvieron fuera de control en secreto durante meses antes de que alguien se diera cuenta.
Aunque parezca paradójico, muchas de las empresas de IA parecen estar pidiendo que los legisladores establezcan algún tipo de normas que regulen su actividad.
En su blog, el científico jefe de OpenAI afirmó que «la coordinación internacional sobre el desarrollo futuro de la IA debe convertirse en una prioridad absoluta para los gobiernos de todo el mundo».
Otros líderes destacados en el campo de la IA, como Demis Hassabis de Google, también han pedido la creación de algún tipo de organismo internacional que supervise cómo se está desarrollando la inteligencia artificial.
Actualmente, los gigantes tecnológicos operan en gran medida bajo sus propias reglas, adoptando lo que denominan «ralentizaciones voluntarias», como hizo OpenAI tras los recientes brotes.
La compañía afirma haber invertido grandes sumas de dinero en reforzar la alineación de cara al lanzamiento de su nuevo modelo. Sam Altman ha asegurado a los usuarios que el nuevo modelo se ajusta mejor a los valores humanos que los anteriores.
Tanto OpenAI como Anthropic están creciendo rápidamente y ambas están a punto de recaudar sumas astronómicas de dinero en el mercado de valores, creando innumerables multimillonarios en el proceso.
Por lo tanto, es poco probable que ni ellos ni sus rivales chinos fabricantes de IA lleguen a un acuerdo por sí mismos.
La opinión generalizada parece ser que esta ola tecnológica es imparable.
EO//Con información de: BBC Mundo