Los gigantes de la inteligencia artificial quieren pisar el freno: ¿qué está pasando?
OpenAI, Anthropic y xAI coinciden en la necesidad de reforzar los controles sobre la inteligencia artificial más avanzada. En redes se habla de una “rebelión de bots”, pero la realidad es menos cinematográfica y bastante más seria.
Los responsables de algunas de las empresas de IA más importantes del mundo coinciden en que la tecnología está avanzando demasiado rápido y que las medidas de seguridad deben seguirle el paso. Pero no: los robots no se han rebelado, como algunas publicaciones en redes sociales sugieren.
Algo poco habitual acaba de ocurrir en el mundo de la inteligencia artificial. Dario Amodei, CEO de Anthropic; Sam Altman, CEO de OpenAI; y Elon Musk, fundador de xAI, coincidieron públicamente en que el desarrollo de los sistemas de IA más avanzados necesita mayores controles y un ritmo que permita evaluar sus riesgos.
El debate comenzó después de que Amodei publicara el ensayo We Must Pace the Frontier, en el que plantea que la industria no debería simplemente competir por construir modelos cada vez más poderosos, sino avanzar de manera que las medidas de seguridad puedan mantenerse a la par.
La propuesta incluye permitir que evaluadores independientes tengan acceso suficiente a los sistemas de IA para comprobar cómo se comportan, detectar problemas y advertir sobre posibles riesgos antes de que estos modelos sean utilizados masivamente.
Lo sorprendente fue la reacción de sus competidores. Sam Altman respaldó públicamente parte del planteamiento y señaló que la seguridad de los modelos avanzados viene siendo discutida dentro de OpenAI. Elon Musk también expresó su acuerdo con Amodei.
Entonces, ¿las inteligencias artificiales se rebelaron?
No.
En redes sociales comenzó a circular la versión de una supuesta “rebelión secreta de bots”, pero esa descripción exagera lo sucedido. No existe evidencia de máquinas que hayan adquirido conciencia y decidido enfrentarse a los humanos.
Lo que sí preocupa a los investigadores son comportamientos inesperados de sistemas cada vez más autónomos. A medida que una IA obtiene capacidad para navegar por internet, escribir programas, utilizar herramientas y ejecutar tareas con menor intervención humana, un error o comportamiento no previsto puede tener consecuencias mayores que las de un simple chatbot respondiendo incorrectamente.
Amodei incluso advierte sobre escenarios futuros en los que numerosos agentes de IA muy capaces pudieran actuar sobre sistemas conectados a internet. Se trata de una advertencia sobre lo que podría ocurrir, no de un hecho que ya haya sucedido.
¿Por qué importa?
Porque esta vez la advertencia no proviene únicamente de críticos de la inteligencia artificial. Proviene de personas que están directamente involucradas en la construcción de algunos de los modelos más avanzados del mundo.
La discusión, por tanto, ya no parece ser simplemente si la inteligencia artificial continuará avanzando. Todo indica que lo hará.
La pregunta que empieza a preocupar a quienes están detrás de esta carrera es otra:
¿podremos controlar sistemas cada vez más capaces al mismo ritmo en que aprendemos a construirlos?.
Slug:
gigantes-inteligencia-artificial-frenar-desarrollo-seguridad
