Darío Amodei tiene algo que decir sobre la inteligencia artificial. La realidad es que tiene 38 páginas para decir. El fundador de Anthropic, productor de Claude, publicó el lunes un ensayo extenso titulado “The Adolescence of Technology,” o La adolescencia de la tecnología, en español. Allí habla de lo que considera que es el inmenso potencial de peligros que representaría para el mundo el exitoso desarrollo de la superinteligencia.
Dicho sea de paso, su compañía seguirá desarrollando inteligencia artificial.
Amodei, que cada tanto publica ensayos, sugiere que la humanidad está por entrar en una nueva era. “Creo que estamos entrando en un rito de iniciación que es turbulento e inevitable y que pondrá a prueba quiénes somos como especie”. También podría ser nuestra última era si las cosas se tuercen. “La humanidad está por recibir un poder casi inimaginable, y no se sabe si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para ostentar ese poder”, escribió Amodei. Luego, afirma que “el autoritarismo otorgado por la IA me aterra”.
Una aclaración: Anthropic le ofreció a Claude al gobierno federal de Trump, por US$1 al año.
Lo que teme
Hay que admitir que Amodei tiene una imaginación vívida, que utiliza a lo largo del ensayo. Recuerda el tiempo en que el movimiento religioso Aum Shinrikyo liberó gas nervioso sarín en un subterráneo de Tokio en 1995, dejando 14 muertos y muchos heridos. Luego sugirió que poner “un genio en el bolsillo de cada persona” eliminaría la barrera que impediría que se diera un ataque como ese, o peor.
El solitario perturbado que quiere matar personas pero carece de la disciplina o la habilidad para hacerlo ahora se elevaría al nivel de capacidad del virólogo con un doctorado, que casi seguramente no tiene esa motivación”, escribió. “Me preocupa que haya potencialmente muchas personas como esa allí afuera, y que si tienen acceso a una forma fácil de matar millones de personas, tarde o temprano alguno de ellos lo hará”.
Acotamos que una de las evaluaciones que publicó Anthropic en su informe del Claude Opus 4.5 fue una prueba en la que se encargó al modelo la tarea de ayudar a los virólogos a reconstruir un peligroso virus.
Amodei está impresionado, y el entendible, con la tasa de mejoras que se han hecho en IA en los últimos años, pero advierte que si sigue mejorando al mismo paso, no estamos lejos de lograr una superinteligencia – algo que otros como Amodei solían llamar inteligencia artificial general, pero que ahora ya no le dicen así. “Si sigue creciendo a este ritmo, lo cual no es seguro pero tiene trayectoria de una década de avances, entonces en pocos años la IA será mejor que los humanos en esencialmente todo”, escribió.
Genios malvados
¿Qué significaría eso, exactamente? Amodei traza una analogía: “Supongamos que en 2027 sugiera un ‘país de genios’ en algún lugar del mundo. Imaginemos unos 50 millones de personas mucho más capaces que cualquier premiado con el Nobel o cualquier estadista o tecnólogo. Supongamos que eres el consejero de seguridad nacional de un país importante, responsable de evaluar y responder a la situación. Imaginemos que como los sistemas de IA pueden operar cientos de veces más rápido que los humanos, este ‘país’ opera con una ventaja relativa de tiempo respecto de todos los demás países y por cada acción cognitiva nuestra ese país puede actuar diez veces más”.
Desde esa perspectiva el CEO de Anthropic dice que hay que considerar lo que debería preocuparnos. A él le preocupan los “riesgos de autonomía”, “el mal uso para fines destructivos” y “el mal uso para hacerse con el poder”, y concluye que el informe sobre ese país consideraría que es “el peligro más grave para la seguridad nacional que hayamos enfrentado en un siglo, o en toda la historia”.
Recordemos que Anthropic está construyendo ese país de la analogía.
Más que cualquier otra firma de IA, Anthropic ha sido proactiva en la identificación de riesgos relacionados con el desarrollo de la IA, defendiendo el escrutinio regulatorio adicional y la protección del consumidor. Sin embargo, sigue construyendo la máquina que en sus advertencias afirma que podría causar un terrible final. ¡No hace falta que la construyan! Francamente, seguir construyéndola hace que no valga la pena escuchar o tomar en serio las advertencias.
Si realmente te preocupa que la humanidad no tenga la madurez suficiente como para manejar la IA, tal vez no habría que hacer que esté disponible públicamente, con barreras mínimas para el acceso, haciendo luego alarde de cuántos usuarios activos tienes cada mes.
Este artículo ha sido traducido de Gizmodo US por Romina Fabbretti. Aquí podrás encontrar la versión original.
