El director de Anthropic alerta sobre los desafíos que plantea la inteligencia artificial
Dario Amodei, director ejecutivo de Anthropic, ha llamado la atención sobre los riesgos que la inteligencia artificial podría suponer para la sociedad y la necesidad de que la humanidad tome conciencia de ellos.
En un extenso ensayo titulado «La adolescencia de la tecnología», Amodei sostiene que el mundo está entrando en una fase de desarrollo de la IA que «pondrá a prueba nuestra identidad como especie», con instituciones sociales y políticas potencialmente desprevenidas ante el poder que pronto podrían alcanzar los modelos avanzados.
Según sus estimaciones, los sistemas de IA capaces de actuar de forma autónoma y superar a los humanos en múltiples disciplinas podrían estar a solo uno o dos años de distancia.
«La humanidad está a punto de recibir un poder casi inimaginable, y no está claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez necesaria para ejercerlo», escribió Amodei.
El ejecutivo define la «IA potente» como modelos que superan la experiencia de un premio Nobel en campos como la biología, las matemáticas y la ingeniería, y que podrían dirigir humanos, controlar robots o incluso diseñar nuevas máquinas.
Estas declaraciones llegan mientras Anthropic, la empresa creadora del chatbot Claude, continúa posicionándose como líder en seguridad de la inteligencia artificial. La compañía publicó recientemente una «constitución» de 80 páginas que describe los principios éticos de Claude y anunció su colaboración con el gobierno del Reino Unido para desarrollar herramientas de IA destinadas a servicios públicos, incluyendo el apoyo a quienes buscan empleo.
Amodei también criticó lo que describe como una falta de responsabilidad entre algunos desarrolladores de IA, señalando las recientes controversias en torno a deepfakes explícitos y las acusaciones de que algunos chatbots han generado material de abuso infantil. Tales incidentes, argumenta, plantean serias dudas sobre si las empresas están preparadas para gestionar riesgos mucho mayores en sistemas futuros.
Más allá de la seguridad, Amodei reiteró su preocupación por la disrupción económica. Previamente había advertido que la IA podría eliminar un gran número de empleos administrativos de nivel inicial, lo que podría elevar el desempleo al 20 por ciento en cinco años. El atractivo de las ganancias de productividad, señala, podría dificultar política y comercialmente frenar el desarrollo.
A pesar de la alarma, Amodei adopta un tono cautelosamente optimista: si los gobiernos, las empresas y los investigadores actúan con decisión, cree que los riesgos pueden gestionarse.
«Hay un mundo muchísimo mejor al otro lado. Pero debemos comprender que este es un serio desafío para la civilización», concluyó.
