El director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el blog de la compañía en el que sostiene que la industria de la inteligencia artificial debería ir más despacio. Según planteó, el riesgo de perder el control sobre estos sistemas es grave y debe ser abordado antes de que el desarrollo continúe acelerándose.
En el texto, Amodei enumeró una serie de amenazas asociadas al avance sin controles de la tecnología, entre ellas la posibilidad de ciberataques a gran escala, el uso de la IA para bioterrorismo y trastornos económicos derivados de la automatización masiva. También mencionó la preocupación por los llamados enjambres de agentes, sistemas capaces de operar de forma coordinada con menor supervisión humana.
Un plan de tres partes
El ensayo incluye lo que Amodei denominó un plan de tres partes para desacelerar de manera responsable el desarrollo de la IA. Como primer paso, anunció un compromiso unilateral de Anthropic: otorgar a evaluadores externos acceso permanente y de nivel empleado a sus sistemas, con el objetivo de que puedan auditar sus capacidades y riesgos de manera continua.
El planteo se da en un contexto de creciente preocupación por la posibilidad de que los modelos de inteligencia artificial alcancen capacidades suficientes para causar daños graves a escala global. Amodei describió el avance de la tecnología como vertiginoso y advirtió que la prevención de riesgos debe ser tratada como una prioridad primordial por parte de toda la industria.
Respaldo de otros referentes del sector
Horas después de la publicación del ensayo, Sam Altman, CEO de OpenAI, y Elon Musk manifestaron su acuerdo con el planteo de Amodei a través de posteos en la red social X. Ambos empresarios, al frente de otras de las compañías más relevantes del desarrollo de inteligencia artificial, coincidieron en la necesidad de poner límites al ritmo de avance de estos sistemas.
El planteo también encontró eco en otras voces de la industria. Desde Google, Demis Hassabis pidió un marco regulatorio global para prevenir desastres vinculados al desarrollo de la inteligencia artificial, en línea con la idea de que la tecnología exige políticas públicas específicas. Según trascendió, la preocupación compartida por estos referentes incluye tanto amenazas de corto plazo vinculadas a internet como riesgos geopolíticos asociados a la competencia internacional en el desarrollo de estos sistemas, con menciones puntuales al rol de China en ese escenario.
Por el momento no hay anuncios sobre medidas regulatorias concretas por parte de gobiernos ni de organismos internacionales a partir de estas declaraciones. El planteo de Amodei, de todos modos, marca un giro relevante en el discurso público de uno de los principales desarrolladores de inteligencia artificial, que hasta ahora había centrado su comunicación en el potencial de la tecnología más que en sus riesgos.
