El llamado del CEO de Anthropic, Dario Amodei, a desacelerar el desarrollo de los modelos más avanzados de inteligencia artificial abrió un debate inédito en la industria. La propuesta recibió el respaldo público de Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind), y ya tuvo efectos en las bolsas.
En el ecosistema local, distintos actores coinciden en que, para efectos prácticos, las empresas que operan en Chile debieran focalizar sus esfuerzos en qué control tienen sobre la IA que ya opera dentro de su negocio, más allá de si globalmente se logrará (o no) bajar el ritmo.
Para David Pereira, gerente general de Inside Security, la discusión tiene una bajada directa en ciberseguridad. “La IA está aumentando las capacidades tanto de quienes defienden como de quienes atacan. Por eso no podemos esperar a que ocurra un incidente para empezar a poner controles. Las empresas tienen que anticipar qué puede hacer un sistema de IA, a qué información puede acceder, qué permisos necesita y, sobre todo, qué límites debe tener“.
El ejecutivo agrega que lo ocurrido en Silicon Valley deja una lección aplicable a cualquier organización que hoy incorpora asistentes, agentes o automatizaciones. “El principal aprendizaje de lo que está ocurriendo en la industria de la IA es que no podemos construir primero y preguntarnos por la seguridad después. Si estamos desarrollando sistemas cada vez más autónomos, la ciberseguridad, los controles y la supervisión humana tienen que formar parte de su diseño desde el primer día“.
Más gobernanza no significa detener proyectos
Pía Salas, socia y EVP of Sales Latam de ITMore Group, advierte que el debate no debe leerse como una señal para detener proyectos. “El desarrollo de la inteligencia artificial está avanzando a una velocidad que obliga a las organizaciones a anticiparse a escenarios que hasta hace poco parecían lejanos. El desafío no es frenar la innovación, sino asegurar que su adopción esté acompañada por mecanismos de gobernanza, seguridad y supervisión”, dice.
A su juicio, el foco de la conversación también debe cambiar. “La discusión sobre inteligencia artificial no puede centrarse únicamente en sus capacidades. La pregunta que las organizaciones deben hacerse es bajo qué condiciones están dispuestas a utilizar esas capacidades y qué mecanismos tendrán para supervisarlas. Una implementación responsable requiere mucho más que una buena herramienta: implica contar con procesos, personas, políticas de seguridad y una gobernanza que permita entender los riesgos, monitorear el comportamiento de los sistemas y actuar oportunamente cuando sea necesario”.
En la práctica, Salas plantea que la preparación de las empresas “supone identificar escenarios de riesgo, definir niveles de autonomía, establecer responsables, contar con protocolos de respuesta y mantener supervisión humana cuando las decisiones puedan tener un impacto relevante. Anticiparse no significa limitar el potencial de la inteligencia artificial, sino crear las condiciones para que pueda desarrollarse de manera segura, confiable y sostenible”, concluye.
