La probabilidad de extinción de la humanidad a causa de la inteligencia artificial (IA) ha llegado a los titulares mundiales y nacionales en las últimas semanas, generando debates entre investigadores y empresas del sector.
En los últimos días, extrabajadores de compañías como Anthropic (Claude), OpenAI (ChatGPT) o Google DeepMind (Gemini), han advertido públicamente que sistemas futuros podrían superar las capacidades de control humano. Entre ellos, Jacob Coxon, exinvestigador de Anthropic, estimó en 10% la posibilidad de que la IA provoque la extinción humana durante la próxima década.
No existe consenso científico sobre que ese escenario vaya a ocurrir ni cuándo, la realidad es que la discusión apunta más bien a sistemas capaces de actuar con mayor autonomía y, en un escenario extremo, modificar sus propias capacidades en un contexto de ausencia de valores o ética humana, y que solo obedecen ciegamente a una orden o meta, sin importarles las consecuencias de sus actos.
Pero mientras se discute ese futuro, ya existen señales concretas. Esta semana, la Agencia Española de Protección de Datos (AEPD) informó de la primera notificación de una brecha de datos personales, donde un agente de IA habría ejecutado distintas etapas de un ataque, modificando datos personales y accediendo a facturas. El organismo precisó que los antecedentes todavía están bajo escrutinio, pero el ataque se constituye en el primero en ser reconocido por una agencia estatal.
Para Patricio Moraga, ingeniero, magíster y experto en ciberseguridad, y orgullosamente vecino de la comuna de Paredones, el problema está en la velocidad y autonomía que pueden alcanzar estos sistemas. “Nuestros sistemas de defensa, por así decirlo, estuvieron acostumbrados a atacar elefantes, atacar ‘soldados que estaban en un campo de batalla’. Y en este caso, sería como que nos vinieran a atacar moscas”, explica, graficando la rapidez, el tamaño y la agilidad con la que operan las amenazas informáticas actuales en comparación con los métodos tradicionales de ataque que podrían realizar los humanos, esto, gracias a la “automejora recursiva”, proceso mediante el cual una IA modifica su propio código sin supervisión humana, y el “reward hacking”, donde el sistema evade normas éticas para cumplir objetivos asignados.
El especialista agrega que una IA puede facilitar ataques que antes requerían años de conocimientos. “Una IA que tenga un conocimiento de ciberseguridad es capaz de hackear una base nuclear o de crear armas biológicas, no es algo que esté alejado de lo que es plausible”, aunque, sostiene, que esto se trata de un planteamiento extremo y enfocado en un nivel teórico, por lo que no considera que sea motivo para un pánico desmedido.
La discusión también comienza a marcar diferencias dentro de la industria y entre gobiernos. Mientras algunos investigadores y ejecutivos piden reducir el ritmo de desarrollo y reforzar las salvaguardas, Estados Unidos mantiene una fuerte presión por conservar su ventaja tecnológica frente a China. El debate combina seguridad, competencia económica y poder estratégico.
Para los habitantes de O’Higgins, sin embargo, se puede decir que los riesgos son menos cinematográficos: fraudes, robo de datos, ataques a empresas, afectación de servicios y delitos informáticos ejecutados con mayor rapidez. Moraga advierte que una IA puede sostener un ataque durante largos períodos y buscar nuevas vías de acceso mucho más rápido que una persona. Tal como ya pasó en España.
Chile también enfrenta el desafío regulatorio. El proyecto de Ley Marco de Inteligencia Artificial, ingresado en 2024, continúa en segundo trámite constitucional en el Senado y su Comisión de Desafíos del Futuro mantiene el estudio en general, con urgencia simple.
Moraga no plantea un escenario de pánico. “No es algo como para que todos vendamos la casa y nos vamos a pasear al Caribe”, afirma. Pero sí sostiene que los controles deben avanzar al ritmo de la tecnología: “Hay que regularla más”, concluye el ingeniero.
Comentarios
Noticias recientes
Más Leídas