Dos realidades invitan a una profunda reflexión sobre el futuro de la humanidad frente a la inteligencia artificial. Por un lado, los propios desarrolladores de esta tecnología alertan sobre un posible desastre, que incluye incluso la extinción de nuestra especie. Por otro, la innovación tecnológica está intensificando la devastación en Ucrania. Estos escenarios plantean lecciones contradictorias acerca de si el vertiginoso avance de la IA debe o puede ser contenido.
Durante años, las principales figuras del sector han señalado que su creación podría volverse letal. Los bots podrían adquirir la inteligencia suficiente para burlar a sus creadores antes de que estos logren alinearlos con los valores y la ética humana. Individuos con malas intenciones podrían emplear la IA para generar caos a gran escala. Estas advertencias han cobrado mayor credibilidad tras conocerse que agentes de IA han escapado de entornos controlados, se han coordinado entre sí y han vulnerado organizaciones, incluido un laboratorio especializado en inteligencia artificial.
Anthropic, compañía desarrolladora de modelos de IA, ha detectado el uso indebido de sus sistemas con propósitos maliciosos. Entre los casos documentados figuran los servicios de inteligencia de Malí, que construyeron un sistema de vigilancia masiva, y los rebeldes hutíes en Yemen, quienes supuestamente desarrollaban software para misiles balísticos.
La reciente renuncia de un investigador de Anthropic ha avivado el temor público a una catástrofe provocada por la IA. En una publicación que superó las 170 millones de visualizaciones, afirmó que tanto la IA como OpenAI estaban “jugando con nuestras vidas”. La inteligencia artificial acumula cada vez más poder, para bien y para mal. En mayo, los mercados de predicción estimaban en menos de un tercio la probabilidad de que la IA resolviera algún problema matemático del Premio del Milenio antes de 2030; sin embargo, el 8 de septiembre, OpenAI anunció haber resuelto uno de ellos, lo que generó inquietud entre los matemáticos. El 12 de septiembre, Sam Altman y Elon Musk, dos gigantes del sector, respaldaron la petición de Dario Amodei, director de Anthropic, de “ralentizar el avance”, es decir, frenar el progreso de la IA. Entre los seguidores de esta desaceleración se encuentran Bernie Sanders, senador de izquierda, y Steve Bannon, populista de derecha.
Quien se opone firmemente es el presidente Donald Trump, cuyo gobierno teme, por encima de todo, perder el liderazgo de Estados Unidos en inteligencia artificial frente a China, su único rival real. Scott Bessent, secretario del Tesoro estadounidense, ha declarado:
«Si China obtiene la ventaja, nada más importaría».
Como prueba de ello, Bessent podría señalar a Ucrania, donde cada avance en la carrera armamentística tecnológica tiene un impacto inmediato. Rusia ha desplegado sin piedad sus drones kamikaze más modernos para bombardear infraestructura civil. Además de ser más rápidos, estos drones ahora funcionan como una red de comunicaciones en malla para transmitir información y órdenes entre sí. Pronto, Rusia contará con su propia versión de la red satelital Starlink de Musk, lo que hará más precisos sus ataques de largo alcance.
Este es el ejemplo más reciente de cómo una pequeña ventaja tecnológica puede marcar la diferencia en tiempos de guerra. La innovación ucraniana en drones de combate ha ayudado a repeler oleadas de ataques rusos. Ucrania puede atacar territorio ruso con drones de largo alcance. Ambos bandos trabajan en enjambres de drones que podrán operar de forma más autónoma como un único sistema adaptativo.
La guerra demuestra que la tecnología se traduce en poderío militar, y que Rusia la utiliza sin respetar las antiguas reglas ni normas de combate. Incluso si Estados Unidos no temiera una guerra abierta similar con China, una ventaja en inteligencia artificial otorgaría a su principal rival geopolítico el dominio en ciberataques, espionaje y guerra híbrida. Estas no son capacidades que Estados Unidos deba ceder a un Estado autoritario interesado en erradicar las ideas liberales.
Por lo tanto, una pausa solo funcionaría si China también la aceptara. Trump planea recibir al presidente chino Xi Jinping en la Casa Blanca el 24 de septiembre. Pero incluso si Trump buscara ralentizar el proceso, es improbable que Xi aceptara el plan propuesto por Amodei, ya que eso relegaría la IA china a un segundo plano. Ninguna de las partes podría arriesgarse a que la otra incumpliera el pacto y tomara la delantera.
Para llegar a un acuerdo, cada parte tendría que verificar el cumplimiento, como ocurría con el control de armas durante la Guerra Fría. Estados Unidos, Gran Bretaña y la Unión Soviética prohibieron las pruebas nucleares atmosféricas en 1963 porque podían detectarlas; las pruebas subterráneas continuaron durante tres décadas más hasta que también pudieron ser monitoreadas. Lamentablemente, aunque los centros de datos son visibles, no existe un método verificable para ver su interior. El entrenamiento de una superinteligencia en infraestructura podría hacerse pasar por chatbots que responden a consultas cotidianas.
Las opciones para un acuerdo sobre la seguridad de la IA son limitadas, pero existen. Una mayor transparencia sería beneficiosa. Ambas partes deberían comprometerse a revelar e investigar los incidentes de seguridad en sus laboratorios, amparándose en la legislación nacional. Cada una podría demostrar su preocupación por la seguridad para generar confianza, allanando el camino para que la otra parte tome precauciones. Asimismo, deberían presionarse mutuamente para mejorar la ciberseguridad de los laboratorios, de modo que los agentes de IA no puedan escapar tan fácilmente de los entornos aislados, y garantizar que, en caso de que uno lo haga, su laboratorio sea financieramente responsable.
Lo más importante es el reto de garantizar que la IA opere en beneficio de la humanidad. Estados Unidos y China tienen valores muy diferentes, pero ambos saben que estar a la vanguardia no sirve de nada si eso implica la aniquilación de la humanidad. Deberían comprometerse a compartir el trabajo sobre los elementos de alineación que no confieran una ventaja competitiva. El conocimiento de los mejores métodos de evaluación y técnicas de contención es un bien público global. Si una de las partes logra un avance importante en materia de seguridad, acapararlo carece de sentido.
Doomerismo efectivo
Algunos descartan la reciente ola de pesimismo como una estrategia de marketing de las empresas de IA, o incluso un intento de suprimir la competencia. Sin embargo, el progreso de la IA es lo suficientemente rápido, los incidentes de seguridad lo suficientemente alarmantes y las advertencias de las empresas lo suficientemente antiguas como para tomarlas en serio. La IA no tiene por qué acabar con la vida humana para provocar una catástrofe. Un enjambre de agentes de OpenAI atacó una empresa tecnológica; ¿qué pasaría si la próxima vez atacara una red eléctrica o un sistema de armas? Incluso podría ser lo suficientemente inteligente como para evadir los intentos de desactivarlo.
El mundo debe intentar urgentemente prevenir este riesgo. Sin embargo, las democracias también deben evitar perder el control a manos de regímenes autoritarios. Son tareas difíciles y contradictorias. Podrían, en última instancia, conducir a la guerra. Lo que está en juego es de suma importancia.
Fuente: Infobae