Los equipos de investigación de Anthropic, OpenAI, Meta y Google están redoblando sus esfuerzos para generar conciencia sobre los peligros potenciales de la inteligencia artificial.
Cuando Jacob Coxon, investigador de Anthropic, renunció públicamente esta semana citando sus inquietudes sobre la tecnología, los mensajes internos se dispararon.
“Es lo que todos hemos estado diciendo”, escribió un empleado de Anthropic sobre los comentarios de Coxon en un chat grupal entre trabajadores.
“Jacob hizo público el chat grupal. Eso es algo bueno”, añadió otro.
Las reacciones al interior de Anthropic encontraron eco entre los investigadores de inteligencia artificial de OpenAI, Meta y Google, quienes analizaron las publicaciones de Coxon donde describía cómo OpenAI y Anthropic estaban “jugando con nuestras vidas” mediante la tecnología. Muchos se reunieron en canales de mensajería, chats encriptados y cenas privadas para organizarse y generar conciencia sobre los riesgos, según una decena de empleados de todas las empresas.
Para quienes han hecho de la inteligencia artificial el trabajo de su vida, el mensaje de Coxon no era nuevo. Pero sus comentarios crecieron como una bola de nieve hasta convertirse en una conversación global, y muchos lo vieron como el momento para pedir mayor precaución. Algunos trabajadores ahora alzan la voz ante los altos ejecutivos para instar a una pausa en el desarrollo de la tecnología de rápida evolución hasta que cuente con las salvaguardas adecuadas, dijeron seis de esas personas.
Las conversaciones subrayan las tensiones dentro de los principales laboratorios de inteligencia artificial sobre las formas más seguras de desarrollar la tecnología. Aun cuando los empleados han tomado valor para pedir una desaceleración, empresas como Anthropic y OpenAI compaginan prioridades: ambas planean lanzar ofertas públicas iniciales de gran éxito el próximo año, temen problemas antimonopolio si acordaran entre ellas un respiro, y las empresas chinas han producido modelos competitivos, lo que plantea la posibilidad de que las estadounidenses se queden atrás si reducen la velocidad.
Eso ha creado una situación delicada para los principales ejecutivos, muchos de los cuales coinciden en que la tecnología plantea riesgos. Sam Altman, director ejecutivo de OpenAI, escribió en una publicación de blog de 2023 que la inteligencia artificial podría “causar daños graves al mundo”. Dario Amodei, director ejecutivo de Anthropic, escribió en una columna de opinión el año pasado que la inteligencia artificial debería ser regulada para controlar los riesgos.
En una reunión de empleados esta semana, Altman dijo que OpenAI estaba dispuesta a desacelerar el desarrollo junto con los laboratorios rivales, según dos personas que asistieron. Agregó que esperaba que las desaceleraciones voluntarias se volvieran normales hasta que hubiera estándares de seguridad ampliamente reconocidos.
El sábado, Amodei publicó un ensayo de 3800 palabras en el que pedía prudencia.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial”, escribió.
Altman y Elon Musk, cuya empresa SpaceX ha aumentado el gasto en inteligencia artificial, estuvieron de acuerdo rápidamente.
Las discusiones sobre seguridad de la inteligencia artificial han existido casi tanto como la propia tecnología, pero su urgencia aumentó en los últimos años a medida que los investigadores lograban avances. Las preocupaciones se intensificaron en julio después de que OpenAI revelara que algunos de sus modelos habían escapado de la contención y hackeado a Hugging Face, una empresa de inteligencia artificial. Los investigadores se cuestionaron si podían controlar los sistemas que estaban construyendo, y empleados de OpenAI, Anthropic y DeepMind de Google se reunieron para discutir qué hacer, dijeron nueve personas. Muchos estuvieron de acuerdo en que la inteligencia artificial se estaba construyendo demasiado rápido.
“Los investigadores más mesurados al interior de los laboratorios que se han enorgullecido de ser imparciales ahora suenan aterrorizados”, dijo en una entrevista Roy Bahat, director de la firma de inversiones Bloomberg Beta.
Algunos investigadores crearon grupos con el objetivo de establecer salvaguardas duraderas. Un esfuerzo, la Coalition of Concerned AI Staff, comenzó como un proyecto secreto para crear “salvaguardas más sólidas” y ayudar a los trabajadores a “exigirle a una empresa que cumpla con sus compromisos de seguridad”.
“Si trabajas en una empresa de inteligencia artificial, puede que te estés preguntando si tú también deberías irte”, dijo el jueves en redes sociales Pamela Mishkin, exempleada de OpenAI, al anunciar el esfuerzo. También alentó a quienes permanecieron a preguntar “cómo usar tu influencia al quedarte”.
Después de que Coxon publicara su renuncia el martes, los trabajadores instaron a los altos ejecutivos a pausar el desarrollo para tener más tiempo de trabajar de manera segura. Algunos bromearon sobre haber perdido la cuenta de las cartas abiertas y los chats grupales privados sobre seguridad, dijeron dos de las personas.
En una entrevista el miércoles, Coxon dijo que incidentes como el hackeo de Hugging Face aumentaron sus preocupaciones de que los modelos se desarrollaran mucho más rápido de lo que las empresas podían controlarlos.
“Fue sobre todo un proceso emocional gradual y, al final, algo se rompió, y entonces decidí irme”, explicó.
Otros trabajadores siguieron el ejemplo de Coxon y hablaron públicamente. Evan Hubinger, investigador de seguridad en Anthropic, dijo en redes sociales el martes que creía que había más de un 10 por ciento de probabilidades de que la inteligencia artificial pudiera “matar a todos los humanos” en la próxima década. Julie Steele, investigadora en OpenAI, dijo esta semana que las empresas necesitaban “desacelerar”. El viernes, Andreas Kirsch, empleado de DeepMind de Google, escribió que estaba “preocupado de que la inteligencia artificial nos mate a todos, ya sea a través de riesgos a corto o largo plazo, o ambos”.
“Durante mucho tiempo ha existido este velo de no hablar demasiado públicamente porque a la gente le daba mucho miedo ser percibida como demasiado alarmista, demasiado extrema”, dijo Connor Leahy, director en Estados Unidos de ControlAI, organización sin fines de lucro que cabildea por la regulación. “Ahora la represa se ha roto un poco”.
La avalancha de comentarios ha llamado la atención de Washington. Miembros del Congreso de ambos partidos —incluidos los senadores Bernie Sanders (independiente por Vermont) y Josh Hawley (republicano por Misuri)— han pedido investigaciones y una intervención regulatoria.
“Es un llamado de atención para el Congreso y nuestro gobierno”, dijo en una entrevista el viernes el representante Ro Khanna, demócrata por California. El Congreso debería crear una agencia reguladora de inteligencia artificial, añadió, “necesitamos dar un paso al frente y regular”.
Las empresas han respondido exponiendo lo que hacen en materia de seguridad. El jueves, Anthropic declaró que prueba regularmente sus modelos “en busca de capacidades peligrosas en áreas como la ciberseguridad y la biología” y que comparte públicamente su investigación. “Creemos que el mundo se beneficiaría si la industria adoptara una forma legal y verificable de trabajar en conjunto para controlar el ritmo con el que lanzamos modelos potentes”, dijo la empresa. Google DeepMind declinó hacer comentarios.
Chris Lehane, principal ejecutivo de políticas de OpenAI, dijo en una publicación de blog el miércoles que la empresa “desaceleraría o detendría el desarrollo o despliegue de sistemas” que no pudiera salvaguardar adecuadamente. Jakub Pachocki, científico jefe de la empresa, pidió reglas de seguridad “aplicadas por una red de auditores externos, por agencias gubernamentales o por organismos internacionales”.
“Me preocupa que nadie esté preparado para las consecuencias de un aumento rápido y continuo en la inteligencia de las máquinas”, dijo Pachocki en una publicación, y agregó: “Creo que se requieren intervenciones más amplias”.
Fuente: Infobae