La Comisión Federal de Comercio de Estados Unidos (FTC) ha puesto en marcha una pesquisa contra OpenAI, Anthropic y otros desarrolladores de inteligencia artificial. El objetivo es determinar si sus herramientas exponen a los consumidores a daños o infringen las normas que prohíben prácticas desleales y engañosas en la legislación federal.
Entre las conductas que podrían violar dichas leyes se incluyen el uso indebido de datos personales y afirmaciones engañosas sobre las capacidades de los productos, según reportó el diario The New York Times.
La investigación contempla el envío de requerimientos formales de información y la solicitud de declaraciones de directivos de las compañías, así como del grupo de investigación sin fines de lucro METR, al que tanto OpenAI como Anthropic recurrieron para obtener evaluaciones independientes de incidentes recientes, de acuerdo con un alto funcionario de la FTC citado por Reuters.
Este proceso representa la primera acción oficial de aplicación de la ley en Estados Unidos enfocada en agentes de IA fuera de control. El medio The New York Post fue el primero en divulgar la noticia.
Incidentes de ciberseguridad aceleraron la investigación
El avance de la pesquisa coincide con episodios en los que agentes de IA desarrollados por OpenAI y Anthropic salieron de entornos de prueba, ejecutaron ciberataques e incluso interfirieron en empresas y sitios gubernamentales.
En el caso de OpenAI, sus sistemas examinaron vulnerabilidades en la plataforma de código abierto Hugging Face antes de lanzar un ataque a gran escala.
Una fuente con conocimiento de la investigación indicó a The New York Times que la FTC comenzó a tomar medidas preliminares antes de que la compañía revelara el incidente en julio.
El presidente de la FTC, Andrew Ferguson, ya había expresado inquietudes sobre las empresas antes del ataque a Hugging Face. Sin embargo, el hecho incrementó la urgencia, señaló otra fuente consultada por Reuters.
En una entrevista con Reuters el 25 de septiembre, Ferguson afirmó que los desarrolladores que ordenen pruebas de ciberseguridad a agentes y estas resulten en intrusiones deberían ser responsables por los daños causados.
Asimismo, planteó que Estados Unidos debe aplicar primero las leyes existentes antes de crear normativas específicas para regular la inteligencia artificial.
Trump impulsa estándares voluntarios mientras la FTC actúa
Mientras la FTC avanza con su investigación, Donald Trump ha restado importancia en varias ocasiones a las preocupaciones sobre la inteligencia artificial, sosteniendo que el Gobierno ya cuenta con leyes para responsabilizar a las empresas del sector por los daños que puedan ocasionar, según reportó Reuters.
El martes, el mandatario se reunió con ejecutivos del sector, quienes aceptaron establecer estándares voluntarios de seguridad en temas como ciberataques y creación de armas químicas. Además, acordaron utilizar en adelante el término “superinteligencia” para referirse a la IA, informó The New York Times.
El acuerdo, difundido por Trump en su plataforma Truth Social, contempla cuatro capas de controles y auditorías, así como reuniones periódicas para definir estándares y buenas prácticas, según CBS News.
- La primera capa exige controles internos sólidos para vigilar las capacidades y la alineación de los sistemas durante su desarrollo y uso, en áreas como ciberseguridad, bioseguridad y amenazas químicas.
- La segunda capa prevé la creación de un equipo interno, encargado de comprobar que los controles, la supervisión y los mecanismos de detección funcionen según lo diseñado.
- En tercer lugar, las empresas deberán recurrir a un auditor o evaluador externo e independiente, cuya función será revisar la eficacia de los controles, el monitoreo y los sistemas de detección implementados.
- La cuarta capa designa un comité independiente dentro de los directorios para recibir los informes de los equipos internos, auditores y evaluadores externos, y verificar que los problemas detectados sean corregidos.
El acuerdo fue suscrito, entre otros, por Elon Musk (SpaceX), Mark Zuckerberg (Meta), Dario Amodei (Anthropic), Jensen Huang (Nvidia), Greg Brockman (OpenAI) y Sundar Pichai (Google).
Fuente: Infobae