En cumplimiento del Reglamento de Inteligencia Artificial de la Unión Europea, declaramos que en la redacción o edición de este artículo pueden haberse utilizado sistemas de inteligencia artificial generativa.
El compromiso voluntario que firmaron el martes 29 de septiembre Donald Trump y directivos de empresas de inteligencia artificial prevé controles internos, auditorías externas y la revisión de informes por los consejos de administración. Cada compañía decidiría si publica los resultados, según The Guardian. El acuerdo describe un sistema de supervisión empresarial, pero no establece obligaciones legales actuales. Sus medidas podrían incorporarse más adelante a leyes o reglamentos.
Que cada empresa decida qué resultados publica afecta a la posibilidad de conocer cómo aplica los controles. El pacto contempla evaluaciones externas, pero no garantiza que se divulguen sus conclusiones. The Guardian también describe el compromiso como carente de mecanismos de ejecución. El documento presentado no determina qué consecuencias tendría que una compañía no aplicara una recomendación.
Qué controles contempla el compromiso
El acuerdo distribuye la revisión en varias capas. Según The Guardian y CBS News, las empresas realizarían evaluaciones internas y someterían sus controles de seguridad a auditorías externas. Un comité independiente de cada consejo revisaría informes internos y externos. The Guardian señala que una de las etapas de supervisión se desarrollaría durante el entrenamiento de los modelos; el compromiso no especifica una vigilancia durante su despliegue.
Las tareas recaerían en las propias compañías, evaluadores externos y comités de sus consejos. Esa distribución indica quién revisaría los controles, pero no crea una autoridad pública que pueda exigir cambios. The Guardian señala que las capas descritas no incluyen reguladores gubernamentales y que las empresas podrían elegir a sus auditores. Tampoco se garantiza la publicación de los informes externos: según ese medio, cada compañía decidiría si los divulga.
CBS News informa de que las empresas participantes acordaron reunirse periódicamente para tratar estándares y buenas prácticas de seguridad. La fuente no permite precisar el calendario de esos encuentros ni qué procedimientos comunes regirían la comunicación de fallos. Por eso, el acuerdo no se presenta como si fijara un protocolo concreto para esos casos.
Trump calificó el pacto de «moralmente vinculante». CBS News describe las medidas como voluntarias y señala que podrían incorporarse más adelante a leyes o reglamentos. Esa previsión no convierte por sí misma las medidas actuales en obligaciones legales. The Guardian describe el compromiso como carente de mecanismos de ejecución. Tal como se ha descrito, el texto no encarga a una autoridad pública exigir cambios si una evaluación detecta problemas.
Dos propuestas sobre quién fija las reglas
El marco voluntario del acuerdo contrasta con las peticiones de requisitos federales obligatorios. Trump ha defendido no frenar el desarrollo de la inteligencia artificial y ha relacionado esa postura con la competencia con China. Según CBS News y The Guardian, sostiene que ralentizar el sector podría permitir a China alcanzar a Estados Unidos. Esa es la justificación que ha dado el presidente; el compromiso no aporta datos para medir los efectos de las distintas políticas sobre la seguridad o la competencia.
Chuck Schumer pidió una sesión informativa para los senadores y guardarraíles frente a los riesgos de la inteligencia artificial, según un comunicado del caucus demócrata del Senado. Mark Warner reclamó normas obligatorias de pruebas, evaluación e información de incidentes para los modelos más avanzados, según su oficina y CBS News. Sus propuestas plantean requisitos federales. El pacto firmado por Trump y los directivos se basa en medidas voluntarias acordadas por las empresas.
La diferencia está en quién establecería los requisitos y qué fuerza tendrían. El compromiso prevé que las compañías desarrollen controles internos, recurran a evaluaciones externas y reciban informes en sus consejos. Schumer y Warner han pedido intervención federal; sus declaraciones no forman parte del acuerdo. El texto no establece que vayan a adoptarse las propuestas de los senadores ni convierte las medidas voluntarias en reglas obligatorias.
Para el público, dos aspectos dependen de las compañías: si se difunden los resultados externos y cómo se responde a las recomendaciones. The Guardian señala que cada empresa decidiría sobre la publicación y que el pacto no prevé mecanismos de ejecución. El documento plantea controles y revisiones, pero no precisa qué consecuencias tendría el incumplimiento ni obliga a hacer públicos los informes.
.jpg){kind=link}