Historia
octubre 6, 2026
La audiencia sobre IA de Nueva York expone una brecha de seguridad mientras denunciantes advierten que la carrera ya está en marcha
Funcionarios de la ciudad de Nueva York sostienen que las poderosas empresas de IA deben al público respuestas claras y responsables sobre los riesgos catastróficos, mientras que antiguos miembros del sector afirman que la carrera de la industria por desarrollar sistemas más capaces ha superado su cultura de seguridad. Los representantes de las empresas sostienen que los riesgos inaceptables no deben tolerarse, pero tuvieron dificultades para explicar cómo se miden o contienen esos riesgos.
El enfrentamiento llevaba semanas gestándose. A medida que se intensificaba el escrutinio de los laboratorios de IA de frontera, la presidenta del Concejo Municipal, Julie Menin, convocó una inusual audiencia del Comité Plenario y exigió que Anthropic, OpenAI, Google y Meta respondieran bajo juramento preguntas sobre los peligros que podrían plantear sus sistemas. Tres de las empresas aceptaron solo después de que el Concejo amenazara con citaciones judiciales, según la oficina de Menin.1
El lunes, la audiencia puso de manifiesto la distancia entre la exigencia del Concejo de salvaguardas concretas y las cautelosas garantías de la industria. Menin preguntó a los ejecutivos cómo cuantificaban el riesgo de la IA en un escenario catastrófico de peor caso. Morgan Dwyer, ejecutivo de políticas de OpenAI, respondió: «No lo sé», y añadió que no importaba si la probabilidad era del 1 %, 10 % o 20 %, porque ningún nivel de riesgo de ese tipo era aceptable.2
Menin no se dejó convencer. «Decir que no sabe y que no importa es, en el mejor de los casos, frívolo», dijo, después de que Dwyer afirmara que OpenAI no debería entrenar modelos que no pudieran permanecer de forma segura bajo control humano.2 Las empresas no ofrecieron respuestas claras sobre si podían detener un modelo que no superara una prueba de seguridad, asegurarse contra una catástrofe o cuantificar la probabilidad de que ocurriera una.2
Los exempleados plantearon el problema de forma más contundente. Jacob Coxon, quien dejó Anthropic, dijo a los concejales que la filosofía del sector de «avanzar rápido y romper cosas» podría ser adecuada para una aplicación de intercambio de fotos, pero no para «la tecnología más poderosa jamás construida».3 Compareció junto a antiguos trabajadores de Google y OpenAI que presionaban por una supervisión más estricta.
La reprimenda política más dura vino del defensor público Jumaane D. Williams, quien calificó la respuesta de Dwyer como una «respuesta espantosa y fantásticamente terrible».3 La audiencia dejó a ambas partes alineadas en un punto abstracto —el riesgo catastrófico es inaceptable—, pero divididas sobre si las empresas pueden demostrar que sus sistemas, cada vez más acelerados, están realmente bajo control.