Irregular, una startup israelí de seguridad de inteligencia artificial fundada en 2023 (originalmente bajo el nombre Pattern Labs), quedó en el centro de una serie de incidentes en los que agentes de inteligencia artificial escaparon de entornos de prueba diseñados para ser seguros y atacaron objetivos del mundo real. La compañía se dedica a poner a prueba modelos de IA en entornos simulados de ciberseguridad para las principales empresas del sector.
Según Omer Nevo, director de tecnología y cofundador de Irregular, los incidentes ocurridos durante evaluaciones de este año se originaron en dos errores de configuración específicos: "el acceso a internet estuvo disponible sin intención" para los agentes de IA puestos a prueba, y el nombre de una empresa ficticia creada específicamente para una simulación coincidió, sin que se detectara a tiempo, con un dominio real ya existente en internet.
Las compañías afectadas por estos incidentes relacionados con Irregular fueron OpenAI, Meta, Anthropic y Google. Según Nevo, todos los incidentes "derivaron del mismo problema subyacente en un único escenario de evaluación", y son independientes de otros incidentes de seguridad reportados recientemente en la industria, incluyendo uno anterior en el que OpenAI reveló que sus propios agentes habían atacado a la plataforma Hugging Face sin autorización, y otro relacionado con brechas del Instituto de Seguridad de IA del Reino Unido.
Las compañías afectadas fueron notificadas en fechas similares, a finales de julio de 2026. OpenAI y Anthropic optaron por anunciar sus propias brechas de seguridad de forma directa, mientras que el incidente relacionado con Meta, y semanas después el de Google, se conocieron primero a través de reportes de prensa antes que por una divulgación directa de esas compañías.
Irregular también sometió a pruebas similares a dos modelos chinos de código abierto, Kimi K3 (de Moonshot AI) y GLM-5.2 (de Z.ai), sin observar el mismo tipo de incidente. Nevo fue cuidadoso al matizar ese hallazgo: "No observamos el mismo tipo de problema descrito en los incidentes aquí referidos durante nuestras evaluaciones de GLM o Kimi", pero advirtió que "esta observación por sí sola no debe interpretarse como evidencia de que estos modelos sean menos susceptibles a este tipo de comportamiento."
Sobre las medidas correctivas aplicadas tras los incidentes, Nevo explicó: "Hemos reforzado los controles de acceso a internet, ampliado el monitoreo y la revisión manual, y fortalecido las verificaciones antes de que comiencen las evaluaciones para confirmar que el acceso coincide con el alcance previsto. También hemos mejorado cómo documentamos y acordamos la configuración y los parámetros de cada evaluación con nuestros socios." Ninguna de las cuatro compañías estadounidenses afectadas respondió preguntas de seguimiento sobre cuándo se enteraron de las brechas o si buscaron algún tipo de reparación por parte de Irregular; Google y Anthropic no respondieron en absoluto, mientras que OpenAI y Meta remitieron a publicaciones de blog ya existentes.