Primero fue OpenAI , después Anthropic y, ahora, le ha llegado el turno a Meta AI. La división de inteligencia artificial del emporio de las redes sociales ha reconocido que su modelo de inteligencia artificial más punteros, el reciente Muse Spark 1.1 , ‘hackeó’ por error a una empresa durante un test de seguridad. La noticia se produce apenas unos días después de que saliera a la luz que otras herramientas similares, desarrolladas por algunas de las compañías de IA más destacadas del mundo, habían llevado a cabo acciones de esta clase.Según la firma dirigida por Mark Zuckerberg , el ‘hackeo’ se produjo debido a un error de Irregular, una empresa independiente dedicada a realizar evaluaciones de ciberseguridad que se encontraba probando las capacidades del último modelo de Meta AI. De acuerdo con la matriz de Facebook, Instagram y WathsApp, el fallo, que fue completamente humano, hizo posible que la herramienta tuviera acceso a internet, lo que le permitió «explotar una vulnerabilidad de seguridad en un servicio de terceros, de forma similar a casos previamente reportados por otras empresas».Fuentes de Irregular consultadas por ‘Reuters’ explican que el incidente fue provocado «exactamente por el mismo problema en el entorno de evaluación que ya había revelado Anthropic la semana pasada» y que no implicó «una fuga del entorno de pruebas ni una acción cibernética sofisticada».Efectivamente, Anthropic anunció a finales de la semana pasada que había descubierto que, el pasado mes de abril, que algunos de sus modelos de IA más potentes habían conseguido salir del entorno en el que se las había estado poniendo a prueba y terminaron ‘hackeando’ a tres empresas por error. Como en el caso de Meta, el fallo se produjo debido a una mala configuración que permitió que los sistemas tuvieran acceso a internet.Una semana antes de que se conociera este caso, OpenAI compartió que dos de sus modelos de IA más capaces en labores de ciberseguridad habían logrado explotar una vulnerabilidad en el ‘sandbox’ en el que la empresa los estaba testando. Esto les permitió abandonar el entorno de pruebas y recorrer los sistemas de la empresa hasta que consiguieron acceso a internet. Tras esto, lograron ciberatacar a varias empresas, entre ellas a Hugging Face, plataforma dedicada al desarrollo de herramientas de inteligencia artificial de código abierto.EE.UU. se lo piensaDesde que Anthropic anunció esta primavera el lanzamiento de Mythos -herramienta capaz de localizar vulnerabilidades y explotarlas mejor que casi cualquier experto humano- los gobiernos y las empresas han estado cada vez más preocupados por las posibilidades de esta tecnología, con capacidad para convertir la red en un polvorín. El Gobierno de Estados Unidos, que en un primer momento apostó por no regular la tecnología para garantizar que sus empresas mantuvieran el liderazgo mundial, incluso se está repensando esta postura.Un grupo de fiscales generales republicanos de distintos estados de EE. UU. solicitó recientemente a OpenAI que conserve toda la documentación que pueda resultar relevante para la investigación del ciberataque sufrido por Hugging Face. La compañía ha asegurado que atenderá la petición y que publicará un informe técnico sobre lo ocurrido.Además, a inicios de esta semana, el presidente Donald Trump y su equipo se reunió en la Casa Blanca con las principales empresas de inteligencia artificial -entre ellas Meta, Anthropic, OpenAI y Google- para informarles sobre el nuevo marco voluntario de pruebas de ciberseguridad destinado a los modelos de IA más avanzados. Gracias a este, el Gobierno estadounidense tendrá capacidad para revisar las herramientas de inteligencia artificial más avanzadas antes de su lanzamiento. Según la prensa local, durante esos encuentros la Administración también comunicó a los representantes de las compañías las normas de evaluación, que aún no se han hecho públicas, y les trasladó que los modelos de peso abierto -que son aquellos cuyos parámetros entrenados pueden descargarse y utilizarse, aunque su código o los datos empleados para crearlos no sean necesariamente públicos-, como Llama, de Meta, y Nemotron, de Nvidia, quedarían fuera del régimen voluntario de pruebas de seguridad que se está preparando. Primero fue OpenAI , después Anthropic y, ahora, le ha llegado el turno a Meta AI. La división de inteligencia artificial del emporio de las redes sociales ha reconocido que su modelo de inteligencia artificial más punteros, el reciente Muse Spark 1.1 , ‘hackeó’ por error a una empresa durante un test de seguridad. La noticia se produce apenas unos días después de que saliera a la luz que otras herramientas similares, desarrolladas por algunas de las compañías de IA más destacadas del mundo, habían llevado a cabo acciones de esta clase.Según la firma dirigida por Mark Zuckerberg , el ‘hackeo’ se produjo debido a un error de Irregular, una empresa independiente dedicada a realizar evaluaciones de ciberseguridad que se encontraba probando las capacidades del último modelo de Meta AI. De acuerdo con la matriz de Facebook, Instagram y WathsApp, el fallo, que fue completamente humano, hizo posible que la herramienta tuviera acceso a internet, lo que le permitió «explotar una vulnerabilidad de seguridad en un servicio de terceros, de forma similar a casos previamente reportados por otras empresas».Fuentes de Irregular consultadas por ‘Reuters’ explican que el incidente fue provocado «exactamente por el mismo problema en el entorno de evaluación que ya había revelado Anthropic la semana pasada» y que no implicó «una fuga del entorno de pruebas ni una acción cibernética sofisticada».Efectivamente, Anthropic anunció a finales de la semana pasada que había descubierto que, el pasado mes de abril, que algunos de sus modelos de IA más potentes habían conseguido salir del entorno en el que se las había estado poniendo a prueba y terminaron ‘hackeando’ a tres empresas por error. Como en el caso de Meta, el fallo se produjo debido a una mala configuración que permitió que los sistemas tuvieran acceso a internet.Una semana antes de que se conociera este caso, OpenAI compartió que dos de sus modelos de IA más capaces en labores de ciberseguridad habían logrado explotar una vulnerabilidad en el ‘sandbox’ en el que la empresa los estaba testando. Esto les permitió abandonar el entorno de pruebas y recorrer los sistemas de la empresa hasta que consiguieron acceso a internet. Tras esto, lograron ciberatacar a varias empresas, entre ellas a Hugging Face, plataforma dedicada al desarrollo de herramientas de inteligencia artificial de código abierto.EE.UU. se lo piensaDesde que Anthropic anunció esta primavera el lanzamiento de Mythos -herramienta capaz de localizar vulnerabilidades y explotarlas mejor que casi cualquier experto humano- los gobiernos y las empresas han estado cada vez más preocupados por las posibilidades de esta tecnología, con capacidad para convertir la red en un polvorín. El Gobierno de Estados Unidos, que en un primer momento apostó por no regular la tecnología para garantizar que sus empresas mantuvieran el liderazgo mundial, incluso se está repensando esta postura.Un grupo de fiscales generales republicanos de distintos estados de EE. UU. solicitó recientemente a OpenAI que conserve toda la documentación que pueda resultar relevante para la investigación del ciberataque sufrido por Hugging Face. La compañía ha asegurado que atenderá la petición y que publicará un informe técnico sobre lo ocurrido.Además, a inicios de esta semana, el presidente Donald Trump y su equipo se reunió en la Casa Blanca con las principales empresas de inteligencia artificial -entre ellas Meta, Anthropic, OpenAI y Google- para informarles sobre el nuevo marco voluntario de pruebas de ciberseguridad destinado a los modelos de IA más avanzados. Gracias a este, el Gobierno estadounidense tendrá capacidad para revisar las herramientas de inteligencia artificial más avanzadas antes de su lanzamiento. Según la prensa local, durante esos encuentros la Administración también comunicó a los representantes de las compañías las normas de evaluación, que aún no se han hecho públicas, y les trasladó que los modelos de peso abierto -que son aquellos cuyos parámetros entrenados pueden descargarse y utilizarse, aunque su código o los datos empleados para crearlos no sean necesariamente públicos-, como Llama, de Meta, y Nemotron, de Nvidia, quedarían fuera del régimen voluntario de pruebas de seguridad que se está preparando. Primero fue OpenAI , después Anthropic y, ahora, le ha llegado el turno a Meta AI. La división de inteligencia artificial del emporio de las redes sociales ha reconocido que su modelo de inteligencia artificial más punteros, el reciente Muse Spark 1.1 , ‘hackeó’ por error a una empresa durante un test de seguridad. La noticia se produce apenas unos días después de que saliera a la luz que otras herramientas similares, desarrolladas por algunas de las compañías de IA más destacadas del mundo, habían llevado a cabo acciones de esta clase.Según la firma dirigida por Mark Zuckerberg , el ‘hackeo’ se produjo debido a un error de Irregular, una empresa independiente dedicada a realizar evaluaciones de ciberseguridad que se encontraba probando las capacidades del último modelo de Meta AI. De acuerdo con la matriz de Facebook, Instagram y WathsApp, el fallo, que fue completamente humano, hizo posible que la herramienta tuviera acceso a internet, lo que le permitió «explotar una vulnerabilidad de seguridad en un servicio de terceros, de forma similar a casos previamente reportados por otras empresas».Fuentes de Irregular consultadas por ‘Reuters’ explican que el incidente fue provocado «exactamente por el mismo problema en el entorno de evaluación que ya había revelado Anthropic la semana pasada» y que no implicó «una fuga del entorno de pruebas ni una acción cibernética sofisticada».Efectivamente, Anthropic anunció a finales de la semana pasada que había descubierto que, el pasado mes de abril, que algunos de sus modelos de IA más potentes habían conseguido salir del entorno en el que se las había estado poniendo a prueba y terminaron ‘hackeando’ a tres empresas por error. Como en el caso de Meta, el fallo se produjo debido a una mala configuración que permitió que los sistemas tuvieran acceso a internet.Una semana antes de que se conociera este caso, OpenAI compartió que dos de sus modelos de IA más capaces en labores de ciberseguridad habían logrado explotar una vulnerabilidad en el ‘sandbox’ en el que la empresa los estaba testando. Esto les permitió abandonar el entorno de pruebas y recorrer los sistemas de la empresa hasta que consiguieron acceso a internet. Tras esto, lograron ciberatacar a varias empresas, entre ellas a Hugging Face, plataforma dedicada al desarrollo de herramientas de inteligencia artificial de código abierto.EE.UU. se lo piensaDesde que Anthropic anunció esta primavera el lanzamiento de Mythos -herramienta capaz de localizar vulnerabilidades y explotarlas mejor que casi cualquier experto humano- los gobiernos y las empresas han estado cada vez más preocupados por las posibilidades de esta tecnología, con capacidad para convertir la red en un polvorín. El Gobierno de Estados Unidos, que en un primer momento apostó por no regular la tecnología para garantizar que sus empresas mantuvieran el liderazgo mundial, incluso se está repensando esta postura.Un grupo de fiscales generales republicanos de distintos estados de EE. UU. solicitó recientemente a OpenAI que conserve toda la documentación que pueda resultar relevante para la investigación del ciberataque sufrido por Hugging Face. La compañía ha asegurado que atenderá la petición y que publicará un informe técnico sobre lo ocurrido.Además, a inicios de esta semana, el presidente Donald Trump y su equipo se reunió en la Casa Blanca con las principales empresas de inteligencia artificial -entre ellas Meta, Anthropic, OpenAI y Google- para informarles sobre el nuevo marco voluntario de pruebas de ciberseguridad destinado a los modelos de IA más avanzados. Gracias a este, el Gobierno estadounidense tendrá capacidad para revisar las herramientas de inteligencia artificial más avanzadas antes de su lanzamiento. Según la prensa local, durante esos encuentros la Administración también comunicó a los representantes de las compañías las normas de evaluación, que aún no se han hecho públicas, y les trasladó que los modelos de peso abierto -que son aquellos cuyos parámetros entrenados pueden descargarse y utilizarse, aunque su código o los datos empleados para crearlos no sean necesariamente públicos-, como Llama, de Meta, y Nemotron, de Nvidia, quedarían fuera del régimen voluntario de pruebas de seguridad que se está preparando. RSS de noticias de tecnologia
Noticias Similares
