Los dos modelos de inteligencia artificial ( IA ) de OpenAI que salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados para atacar el sitio Hugging Face, también irrumpieron en otras cuatro plataformas , según el creador de ChatGPT.Una de ellas sirvió de intermediaria para preparar el ataque contra Hugging Face , una biblioteca de IA que los dos modelos exploraron para encontrar las respuestas a las pruebas planteadas por los desarrolladores de OpenAI. La firma creadora de ChatGPT no ha revelado los nombres de las entidades afectadas.Las dos IA también utilizaron varios sitios de libre acceso para copiar código de programación o probarlo, pero sin ir más allá de lo que haría un usuario corriente, según una actualización del informe del incidente publicada en la noche del martes.Para Hugging Face, que publicó un extenso relato de los acontecimientos, la intrusión de la que fue víctima respondía a un «intento (de los dos modelos) de hacer trampa en la evaluación» de OpenAI. Las IA quisieron «robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas».La más grave hasta la fechaEsta evasión de modelos no es la primera que se documenta, pero se considera la más grave hasta la fecha . Lo ocurrido ha dado un nuevo impulso al ya nutrido debate sobre la aceleración de la IA, cuyas capacidades son cada vez más amplias, y sobre la dificultad de controlarla.El martes, más de mil empleados de gigantes de la IA, entre ellos varios altos directivos, pidieron al Gobierno estadounidense que ayude a «frenar» la salida de nuevos modelos para dar tiempo al ecosistema informático a prepararse.Defienden, en una petición, que Estados Unidos sea el motor de la creación de una instancia internacional de referencia en materia de evaluación y supervisión de la IA.’Automejora recursiva’El sector anuncia que la IA se acerca progresivamente a la etapa denominada de la ‘automejora recursiva’ (‘recursive self-improvement’ o RSI, en inglés), más allá de la cual la inteligencia artificial sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito.El RSI haría más difíciles las verificaciones y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los ingenieros no habrían participado directamente en su desarrollo. Los dos modelos de inteligencia artificial ( IA ) de OpenAI que salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados para atacar el sitio Hugging Face, también irrumpieron en otras cuatro plataformas , según el creador de ChatGPT.Una de ellas sirvió de intermediaria para preparar el ataque contra Hugging Face , una biblioteca de IA que los dos modelos exploraron para encontrar las respuestas a las pruebas planteadas por los desarrolladores de OpenAI. La firma creadora de ChatGPT no ha revelado los nombres de las entidades afectadas.Las dos IA también utilizaron varios sitios de libre acceso para copiar código de programación o probarlo, pero sin ir más allá de lo que haría un usuario corriente, según una actualización del informe del incidente publicada en la noche del martes.Para Hugging Face, que publicó un extenso relato de los acontecimientos, la intrusión de la que fue víctima respondía a un «intento (de los dos modelos) de hacer trampa en la evaluación» de OpenAI. Las IA quisieron «robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas».La más grave hasta la fechaEsta evasión de modelos no es la primera que se documenta, pero se considera la más grave hasta la fecha . Lo ocurrido ha dado un nuevo impulso al ya nutrido debate sobre la aceleración de la IA, cuyas capacidades son cada vez más amplias, y sobre la dificultad de controlarla.El martes, más de mil empleados de gigantes de la IA, entre ellos varios altos directivos, pidieron al Gobierno estadounidense que ayude a «frenar» la salida de nuevos modelos para dar tiempo al ecosistema informático a prepararse.Defienden, en una petición, que Estados Unidos sea el motor de la creación de una instancia internacional de referencia en materia de evaluación y supervisión de la IA.’Automejora recursiva’El sector anuncia que la IA se acerca progresivamente a la etapa denominada de la ‘automejora recursiva’ (‘recursive self-improvement’ o RSI, en inglés), más allá de la cual la inteligencia artificial sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito.El RSI haría más difíciles las verificaciones y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los ingenieros no habrían participado directamente en su desarrollo. Los dos modelos de inteligencia artificial ( IA ) de OpenAI que salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados para atacar el sitio Hugging Face, también irrumpieron en otras cuatro plataformas , según el creador de ChatGPT.Una de ellas sirvió de intermediaria para preparar el ataque contra Hugging Face , una biblioteca de IA que los dos modelos exploraron para encontrar las respuestas a las pruebas planteadas por los desarrolladores de OpenAI. La firma creadora de ChatGPT no ha revelado los nombres de las entidades afectadas.Las dos IA también utilizaron varios sitios de libre acceso para copiar código de programación o probarlo, pero sin ir más allá de lo que haría un usuario corriente, según una actualización del informe del incidente publicada en la noche del martes.Para Hugging Face, que publicó un extenso relato de los acontecimientos, la intrusión de la que fue víctima respondía a un «intento (de los dos modelos) de hacer trampa en la evaluación» de OpenAI. Las IA quisieron «robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas».La más grave hasta la fechaEsta evasión de modelos no es la primera que se documenta, pero se considera la más grave hasta la fecha . Lo ocurrido ha dado un nuevo impulso al ya nutrido debate sobre la aceleración de la IA, cuyas capacidades son cada vez más amplias, y sobre la dificultad de controlarla.El martes, más de mil empleados de gigantes de la IA, entre ellos varios altos directivos, pidieron al Gobierno estadounidense que ayude a «frenar» la salida de nuevos modelos para dar tiempo al ecosistema informático a prepararse.Defienden, en una petición, que Estados Unidos sea el motor de la creación de una instancia internacional de referencia en materia de evaluación y supervisión de la IA.’Automejora recursiva’El sector anuncia que la IA se acerca progresivamente a la etapa denominada de la ‘automejora recursiva’ (‘recursive self-improvement’ o RSI, en inglés), más allá de la cual la inteligencia artificial sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito.El RSI haría más difíciles las verificaciones y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los ingenieros no habrían participado directamente en su desarrollo. RSS de noticias de tecnologia
Noticias Similares
