OpenAI confirmó que uno de sus agentes de inteligencia artificial logró realizar un ataque informático contra la plataforma Hugging Face durante una evaluación interna, un hecho que la compañía calificó como un “incidente de ciberseguridad sin precedentes”.
De acuerdo con la empresa creadora de ChatGPT, el sistema fue probado en un entorno controlado, pero logró acceder a internet y utilizar herramientas para intentar superar las medidas de seguridad establecidas. El agente habría aprovechado vulnerabilidades y credenciales obtenidas durante el proceso para cumplir con el objetivo asignado.
El director ejecutivo de OpenAI, Sam Altman, reconoció el incidente y señaló que se reforzarán los controles de seguridad para futuras pruebas. Por su parte, Hugging Face informó que la actividad fue detectada y detenida por sus sistemas de protección.
El caso generó reacciones y abrió debate en redes sociales sobre los alcances de la inteligencia artificial y la necesidad de reforzar las medidas de supervisión ante el avance de estas tecnologías.
About the Author
