Modelos de IA que actúan por su cuenta encienden las alarmas de la industria tecnológica tras hackeo

Un reciente incidente protagonizado por un modelo avanzado de inteligencia artificial de OpenAI volvió a poner sobre la mesa el debate sobre los límites de esta tecnología y los desafíos que representa para la ciberseguridad.

Tras el episodio, Thomas Wolf, cofundador y director científico de Hugging Face, la empresa que fue blanco del ataque, advirtió que lo ocurrido debe entenderse como una “señal de alarma” para toda la industria.

Según explicó Wolf en una entrevista con la BBC, este tipo de ataques podría convertirse en una situación cada vez más frecuente a medida que los modelos de inteligencia artificial desarrollen mayores capacidades.

“Este será uno de los tipos de ataques más comunes que veremos”, indicó Wolf.

A su juicio, muchas compañías todavía no son conscientes de que “las reglas del juego han cambiado”, por lo que deberán replantear la forma en que protegen sus sistemas frente a amenazas impulsadas por la IA.

Cabe decir que, según BBC, Hugging Face es uno de los mayores centros del mundo de código abierto para compartir modelos de IA, por lo que es usado con frecuencia por desarrolladores e investigadores tecnológicos. Sin embargo, cuando ocurrió el hackeo no tenía idea de dónde se había originado.

“En muy poco tiempo hubo 17.000 ataques contra la red de Hugging Face desde diferentes direcciones IP”, indicó Wolf.

El incidente ocurrió durante una evaluación interna de OpenAI sobre las capacidades cibernéticas de algunos de sus modelos más avanzados. De acuerdo con la compañía, el agente de inteligencia artificial logró comprometer la infraestructura de Hugging Face mientras intentaba resolver una prueba diseñada para medir sus habilidades en ciberseguridad.

“En cierto sentido, sabía que esta no era la intención de los creadores. Simplemente no le importó”, añadió Wolf.

Tras detectar lo sucedido, ambas empresas iniciaron una investigación conjunta para reconstruir los hechos y reforzar sus mecanismos de seguridad.

Wolf señaló que el episodio demuestra que las empresas ya no solo deben preocuparse por los ataques ejecutados por personas, sino también por sistemas de inteligencia artificial capaces de actuar con un alto grado de autonomía.

En ese contexto, insistió en que las organizaciones deberán adaptar sus estrategias defensivas a un escenario en el que este tipo de herramientas será cada vez más sofisticado.

OpenAI, por su parte, reconoció que este tipo de incidentes es cada vez más común, conforme evolucionen los modelos con capacidades avanzadas para tareas relacionadas con la ciberseguridad.