Wikimedia detectó actividad de agentes de OpenAI en sus plataformas: “El riesgo va en aumento”

Wikimedia, responsable de Wikipedia, encontró actividad de agentes automatizados de OpenAI en plataformas de su propiedad. En una investigación detallada en su blog oficial, la fundación catalogó a esos sistemas como “díscolos” y advirtió que “el riesgo va en aumento”.

La revelación se suma a una serie de incidentes ocurridos en los últimos meses, en los que IAs agénticas complotaron y vulneraron servicios de terceros. El caso más resonante también fue protagonizado por desarrollos de OpenAI, que se infiltraron en la plataforma Hugging Face. Actualmente, la organización estadounidense enfrenta una demanda por este hecho.

Esas intrusiones lideradas por tecnologías rebeldes intensificaron el debate acerca de los riesgos de la nueva inteligencia artificial en el que resuenan advertencias como la de un exinvestigador en las principales compañías del sector, Jacob Coxon, quien dijo que los que desarrollan IA creen que esas tecnologías acabarán con la humanidad, esta misma década. Luego de esas declaraciones y de su repercusión, el CEO de OpenAI, Sam Altman, reconoció que “el mundo tiene razones para tener miedo”.

Wikimedia encontró actividad de agentes de IA rebeldes en sus plataformas

Los responsables de la afamada enciclopedia online hicieron referencia a los incidentes en los que las IAs se rebelaron para infiltrarse en plataformas, y mencionaron que, en algunos de los casos reportados, los agentes coordinaron sus acciones en wikis públicas, que son sitios de edición colaborativa.

“Este tipo de intrusiones exitosas puede exponer datos confidenciales o interrumpir servicios web de los que dependen los usuarios, mientras que los grupos de agentes pueden intentar ataques a una escala difícil de gestionar para los equipos de defensa”, alertaron desde Wikimedia.

Además, advirtieron que esas acciones “afectan a las personas detrás de los sitios web, quienes tal vez no comprendan la naturaleza del ataque ni dispongan de las herramientas para contrarrestarlo eficazmente”.

En ese marco, la fundación sin fines de lucro realizó su propia investigación para determinar si sitios de su propiedad se vieron afectados por ese tipo de eventos. “Podemos confirmar que hemos detectado cierta actividad de estos agentes rebeldes de OpenAI en las plataformas de Wikimedia”, indicaron al respecto.

La entrada no alude a intervenciones no autorizadas en los artículos de Wikipedia. En cambio, se indica que los bots realizaron ediciones en wikis —un formato de sitio web colaborativo, en este caso propiedad de Wikimedia—, y que detectaron intentos fallidos para explotar una herramienta pública de toma de notas, además de un tráfico intenso que podría haber provocado una interrupción parcial de los servicios.

Aunque no hallaron pruebas de compromiso de sus sistemas o datos, la organización expresó su preocupación por las posibles consecuencias de ese tipo de actividad liderada por “IAs con capacidad de operar en forma autónoma”.

A diferencia de los chatbots tradicionales, que básicamente responden a pedidos de los usuarios, los agentes de inteligencia artificial se caracterizan por la capacidad de actuar por cuenta propia y por la posibilidad de realizar tareas en nombre del usuario. Si bien esas habilidades ofrecen algunas ventajas —por ejemplo, para que hagan el trabajo que no deseamos o queremos hacer—, delegar el control trae aparejado una serie de riesgos y problemáticas.

La rebelión de la inteligencia artificial: OpenAI no es el único apuntado

En su carácter de paradigma del sector en el que participa, el grupo que dirige Altman recibe especial escrutinio. La intrusión en Hugging Face no fue aislada. OpenAI también reveló que uno de sus agentes obtuvo acceso no autorizado a un portal del gobierno australiano, por mencionar uno de los casos.

En este contexto, varios investigadores renunciaron al grupo y, apenas confirmaron su salida, criticaron con dureza a su exempleador. Uno de ellos, David Robisnon, que fue parte de esa organización durante más de tres años, señaló esta semana que “la cultura de trabajo en OpenAI está rota” y notó que el enfoque para los desarrollos provoca fallos constantes que aumentan conforme “los sistemas se vuelven más capaces”.

Lo cierto es que OpenAI no es la única señalada en el recuento de rebeliones de la IA. Recientemente, agentes automatizados intentaron vulnerar un sitio oficial del gobierno de Canadá mientras buscaban información pública y llegaron a probar técnicas utilizadas en ataques informáticos.

Según contamos en TN Tecno, la actividad fue descubierta por investigadores de Transluce, una organización que estudia y supervisa sistemas de IA, que reveló que el objetivo fue la web de la Biblioteca y Archivos, ente encargado de preservar el patrimonio documental en el país norteamericano.

Los casos se replican y, en este marco, resuenan con fuerza advertencias como la de Coxon. En esa línea, la especialista en IA Rebeca Hwang dijo en diálogo con esta publicación que “no es descabellado pensar que agentes autónomos puedan actuar contra las personas”.

Las alertas no culminan en los temores, sino que abren un debate necesario conforme estas tecnologías evolucionan. Especialistas del sector y autoridades de la escena política subrayaron la necesidad de regular los desarrollos y establecer un marco de supervisión, para que los beneficios de estos avances no vayan en desmedro del bienestar e integridad de sus creadores.

“La irrupción de agentes de IA en el ámbito de los ataques debería motivar una revisión inmediata”, alertaron desde la Agencia Española de Protección de Datos.

“Incidentes como este, y los muchos otros que se han descubierto y se siguen descubriendo, ilustran cómo los agentes de IA pueden agotar recursos y colapsar servidores, además de intentar comprometer información fiable”, escribió Selena Deckelmann, directora de producto y tecnología de Wikimedia, en la mencionada publicación.

En ese sentido, instó a las empresas de IA a asumir una mayor responsabilidad en la supervisión de sus agentes y en la prevención de estos riesgos.