“Es una situación con matices muy complejos”, dijo un integrante de la empresa que ahora protagoniza una polémica por los posibles riesgos asociados al uso de sus tecnologías
Anthropic, uno de los protagonistas excluyentes en el ámbito de la inteligencia artificial, señaló en un informe que científicos utilizaron su modelo para crear armas biológicas. “Es una situación con matices muy complejos”, opinó Jacob Klein, responsable de inteligencia de amenazas en la startup estadounidense.
La revelación ocurre en una de las semanas más agitadas para la empresa que lideran los hermanos Amodei, dos exintegrantes de OpenAI. Sus políticas de desarrollo ocuparon el centro del debate luego de que un investigador renunciara a su cargo y asegurara que los integrantes del grupo especializado en inteligencia artificial creen que esas tecnologías “nos matarán a finales de esta década”.
Anthropic, sobre los usos indebidos de su IA: “Detrás de esto no hay villanos como en los cómics”
El reporte que publicó la compañía el jueves dio cuenta de la detección y bloqueo a varios científicos y laboratorios que utilizaban los modelos de IA para, probablemente, crear armas biológicas.
En declaraciones a The New York Times, Klein señaló que estamos frente a una problemática que tiene “matices complejos” ya que las investigaciones de esa especie pueden parecerse a las que se realizan, por ejemplo, para crear nuevas vacunas.
“No estamos ante alguien que, al estilo de los cómics, dice ‘quiero fabricar un arma biológica para matar a todo el mundo’”, remarcó al respecto el responsable de seguridad y comentó que, sin embargo, optaron por una cautela extrema debido a las posibles consecuencias, conforme los modelos de inteligencia artificial adquieren nuevas habilidades científicas.
Uno de los casos detectados y bloqueados, detallado en el informe, es una solicitud a Claude realizada en un instituto militar para que redacte una propuesta de subvención destinada a una investigación sobre métodos para alterar genéticamente al chikunguña, un virus que carece de tratamiento autorizado y que, según la empresa, puede provocar síntomas debilitantes durante muchas semanas.
En esas instrucciones identificadas y catalogadas como riesgosas, se pedía al modelo de Anthropic que se planteen escenarios en los que la transmisibilidad del virus aumente y elude la respuesta inmunitaria.
Tal como indica la publicación Engadget, el informe de la startup también incluyó detalles sobre el uso de sus modelos como herramienta de vigilancia, para crear vulnerabilidad de softwares, además de armamentos. En todos los casos las cuentas fueron suspendidas.
El reporte no especificó las identidades de las personas o instituciones detrás de esos usos indebidos de la inteligencia artificial. “Los implicados en estos estudios son científicos en actividad (…) No afirmamos que tuvieran intención de causar daños y, por eso, identificarlos podría exponerlos a riesgos”, explicaron desde Anthropic.
Los desarrolladores de Claude instaron a “regular el ritmo de lanzamiento de las IAs potentes”
Revelaciones como las que recientemente realizó el exinvestigador de la empresa, Jacob Coxon, profundizan la controversia en torno a los propósitos detrás de estas tecnologías. A poco de renunciar a su cargo, el británico de 27 años advirtió que esos sistemas “pronto tendrán capacidades sobrehumanas” y que sos procesos “no desacelerarán”.
Anthropic salió al ruedo a responder, abogando por marcos para la regulación, más que por las visiones agoreras. “Creemos que el mundo se beneficiaría si el sector adoptase una forma legal y verificable de colaborar para regular el ritmo de lanzamiento de los modelos potentes”, dijeron.
