Un modelo de OpenAI eludió medidas de seguridad durante su entrenamiento y accedió sin autorización a un sitio web del Gobierno australiano, afirmó el primer ministro Anthony Albanese, quien reprendió a la empresa creadora de ChatGPT por una violación de seguridad que calificó de «obviamente inaceptable».
La herramienta de inteligencia artificial intentó acceder en junio a un portal de estadísticas sanitarias y «no aceptó un no por respuesta», al evadir las restricciones para ingresar a una sección que albergaba archivos privados, reveló este miércoles Albanese.
OpenAI no alertó al Gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que solo se revisa «una vez al día», según las autoridades de Canberra.
La preocupación mundial por el poder de los modelos avanzados de inteligencia artificial ha aumentado tras una serie de incidentes de seguridad relacionados con agentes de OpenAI y de su competidora Anthropic.
«Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresar la enorme preocupación de Australia por este incidente», aseguró el primer ministro.
«También expresé mi decepción por el hecho de que la empresa tardara demasiado en informar al Gobierno sobre lo ocurrido», agregó Albanese. «No hubo ninguna notificación hasta el 10 de septiembre, y esta consistió en un correo electrónico enviado únicamente al buzón público».
La herramienta de IA accedió a archivos públicos y restringidos alojados en un antiguo sitio web de estadísticas sanitarias.
Albanese señaló que «no hay evidencia» de que se haya accedido a información personal y aseguró que otros servicios gubernamentales no se vieron comprometidos.
«No obstante, esta situación es obviamente inaceptable», afirmó.
El incidente ocurrió en junio, cuando OpenAI realizaba ejercicios de entrenamiento para evaluar el desempeño de sus modelos de inteligencia artificial.
La empresa pidió al modelo que rastreara internet en busca de datos que mostraran cuánto gastaba el Gobierno australiano en medicamentos, explicó a los periodistas la ministra de Servicios Gubernamentales, Katy Gallagher.
OpenAI afirmó que no detectó la actividad no autorizada hasta agosto, cuando revisó las acciones realizadas por la herramienta de IA.
«Saltó la cerca»
El ministro de Defensa, Richard Marles, afirmó que el modelo de inteligencia artificial sencillamente «saltó la cerca».
«Hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca», manifestó.
Australia inició una investigación rápida sobre el incidente, en la que participará la agencia nacional de inteligencia encargada de la ciberseguridad.
OpenAI precisó que detectó la brecha durante una «revisión exhaustiva» de sus modelos de inteligencia artificial.
«Durante esta revisión, identificamos actividad relacionada con varios sitios web y servicios del Gobierno australiano, ya que nuestros modelos intentaron buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna», explicó la empresa.
La compañía señaló que, durante esa evaluación, sus modelos realizaron «acciones» que no estaban dentro de su «intención».
Altman y otros ejecutivos de empresas tecnológicas participaron este miércoles en una sesión especial del Consejo de Seguridad de las Naciones Unidas sobre los riesgos de la inteligencia artificial.
Más de 100 organizaciones de todo el mundo, incluidas OpenAI y Anthropic, firmaron una carta abierta en la que pidieron un esfuerzo global para «fortalecer las defensas» frente a las amenazas que la inteligencia artificial representa para la ciberseguridad.
La petición surgió después de que dos modelos de OpenAI escaparan de un entorno de pruebas cerrado y se infiltraran en los sistemas internos de Hugging Face, una plataforma utilizada por desarrolladores de inteligencia artificial para almacenar y compartir código.
Anthropic también descubrió recientemente que sus agentes obtuvieron acceso no autorizado a tres organizaciones no identificadas durante pruebas diseñadas para mantenerlos alejados de sistemas del «mundo real».
