Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de la empresa que fueron diseñados para realizar tareas de búsqueda y recopilación de información
EFE.- Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times.
Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información.
En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.
Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de Estados Unidos desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI.
La compañía también investiga un intento de acceso a la página del Departamento de Educación.
La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
El primer ministro australiano, Anthony Albanese, calificó el episodio de «inaceptable», mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos.
OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento.
La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada.
Más historias
BILL GATES ADVIERTE QUE LA IA PUEDE PROVOCAR MIL MILLONES DE MUERTES SI ES USADA CON ‘MALAS INTENCIONES’
MUEREN 19 PERSONAS POR ALCOHOL ADULTERADO EN UN ESTADO DE LA INDIA DONDE EL CONSUMO ESTA PROHIBIDO
OPENAI PAUSA ENTRENAMIENTO DE SUS MODELOS TRAS INTENTOS DE SUS AGENTES DE ACCEDER A SITIOS DEL GOBIERNO DE EU