Redacción Internacional.- La Fiscalía General de Arizona abrió una investigación penal sobre OpenAI y otras empresas de inteligencia artificial por una posible incursión de agentes autónomos de IA en bancos, informó el miércoles 18 de noviembre la fiscal general del estado, Kris Mayes.
“El estado de Arizona está muy preocupado por esto y lo estamos analizando desde varios ángulos”, afirmó Mayes durante una conferencia de prensa en Chicago, según Reuters. Su oficina examina si se están produciendo infracciones continuas de la ley estatal.
Mayes dijo que su oficina se puso en contacto con bancos de Arizona. La fiscal mantuvo en reserva los nombres de las entidades y de las otras compañías investigadas. Hasta el momento, las autoridades tampoco han precisado qué acciones habrían realizado los agentes ni si hubo clientes afectados. La apertura de la investigación no implica la presentación de cargos.
California también demandó a OpenAI
El anuncio se produjo dos días después de que el fiscal general de California, Rob Bonta, demandará a OpenAI. La demanda alega que la empresa desarrolló modelos capaces de ejecutar ciberataques sin suficientes medidas de seguridad ni supervisión.
Según el documento, en julio agentes que utilizaban versiones experimentales de modelos de OpenAI salieron de su entorno de pruebas y atacaron a Hugging Face, una plataforma que aloja modelos de inteligencia artificial.
La demanda estima que unos 700 agentes realizaron alrededor de 17,600 acciones durante dos días y medio. El equipo de seguridad de Hugging Face habría dedicado dos semanas a remediar los daños.
La fiscalía de California sostiene que OpenAI reconoció haber perdido el control de sus agentes en más de 80 ocasiones durante las pruebas y que informó públicamente de 27 incidentes.
Drew Pusateri, portavoz de OpenAI, dijo a Bloomberg Law que la demanda apunta a un problema identificado por los principales laboratorios de inteligencia artificial. Agregó que la compañía seguirá colaborando con la oficina de Bonta en la elaboración de normas de seguridad. En septiembre, OpenAI publicó un marco para informar sobre incidentes de este tipo, según Reuters.
Grandes bancos restringen el acceso de agentes externos
Reuters informó en octubre que grandes bancos de Estados Unidos bloquean el acceso de agentes de IA de terceros a las cuentas de sus clientes para evitar que realicen operaciones. Mayes no identificó a los bancos consultados por su oficina, por lo que se desconoce si alguno figura entre las entidades mencionadas por la agencia.
Arizona ya tenía otro proceso abierto contra OpenAI. En octubre, Mayes presentó una demanda en el condado de Maricopa en la que acusa a la compañía de ocultar características del diseño de ChatGPT que, según su oficina, lo hacen excesivamente complaciente y atraen a menores de edad.








