IA da Meta explora falha de segurança e acessa sistema de empresa durante teste, diz site

Um modelo de inteligência artificial da Meta, empresa responsável por Instagram, WhatsApp e Facebook, explorou uma vulnerabilidade de segurança e conseguiu acessar o sistema de uma empresa durante testes. O caso foi revelado nesta quarta-feira (5) pelo site The Information. A identidade da companhia afetada não foi divulgada.

Segundo a reportagem, o modelo Muse Spark 1.1 conseguiu acessar o sistema e realizar alterações de forma autônoma. A Meta informou que o episódio ocorreu devido a um erro de configuração no ambiente utilizado para avaliar a tecnologia, que permitiu ao sistema de inteligência artificial acessar a internet.

A empresa afirmou que investiga o incidente. Em comunicado, a Meta declarou que o modelo “explorou uma vulnerabilidade de segurança em um serviço de terceiros, de maneira semelhante a casos relatados anteriormente com outras empresas”.

Testes são realizados em ambientes controlados

Experimentos destinados a avaliar as capacidades de modelos avançados de inteligência artificial costumam ser realizados em ambientes isolados, conhecidos como “sandboxes”, nos quais o acesso a sistemas externos e à internet é limitado ou bloqueado.

Durante determinadas avaliações, algumas barreiras de proteção presentes nas versões disponibilizadas ao público podem ser retiradas para que pesquisadores analisem os limites e possíveis riscos dos agentes de IA.

De acordo com o The Information, uma falha na configuração desse ambiente permitiu que o Muse Spark 1.1 tivesse acesso externo e explorasse uma vulnerabilidade existente em um serviço de terceiros.

O erro teria ocorrido na infraestrutura da Irregular, empresa parceira da Meta responsável por participar dos testes do modelo.

Empresa descarta 'fuga' do ambiente de testes

Em declaração à Reuters, um porta-voz da Irregular afirmou que o episódio envolveu o mesmo tipo de problema em ambiente de avaliação que havia sido divulgado anteriormente pela Anthropic.

Segundo a empresa, o incidente não representou uma “fuga do sandbox” nem envolveu uma “ação cibernética sofisticada”.

“Não há problemas em aberto no momento. A Irregular está desenvolvendo um artigo técnico para compartilhar as melhores práticas de contenção e execução segura de avaliações cibernéticas”, informou a companhia.

O episódio ocorre em meio ao aumento das discussões sobre segurança no desenvolvimento de sistemas avançados de inteligência artificial. Outras empresas do setor, como OpenAI e Anthropic, também já relataram incidentes ou testes nos quais modelos demonstraram capacidade de explorar vulnerabilidades em determinados ambientes de avaliação.

Siga o CN1 no Google Notícias e tenha acesso aos destaques do dia.