O susto da IA ​​da Mythos é real – o suficiente para que os reguladores dos EUA convoquem uma reunião urgente e avaliem o que o modelo avançado de inteligência artificial da Anthropic pode significar para os bancos.

A reunião aconteceu na terça-feira, com o secretário do Tesouro, Scott Bessent, e o presidente do Fed, Jerome Powell, conversando com CEOs de bancos de Wall Street para discutir possíveis riscos de segurança cibernética ligados ao Mythos, disseram pessoas familiarizadas com o assunto. Bloomberg.

Os participantes incluíram executivos-chefes do Citigroup Inc, Morgan Stanley, Bank of America Corp.', Wells Fargo & Co.'s e Goldman Sachs Group Inc.'s. Todos estes são considerados sistemicamente importantes, o que significa que as perturbações nas suas operações podem ter repercussões globais.

Mythos, um modelo avançado de inteligência artificial desenvolvido pela Anthropic, foi projetado para identificar e explorar vulnerabilidades em sistemas de software quando solicitado. Ao contrário das ferramentas típicas de IA voltadas para o consumidor, o Mythos é voltado para engenharia de software de segurança cibernética e tarefas de segurança cibernética. Sua especialidade é identificar vulnerabilidades e bugs críticos de software, mas também pode montar explorações sofisticadas.

O episódio destaca uma mudança fundamental na forma como os reguladores estão a enquadrar o risco da IA, não apenas como um desafio tecnológico, mas como um potencial catalisador para eventos sistémicos.

Isso já levantou sinais de alerta na criptografia, onde especialistas estão preocupados que a capacidade da Mythos de descobrir e explorar vulnerabilidades de dia zero em tempo real a um custo baixo representa um risco para a infraestrutura DeFi.

A Anthropic, portanto, adotou uma abordagem cautelosa, lançando o produto apenas para um pequeno grupo de grandes empresas de tecnologia e financeiras sob o “Projeto Glasswing”.

A Anthropic divulgou anteriormente que consultou autoridades dos EUA antes do lançamento do Mythos sobre suas capacidades cibernéticas defensivas e ofensivas. A empresa também está envolvida separadamente em uma disputa legal com o Pentágono, que a designou como um risco na cadeia de suprimentos – uma classificação que a Antthropic está contestando em tribunal.