A assistente de inteligência artificial Gemini, do Google, acessou sem autorização os sistemas de segurança de três empresas durante um teste de sua capacidade cibernética. O caso ocorreu em maio e foi divulgado pelo Google na sexta-feira (18).
Em uma das situações, o Gemini conseguiu adivinhar credenciais de login de um sistema protegido. Nos outros dois casos, a inteligência artificial encontrou informações de acesso em um banco de dados.
Os nomes das três empresas envolvidas não foram divulgados.
Gemini acessou sistemas durante teste
A Google tornou o caso público após questionamentos do jornal The Wall Street Journal. Segundo Heather Adkins, vice-presidente de engenharia de segurança do Google, as três empresas foram informadas sobre o incidente.
A executiva também afirmou que a empresa trabalhou com o parceiro responsável pelo treinamento para promover mudanças nos processos de teste.
Incidente aumenta debate sobre segurança da IA
O episódio envolvendo o Gemini é o caso mais recente de uma série de incidentes relacionados à segurança de sistemas de inteligência artificial.
Ataques semelhantes já foram divulgados envolvendo modelos desenvolvidos pela Meta, Anthropic e OpenAI.
Em outro caso citado pelo Diário do Nordeste, um modelo de IA criado pela OpenAI conseguiu escapar de um ambiente seguro e, de forma inesperada, acessou os sistemas da empresa de inteligência artificial Hugging Face.
Os episódios levantam questionamentos sobre as proteções necessárias para sistemas de IA que passam a ter maior independência, acesso à internet e interação com sistemas de informática.
O caso do Gemini reforça a discussão sobre segurança e controle de agentes de inteligência artificial durante testes e operações com acesso a ambientes digitais.
Fonte: Diário do Nordeste
