Empresa implementa versão do modelo Gemini para detectar fraudes em tempo real e alerta sobre sites suspeitos no Chrome, Search e Android. Quase todos que já usaram a internet provavelmente já passaram por aquele momento alarmante quando uma janela surge alegando que seu dispositivo tem um vírus, incentivando você a clicar para obter suporte técnico ou baixar um software de segurança. É um golpe online comum, e um dos que o Google está mirando combater mais agressivamente usando inteligência artificial.
O Google diz que agora está usando uma versão de seu modelo de IA Gemini que funciona nos dispositivos dos usuários para detectar e alertar sobre esses chamados golpes de “suporte técnico”. É apenas uma das várias maneiras que o Google está usando os avanços em IA para melhor proteger os usuários contra golpes no Chrome, Busca e seu sistema operacional Android, disse a empresa em um post no blog na quinta-feira (8).
Phiroze Parakh, diretor sênior de engenharia do Google Search, disse que combater golpistas “sempre foi um jogo de evolução”, onde os criminosos aprendem e evoluem conforme as empresas de tecnologia implementam novas proteções.
Alucinações são um problema intratável em IA. Mesmo os modelos mais capazes às vezes inventam coisas, uma característica de sua natureza probabilística . De fato, modelos de raciocínio mais recentes, como o O3 da OpenAI, alucinam mais do que modelos anteriores, tornando seus resultados difíceis de confiar.
O anúncio surge em um momento em que a IA permitiu que criminosos criassem mais facilmente grandes quantidades de conteúdo falso convincente — efetivamente reduzindo a barreira para executar golpes que podem ser usados para roubar dinheiro ou informações pessoais das vítimas. Consumidores em todo o mundo perderam mais de US$ 1 trilhão para golpes no ano passado, segundo o grupo de lobby Global Anti-Scam Alliance. Assim, o Google e outras organizações estão cada vez mais usando IA para combater golpistas também.
“Agora, ambos os lados têm novas ferramentas”, disse Parakh em entrevista à CNN. “Então, surge a questão: como usar essa ferramenta de forma mais eficaz? Quem está sendo um pouco mais proativo sobre isso?”
Embora o Google há muito use aprendizado de máquina para proteger seus serviços, avanços mais recentes em IA levaram a uma melhor compreensão da linguagem e reconhecimento de padrões, permitindo que a tecnologia identifique golpes mais rápida e efetivamente.
O Google disse que no modo de navegação segura com “proteção aprimorada” do Chrome para desktop, seu modelo de IA no dispositivo agora pode efetivamente escanear uma página da web em tempo real quando um usuário clica nela para procurar possíveis ameaças. Isso é importante porque, às vezes, os criminosos fazem suas páginas aparecerem diferentes para as ferramentas de rastreamento existentes do Google do que para os usuários, uma tática chamada “cloaking” que a empresa alertou no ano passado estar em ascensão.
E como o modelo, chamado Gemini Nano, funciona no seu dispositivo, o serviço funciona mais rápido e protege a privacidade dos usuários, disse Jasika Bawa, gerente de produto do Google Chrome.
1 Comment
O Google não é a única empresa usando IA para combater criminosos. A empresa britânica de telefonia móvel O2 disse no ano passado que estava combatendo golpistas telefônicos com “Daisy”, um chatbot de IA conversacional destinado a manter fraudadores na linha, dando-lhes menos tempo para falar com possíveis vítimas humanas.