O filtro de spam do Gmail e o sistema de detecção de comentários ofensivos no Google Maps têm desenvolvimento ativo no Brasil. A informação vem de Alex Freire, diretor sênior de engenharia de software do Google no país e líder do recém inaugurado Centro de Engenharia da empresa em São Paulo, em entrevista ao Podcast Canaltech desta sexta-feira (29).
🎧Ouça o Podcast Canaltech no Spotify
🎧Ouça o Podcast Canaltech na Deezer
🎧Ouça o Podcast Canaltech no Apple Podcasts
A área tem raízes mais antigas do que o novo espaço na Cidade Universitária da Universidade de São Paulo. Freire conta que a estrutura nasceu em Belo Horizonte durante o período do Orkut: engenheiros perceberam que conteúdos abusivos precisavam ser detectados e removidos de forma sistemática.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
Essa tecnologia foi evoluindo ao longo de duas décadas e hoje opera com times distribuídos entre BH, São Paulo e outros escritórios globais.
Dois focos: proteção do usuário e segurança da IA
O Google Safety Engineering Center (GSEC) de São Paulo, que está dentro do novo Centro de Engenharia, vai operar em duas frentes. A primeira envolve a proteção de usuários nos produtos do Google: detecção de fraudes, golpes, spam e conteúdos abusivos envolvendo crianças e adolescentes.
A segunda frente é mais recente, e trata da segurança do Gemini e da proteção dos produtos contra ataques originados em sistemas de IA de terceiros. “Precisamos garantir que o Gemini é seguro; a gente desenvolve ele de forma ousada, mas muito responsável”, afirma Freire.
Parte do trabalho da equipe em São Paulo consiste em impedir que o modelo seja exposto ou gere conteúdo abusivo. O time também monitora tentativas de abuso da plataforma — de prompt hijacking com fins de entretenimento a ataques orquestrados por atores maliciosos.
A resposta segue uma escala: educação para infrações leves, cancelamento de conta para reincidências e desativação imediata em casos de ataque deliberado.
Freire aponta que ferramentas de terceiros sem mecanismos de proteção equivalentes também são usadas para tentar acessar contas, roubar propriedade intelectual ou obter dados sensíveis das plataformas do Google.
Zero confiança, red teaming e código aberto
A estratégia de segurança adotada tem como base o princípio de zero confiança, não a ocultação de informações sobre como os sistemas funcionam. O Google publica o SAFE (Secure AI Framework), um arcabouço de boas práticas para desenvolvimento responsável de IA, e adota padrões abertos como o FIDO para autenticação por hardware.
“Os atacantes estão cada vez mais sofisticados, a IA também está ajudando eles a serem mais céleres”, diz Freire. Para antecipar falhas, a empresa usa IA em red teaming, testando ativamente os próprios produtos à procura de vulnerabilidades.
Há ainda uma equipe no Brasil dedicada a encontrar e corrigir falhas em programas de código aberto dos quais o Google depende. Segundo Freire, o trabalho beneficia diretamente órgãos públicos e empresas privadas brasileiras que utilizam as mesmas ferramentas.
Ouça o episódio completo no Podcast Canaltech e saiba mais sobre como o Google estrutura a segurança de suas plataformas de IA e o papel das equipes brasileiras nesse trabalho.
Leia a matéria no Canaltech.