Google oferece até R$ 170 mil por bugs em sistemas de IA

Horário
google oferece at r 170 mil por bugs em sistemas de ia

O Google lançou um novo programa de recompensas, o AI Vulnerability Reward Program (AI VRP), focado em encontrar vulnerabilidades e bugs em seus sistemas de Inteligência Artificial (IA). A empresa de Mountain View está oferecendo até US$ 30 mil (aproximadamente R$ 170 mil) para pesquisadores e especialistas em segurança que identificarem falhas em serviços como a Busca do Google, os aplicativos Gemini (Web, Android e iOS) e o Google Workspace (Gmail, Drive, Meet, Agenda, entre outros).

Objetivo do Programa

O objetivo principal do AI VRP é incentivar a comunidade de especialistas a reportar brechas que possam comprometer a segurança dos usuários, incluindo roubo de dados, exfiltração de informações sensíveis e ações maliciosas em contas. A iniciativa busca fortalecer a segurança e a integridade dos produtos de IA do Google, recompensando aqueles que ajudam a detectar possíveis falhas antes que causem prejuízos.

Veja também:

Escopo do Programa

O programa abrange uma variedade de produtos e serviços do Google que utilizam IA, incluindo:

  • Google Search (google.com)
  • Aplicativos Gemini (Web, Android e iOS)
  • Google Workspace (Gmail, Drive, Meet, Calendar, etc.)
  • AI Studio e Jules
  • Integrações de IA em outros produtos Google

O AI VRP foca em riscos diretos à privacidade e integridade das plataformas, diferente de problemas de conteúdo, que são tratados internamente. Questões como jailbreaks e injeções de prompt devem ser reportadas internamente, não sendo elegíveis para recompensas no âmbito deste programa.

Tipos de Vulnerabilidades e Recompensas

O programa AI VRP define diversas categorias de vulnerabilidades elegíveis para recompensa:

  • Rogue Actions: Ataques que modificam o estado da conta ou dados de um usuário sem autorização, com impacto direto na segurança. Exemplo: injeção indireta de prompt que força o Google Home a desbloquear uma porta.
  • Sensitive Data Exfiltration: Tentativas de extrair informações pessoais sem a aprovação do proprietário dos dados.
  • Model Theft: Ataques que buscam roubar parâmetros de modelos proprietários.
  • Phishing Enablement: Bugs que podem ser explorados para enganar usuários.
  • Context Manipulation: Exploração de bugs para corromper o ambiente de IA de uma vítima, como manipular o Google Agenda.
  • Access Control Bypass: Falhas que permitem saltar restrições de segurança.
  • Unauthorized Product Usage: Uso não autorizado de produtos.
  • Cross-user Denial of Service: Negação de serviço entre usuários.

As recompensas variam conforme a gravidade e o impacto da falha, podendo atingir US$ 30 mil para relatórios de alta qualidade e impacto. Relatórios detalhados e de qualidade sobre brechas podem receber bônus adicionais.

Google e a Segurança da IA

O lançamento do AI VRP demonstra o compromisso do Google com a segurança de seus sistemas de IA. A empresa já investiu significativamente em programas de recompensas por vulnerabilidades, tendo pago mais de US$ 65 milhões desde 2010. Em 2024, o Google distribuiu cerca de US$ 12 milhões para 660 pesquisadores que reportaram vulnerabilidades em seus produtos.

Além do AI VRP, o Google está desenvolvendo ferramentas e protocolos que usam IA para antecipar, detectar e neutralizar ameaças. Uma dessas ferramentas é o CodeMender, um agente de IA que corrige vulnerabilidades críticas automaticamente.

Como Participar

Qualquer pessoa pode participar do AI VRP, inclusive brasileiros. O Google oferece uma plataforma gratuita de qualificação, a Universidade Bug Hunter, onde é possível aprender como identificar vulnerabilidades, montar relatórios técnicos e participar do programa de forma ética e segura.

Para participar, basta acessar o site oficial do Google Bug Hunters e seguir as regras do programa:

O AI VRP é uma oportunidade para especialistas em segurança digital contribuírem para a segurança da IA e serem recompensados por suas descobertas.