A OpenAI lançou uma nova iniciativa a favor do “desenvolvimento de IA segura e avançada”. Embora tenha equipes internas de pesquisa e engenharia para testar seus sistemas de IA, agora volta para a comunidade para que ajudem a detectar vulnerabilidades e falhas de segurança que podem ser críticas para seu funcionamento adequado. E para isso, abriu um programa de recompensas.
Não é novidade empresas de tecnologia recorrerem aos famosos programas de bounty, para que especialistas da comunidade detectem erros ou vulnerabilidades graves em seus sistemas e produtos. Uma dinâmica que a OpenAI está agora implementando, para que interessados possam procurar estas vulnerabilidades nos seus sistemas.
Segundo o anúncio da OpenAI:
[…] convidamos a comunidade global de pesquisadores de segurança, hackers éticos e entusiastas de tecnologia para nos ajudar a identificar e solucionar vulnerabilidades em nossos sistemas.
Para isso, a OpenAI conta com a colaboração da Bugcrowd, empresa de cibersegurança que implementa essa dinâmica de trabalho para identificar vulnerabilidades importantes. Então tudo será administrado por esta empresa. E, claro, em troca, os usuários que relatarem bugs críticos serão recompensados com dinheiro.
Essa dinâmica estabelecida por meio do programa de recompensas não se aplica apenas ao ChatGPT, mas também à API OpenAI, plugins e outros serviços relacionados.
E, claro, quando falamos de vulnerabilidades, não queremos dizer respostas estranhas que pode encontrar em sua interação com o ChatGPT, refere-se a problemas reais ou vulnerabilidades potenciais que podem afetar os sistemas OpenAI.
As recompensas que o OpenAI oferece aos usuários que contribuem relatando esses bugs dependerão de vários fatores, por exemplo, o impacto do bug, a prioridade da vulnerabilidade ou a criticidade da situação. E segundo eles, são incentivos que variam de 200 a 20.000 dólares.
Neste link podemos ver uma longa lista de requisitos e detalhes que devem ser levados em conta por quem deseja participar deste programa de recompensas.