Microsoft removerá seu sistema de reconhecimento de emoções da plataforma Azure


A Microsoft anunciou a remoção gradual do acesso a uma série de ferramentas de análise facial com inteligência artificial de sua plataforma Azure, incluindo uma que alegava identificar a emoção de uma pessoa a partir de vídeos e imagens.

O fato é que essas ferramentas de “reconhecimento de emoções” foram criticadas por especialistas. Além do fato de que as expressões faciais consideradas “universais” diferem entre as diferentes populações, respondendo a fatores culturais.

A Microsoft limitará o acesso a alguns recursos de seus serviços de reconhecimento facial (apelidados de Azure Face) e removerá outros inteiramente, de acordo com os padrões de IA da empresa, enfatizando a responsabilidade de descobrir quem usa seus serviços e necessidade de saber onde essas ferramentas são aplicadas.

As políticas de ética em IA da Microsoft foram lançadas em 2019 e essa medida específica responde a uma revisão mais ampla de sua aplicação.

Sob as novas regras impostas, os usuários terão que solicitar o uso do Azure Face para identificação facial, por exemplo, indicando à Microsoft exatamente como e onde implantarão seus sistemas.

Além de remover sua ferramenta de reconhecimento de emoções do acesso público, a Microsoft também removerá a capacidade do Azure Face de identificar “atributos como sexo, idade, sorriso, pelos faciais, cabelos e maquiagem”. As ferramentas excluídas da categoria mencionada, com menor potencial nocivo, como o desfoque automático de rostos em imagens e vídeos, permanecerão disponíveis abertamente.

Natasha Crampton, diretora responsável por IA da Microsoft, comentou no blog da empresa como chegaram a essa conclusão. “Especialistas dentro e fora da empresa destacaram a falta de consenso científico sobre a definição de ‘emoções’, os desafios de como as inferências se generalizam em casos de uso, regiões e demografia, e a preocupação com a privacidade aumentada em torno desse tipo de capacidade”, escreveu.

Embora a abordagem com que este recurso foi inicialmente apresentado foi o que suscitou as objeções da comunidade científica, a utilidade prática deste recurso pode continuar a ser utilizada em outros contextos. Por exemplo, o aplicativo chamado Seeing AI, também da Microsoft, usa essas funções de “visão artificial” para descrever elementos do ambiente para pessoas com deficiência visual.

Sarah Bird, gerente de produto principal do grupo Microsoft para o Azure AI, observou que ferramentas como reconhecimento de emoções “podem ser valiosas quando usadas para um conjunto de cenários de acessibilidade controlados ”. Embora a executiva reconheça que “é fácil imaginar como poderia ser usado para se passar por oradores de forma inadequada e enganar os ouvintes” , ela também ressalta que esse recurso “tem potencialidades interessantes na educação, acessibilidade e entretenimento”.

A aplicação das restrições anunciadas já se aplica aos novos clientes do Azure, enquanto os usuários existentes deverão ter o acesso revogado até 30 de junho de 2023.