À medida que a inteligência artificial (IA) se torna mais prevalente na criação de conteúdos e disseminação de desinformação, mais importante se torna para instituições e indivíduos o acesso a ferramentas avançadas de IA para rapidamente rever e detetar conteúdos potencialmente ofensivos ou inapropriados. É neste contexto que a Microsoft lança a Azure AI Content Safety.
Via esta plataforma, a Microsoft permite que empresas e instituições auditem rapidamente conteúdos para detetar aqueles que são potencialmente ofensivos ou inapropriados, favorecendo assim um ambiente seguro para os seus utilizadores. Graças às potencialidades da IA, a Azure AI Content Safety oferece muito mais do que deteção em tempo real: a plataforma também classifica a gravidade automaticamente, para uma resposta mais rápida e eficiente das instituições. As políticas de deteção e intervenção são, no entanto, altamente personalizáveis por cada instituição, para adaptar a ferramenta melhor à sua envolvência específica.
A plataforma funciona tanto para texto, quanto para imagem, e já é utilizada internamente pela própria Microsoft para ajudar a proteger os utilizadores dos seus próprios produtos baseados em IA, como o Bing, o GitHub Copilot, o Microsoft 365 Copilot e o Azure Machine Learning. Para as instituições a quem a plataforma agora se abre, a Azure AI Content Safety oferece-lhes uma poderosa ferramenta de auditoria de conteúdos gerados por IA de terceiros, de forma que possam estar certas a cada momento da adequação dos conteúdos com que pretendem veicular a sua imagem, produtos ou postura.
“A confiança é algo intrínseco às marcas Microsoft e Azure desde o princípio. À medida que embarcamos nesta jornada de IA continuamos a expandir o que podemos fazer para garantir que protegemos os clientes”,
Eric Boyd, Corporate, Vice-Presidente da AI Platform da Microsoft
Esta plataforma efetivamente mobiliza a enorme experiência da Microsoft em moderação de conteúdos para oferecer aos seus utilizadores e funcionários ambientes seguros na transversalidade dos seus produtos, como nos fóruns Xbox, e representa um compromisso continuado da empresa com a IA responsável, área onde tem 350 profissionais a trabalhar.
