A tecnologia vê sempre um caminho para a frente, nunca para trás. Por isso, quando a introdução de vídeos em directo no Facebook iniciou o fenómeno dos suicídios em streaming, não parece ter passado pela cabeça de ninguém a suspensão desta funcionalidade até se encontrar uma defesa eficaz.
Pelo contrário, todos fizeram parte de uma mediatização dos salvamentos in extremis que foram sendo feitos. Subitamente, o suicídio em directo perdeu o interesse mediático. Em defesa do Facebook, a empresa nunca deixou de tentar e hoje começou a fazer o rollout da sua detecção proactiva com base em inteligência artificial.
Doravante, o Facebook não depende de reports por parte dos utilizadores, mas utiliza algoritmos para detectar vídeos e conteúdos potencialmente indicadores de tendências suicidas, podendo sinalizar autoridades e profissionais competentes em resposta.
Em paralelo, a inteligência artificial do Facebook irá também destacar as denúncias por parte dos utilizadores que pareçam mais urgentes, enquanto a própria empresa está a treinar uma equipa maior de moderadores para reacção mais rápida a potenciais problemas.
A implementação não é nova, mas estava até agora restrita a testes nos EUA. Começará agora a ser implementada em todo o mundo para salvar vidas. Mas não na Europa.
A lei de protecção de dados no centro da questão
A diferença entre a Europa e o resto do mundo é que a lei europeia, especificamente o Regulamento Geral de Protecção de Dados.
No seu Artigo 22, o chamado RGPD estabelece que
“O titular dos dados tem o direito de não ficar sujeito a nenhuma decisão tomada exclusivamente com base no tratamento automatizado, incluindo a definição de perfis”
O que daqui resulta é que o Facebook não pode, pelas normas Europeias, recolher informação de algum utilizador para a tratar de um modo que permita ao Facebook estabelecer para essa pessoa um perfil, mesmo um que lhe possa salvar a vida.
A discussão ética pode levar-nos longe, mas esta lei serve para garantir que a informação de qualquer utilizador não pode ser usada pelo Facebook ou parceiros para tornar o utilizador um target para objectivos comerciais. É certo que o Facebook tenciona salvar vidas, mas a informação de alarme será transmitida a agentes locais e profissionais de saúde.
O Facebook não estabelece exactamente quem estas forças locais são, nem o que pode fazer com a informação recolhida: se a destrói no imediato, se (como é a regra hoje) a informação é cedida a parceiros.
Ora se o Facebook considerar que uma possibilidade de suicídio é do foro da saúde mental, esta informação deve permanecer estritamente selada. Infelizmente para o Facebook, dados médicos privados são vendidos todos os dias e o Facebook terá simplesmente de fazer melhor quanto à protecção de dados.
