NPU as siglas que vão fazer a diferença

Numa altura em que o hardware dificilmente consegue marcar a diferença de ano para a ano, os fabricantes de smartphones tiveram de procurar alternativas para se destacar num mundo cada vez mais saturado e mais semelhante, em termos de hardware. Como tal a inteligência artificial tornou-se o foco dos fabricantes. Todos tentam usá-la a ser favor, de modo a obter smartphones cada vez mais inteligentes que aprendem connosco e evoluem de modo a tornarem-se melhores com o passar do tempo.

É verdade que o acabei de dizer não é de todo uma novidade. Já no ano passado várias marcas como a Sony, Huawei, Apple, Samsung e Google, tentaram de várias formas fazer o que acabei de dizer. Contudo, neste final de 2017 foi a altura do tudo ou nada em que esta aposta já não passa despercebida, tivemos imensos exemplos nos seus respectivos eventos de como a Google e a Apple usaram a AI a ser favor, e hoje vai ser o dia da Huawei.

Vamos agora dar o devido destaque à arma secreta da Huawei, a NPU, a nova unidade de processamento neural que vai ser incluída no novo kirin 970. Tem em conta que o mesmo processador ainda não esta disponível no mercado, vamos falar das informações reveladas pela Huawei sobre o mesmo.

A NPU incluído no Kirin é propriedade intelectual da Cambricon Technology, mas a Huawei teve um papel activo colaborando com a mesma em todas as fases de desenvolvimento, de modo a tornar o processador o mais adequado para os seus objectivos.

A configuração interna da NPU é baseada em múltiplas unidades de multiplicação de matriz, semelhante aos processadores deste tipo já mostrados por outras marcas, como a TPU da Google, e o Tensor core da Nvidia. A grande diferença nestes processadores são as dimensões e quantidades de matrizes calculadas. Sabemos que o Kirin 970 TPU usa unidades de multiplicação de matriz 3×3, mas não foram reveladas quantas unidade de multiplicação se encontram presentes.

Um outro factor a ter em conta foi a decisão da Huawei, para um implementação da sua NPU com uma precisão de 16 bits de ponto flutuante (FP16). Pois trata-se de uma opção mais inclusiva para diferentes estruturas e algoritmos treinados.

Esta decisão permite a abertura da NPU para programadores através de uma API específica. Suportando estruturas já conhecidas como o TensorFlow, TensorFlow Lite, Caffe e Caffe2.

A NPU pode ser assim acedida através da API Kirin AI da Huawei, ou da API NN do Android, confiando nas capacidades do Kirin para dividir as cargas de trabalho entre CPU, GPU, DSP e NPU. A Huawei afirmou especificamente que esta será uma “arquitectura aberta”, sem revelar grandes detalhes sobre este assunto.

Ficamos também a saber que a NPU tem o seu próprio domínio de energia, podendo assim melhorar o tempo de resposta e acordar do mesmo.

Falando agora de números a NPU do Kirin 970 é capaz de 1.92 TFLOPs a FP16, obtendo assim um desempenho 25x superior ao do CPU, com uma eficiência energética 50x superior. Por último a Huawei afirma que a sua NPU é capaz de processar 2000 imagens por minuto.

E em termos de consumo energético foi mostrado um teste de reconhecimento de 1000 imagens que apenas consumiu 0,19% uma bateria de 4000 mAh, flutuando entre 0.25W e 0.67W consumidos.