Porquanto continuemos a babar-nos sobre as capacidades das ferramentas da OpenAI como o ChatGPT, convém não nos esquecermos que estas ferramentas ainda estão no seu início e se deixam enganar facilmente. Da polémica do Bard da Google que mostra dados errados em plena apresentação às diversas versões DAN com que é possível “controlar” o ChatGPT, há ainda muito trabalho a fazer. No meio destas questões, a integração do Bing com inteligência artificial parece bastante robusta, mas um utilizador já conseguiu aceder a documentos internos da Microsoft.
Ecoa este acontecimento a diretriz da Amazon para que os seus funcionários não partilhassem informações internas da empresa com a ferramenta, depois de algumas respostas parecerem suspeitamente documentos da Amazon. Se bem que atualmente estamos muitos em lista de espera para experimentar o Bing com IA, alguns utilizadores já tiveram acesso à ferramenta.
É o caso de Kevin Liu, estudante da Universidade de Stanford que utilizou um ataque de prompts até que o ChatGPT lhe fornecesse todas as regras que a Microsoft atribuiu à inteligência artificial. Com pergunta atrás de pergunta, Kevin obtive o que parece ser a lista completa das regras que enquadram a forma como a inteligência artificial, com nome código “Sidney” deve responder às questões, quando tenha ou não informações suficientes.
Existem diversas frases de interesse, como a que indica que “Sidney” utilizará “apenas os factos dos resultados de pesquisa e não acrescenta informação por si só”, caso os resultados não contenham informação suficiente para responder à questão. É no mínimo sensível, considerando que múltiplos investigadores já demonstraram que o ChatGPT tende a “inventar” informação quando não a tem, desde dados biográficos, a links de fontes a livros que não existem.
A integração entre ChatGPT e Bing está ainda na infância, claro. Este tipo de acontecimentos é expectável e faz parte do processo de refinamento e aprendizagem dos modelos de IA, pelo que continuamos a seguir com interesse este que será um reinventar da forma como uma busca é feita online.
