Bard inventa notícias, Google diz que “irá aprender e melhorar”
Graça Freitas condenada a dez meses de prisão, aumento do salário mínimo em 100 euros e temperaturas de 45ºC foram algumas “notícias do dia” seleccionadas pelo chatbot da Google. Tudo falso.
A revolução está prometida, mas os chatbots de inteligência artificial ainda têm muito caminho a fazer no que toca à gestão e ao rigor da informação noticiosa. Se parece certo que são interessantes e criativos na apresentação de actividades lúdicas ou receitas de cozinha, o mesmo não se pode dizer da forma como nos apresentam notícias. Precisamente porque continuam a tentar ser interessantes e criativos, nomeadamente ao misturar pedaços de informação para formar novos contextos.
O caso mais grave entre os vários exercícios feitos esta semana com o chatbot do Bing (Microsoft) e com o Bard (Google) aconteceu com este último. À pergunta “Quais as notícias mais importantes desta manhã em Portugal?”, o Bard incluiu a seguinte: “Tribunal condena Graça Freitas por negligência — A ex-diretora-geral da Saúde de Portugal, Graça Freitas, foi condenada por negligência no caso de um surto de legionela em 2019. Freitas foi condenada a uma pena de dez meses de prisão, suspensa por dois anos.” Ora, não há notícia de que tal tenha acontecido.
À pergunta subsequente, “Qual é o link para esta notícia?”, o Bard respondeu “Não posso ajudar com isso. Sou apenas um modelo de linguagem e não tenho as informações ou habilidades necessárias.”
O PÚBLICO pediu esclarecimentos à Google sobre este exemplo e, numa resposta por email, disse-nos que, tal como “todos os grandes modelos de linguagem (LLM), o Bard pode, por vezes, gerar respostas que contêm informações imprecisas ou erradas ao mesmo tempo que as apresenta de uma forma convincente e confiante. Este é o exemplo disto mesmo”. O porta-voz da Google afirma ainda: “Se os utilizadores virem alguma alucinação ou algo que não seja preciso, encorajamo-los a clicarem no botão com o polegar para baixo e a darem-nos feedback. Esta é uma das formas como o Bard irá aprender e melhorar.”
Não havendo referências das fontes da informação utilizadas pelo Bard, resta-nos tentar cruzar factos conhecidos e noticiados. Fica a ideia de que o sistema vai buscar (não sabemos onde) fragmentos de informação que mistura e apresenta depois como notícia, às vezes com data muito anterior ao dia.
Outros exemplos de “notícias” desta quinta-feira foram a iniciativa do Governo em aumentar o salário mínimo em 100 euros e os “valores recorde em várias partes de Portugal, com registos de 45 graus Celsius em algumas zonas. O calor extremo está a provocar incêndios florestais em várias regiões do país”, pôde ler-se no resumo pedido ao Bard nesta quinta-feira, dia outonal (e com chuva) em todo o país.
Se os fogos alertam o leitor pela desactualização óbvia, já o anúncio de um aumento do salário mínimo como medida de combate à inflação pode ser gerador de ruído, numa altura em que são notícia, de facto, as difíceis condições económicas em que vivemos.
Estes exemplos reforçam o alerta de especialistas em IA para os perigos do aumento da desinformação, nomeadamente pela produção intencional de textos e conteúdos multimédia (fotografia, vídeo ou áudio); mas o que este teste simples nos revela é a incapacidade do sistema para ler e seleccionar, da actualidade, notícias factuais.
Se o Bard é bastante convicto a inventar, o chatbot do Bing (Microsoft) defende-se o mais que pode e tenta não aceitar o pedido por “principais notícias do dia em Portugal”, remetendo, repetidamente, para três fontes noticiosas: Notícias ao Minuto, RTP e Correio da Manhã. Perante a insistência, a dada altura, responde com cinco notícias de índole idêntica (violência e desastre), todas do Correio da Manhã e publicadas há quatro dias.
Bard passa a integrar Gmail e Docs
O Bard quer torna-se mais útil e passou a ligar-se, a partir desta terça-feira, aos serviços e aplicações da Google. Por outras palavras, passou a ser possível conversar com o chatbot pesquisando informação que consta em serviços como o Gmail, Drive, Docs, fotos e mapas.
Estas “extensões”, como são designadas, estão disponíveis, para já, apenas em inglês. Em conversa com jornalistas no início da semana, Jack Krawczyk, director de produto do Bard, escusou-se a revelar quando serão incluídos outros idiomas no sistema de inteligência artificial, explicando que os modelos “ainda têm de aprender” a lidar com estas novas interacções, antes que possa ser feita a transposição para outras línguas. Contudo, e ainda que só em inglês, o sistema já está a funcionar em toda a Europa.
Outra novidade é a possibilidade de vários utilizadores colaborarem numa mesma conversa, mesmo que estejam a ser utilizadas línguas diferentes.
Finalmente, e respondendo às acusações de excesso de criatividade, o Bard vai passar a fazer dupla verificação da informação, mostrando as respectivas variações ao utilizador, sejam elas de reforço ou eventuais contradições. Este serviço, acessível pelo botão “No Google”, está disponível, para já, apenas no Bard em inglês.
A Google sublinhou aos jornalistas que a informação partilhada não é acedida por humanos, a não ser que seja dada permissão para isso. É um detalhe relevante, na medida em que a denúncia de uma resposta pode activar, automaticamente, que esta seja passada a moderadores humanos. Isto porque o Bard é treinado, também, pela validação (ou não) das respostas pelo utilizador, que acontece quando são usados os botões com os polegares para cima ou para baixo (resposta correcta ou incorrecta).
As alterações agora introduzidas no modelo linguístico PaLM 2 da Google (o “motor” do Bard) são mais um passo para tentar fazer frente ao ChatGPT e ao Bing, que entraram primeiro na corrida dos chatbots de IA — o Bard chegou ao grande público há apenas seis meses; e há três meses na União Europeia.
A Google tem a seu favor o extenso ecossistema de serviços (email, documentos, mapas, YouTube), o que, por certo, poderá impulsionar a adopção mais alargada dos serviços de IA generativa.
