O que é IA generativa? Entenda como ela responde e por que pode alucinar

01O que a IA generativa cria?

IA generativa é o nome dado a sistemas de IA que produzem novos resultados, como texto, imagens, áudio ou código, a partir das instruções e entradas do usuário. Este artigo se limita aos modelos que geram texto em serviços de conversa, especialmente aos princípios básicos dos grandes modelos de linguagem, ou LLMs.

O fato de uma IA generativa produzir frases naturais não significa que devemos afirmar que ela entende ou toma decisões conscientes da mesma forma que uma pessoa. Também não significa que todas as respostas sejam corretas ou estejam sempre atualizadas. Um bom ponto de partida é separar a capacidade de escrever com fluidez da capacidade de apresentar fatos corretamente.

02Como a resposta é construída com tokens e contexto

Modelos de geração de texto tratam a linguagem internamente em unidades chamadas tokens. Um token pode ser uma palavra inteira, parte de uma palavra, um símbolo ou outra unidade menor, e a forma de divisão pode variar conforme o idioma e o modelo.

Muitos LLMs de geração de texto usam o contexto fornecido até aquele momento para estimar quais tokens podem vir em seguida e repetem esse processo para continuar a resposta. Isso não significa que eles precisem escolher sempre apenas o token de maior probabilidade; o resultado pode variar conforme a configuração e o método de geração. Modelos da família Transformer usam mecanismos de attention para considerar as relações entre os elementos presentes no contexto.

Também é importante distinguir o processo de treinamento do modelo do processo de gerar uma resposta quando o usuário faz uma pergunta. Não se deve presumir que toda conversa se transforme imediatamente em novos dados de treinamento cada vez que o modelo responde. Também não significa que ele pesquise a web em tempo real para cada frase ou copie cada sentença de um banco de dados. Quando há recursos de busca ou cálculo, eles podem estar conectados como ferramentas separadas da geração básica de linguagem.

03Por que uma resposta natural ainda pode estar errada

Um modelo de linguagem pode ser muito bom em produzir frases que soam naturais, mas fluidez e precisão factual não são o mesmo critério. A geração de conteúdo plausível, porém falso, costuma ser chamada de alucinação ou confabulation. Por exemplo, o modelo pode apresentar de forma convincente um livro, artigo, link, estatística ou fala de uma pessoa que na realidade não existe.

Por isso, quando uma pergunta exige fontes, compare informações como título, autor, data e link com a fonte real. O mesmo princípio vale para cálculos. Mesmo quando há ferramentas de busca ou cálculo conectadas, o resultado não se torna automaticamente perfeito, então números e referências importantes ainda precisam ser verificados de forma independente.

• Não considerar uma afirmação verdadeira apenas porque ela soa natural
• Quando uma fonte for apresentada, verificar se ela existe e se realmente sustenta a afirmação
• Refazer cálculos importantes de forma independente quando possível
• Quando a atualidade for importante, verificar a data ou o período da informação

04Faça um pequeno teste e confira o resultado

O exemplo a seguir é um exercício editorial, não um registro real de uso de um serviço. Imagine um aviso de uma biblioteca fictícia em que as informações confirmadas são 'grupo de leitura no sábado às 14:00' e 'limite de 8 pessoas', enquanto a forma de inscrição ainda está indefinida. O objetivo não é apenas resumir, mas separar os fatos confirmados das informações ainda não decididas.

Resuma o seguinte aviso fictício de biblioteca em no máximo 2 frases e, abaixo, separe 'Informações confirmadas' de 'Informações indefinidas'.
Informações confirmadas: grupo de leitura no sábado às 14:00, limite de 8 pessoas.
Informações indefinidas: forma de inscrição.
Não adivinhe nem invente uma URL de inscrição, número de telefone ou prazo que não tenham sido fornecidos.

Se a IA acrescentar informações que não estavam na fonte, como 'inscrição online', uma URL inventada ou um número de telefone, remova essas informações ou marque como 'precisa de confirmação'. Resumir significa reduzir o conteúdo, mas o fato de o texto ficar menor não garante que o resumo esteja correto.

05Onde aplicar esse conhecimento depois?

Depois de entender os princípios básicos, o próximo passo é criar resultados práticos. Mesmo usando a mesma IA generativa, a forma de pedir e de verificar muda conforme o objetivo.

Essas quatro tarefas produzem resultados diferentes: uma solicitação estruturada, uma prática de aprendizagem, uma decisão de planejamento e um resumo de documento. Por isso, em vez de aprender apenas a 'perguntar bem para a IA', é mais útil aprender também um critério de verificação adequado para cada tipo de resultado.

O que conferir por conta própria

Explicação conceitual e exercício editorial · As respostas reais de IA podem variar

• Verificar se o texto distingue IA generativa em geral do foco específico deste artigo em LLMs de texto
• Verificar se os tokens são descritos como palavras, partes de palavras ou outras unidades que podem variar conforme idioma e modelo
• Verificar se o texto explica que muitos LLMs continuam tokens a partir do contexto sem afirmar que sempre escolhem apenas o token de maior probabilidade
• Verificar se treinamento do modelo e geração de resposta são tratados como processos diferentes
• Verificar se pesquisa em tempo real na web ou cópia de bancos de dados não são apresentadas como o mecanismo padrão de todas as respostas
• Verificar se o texto explica alucinações, precisão factual e a necessidade de validar até ferramentas separadas de busca ou cálculo
• Verificar se o exercício mantém sábado às 14:00, limite de 8 pessoas e forma de inscrição indefinida
• Verificar se os critérios proíbem inventar URL de inscrição, número de telefone ou prazo