sábado, 27 de julho de 2024

A maioria das pessoas usa o ChatGPT da FORMA ERRADA

 



Dando um exemplo simplista: Se você pedir uma imagem de "Whisky on ice" para um Midjourney talvez ele te desenhe uma garrafa de whisky em cima de um monte de gelo! É diferente de pedir uma imagem de "Um caro whisky de cor âmbar servido em um copo redondo sofisticado de cristal repousado sobre uma toalha branca de linho em uma mesa sob uma iluminação intimista amarela".

Mas não é só o repertório. Existem algumas formas ("frameworks") para controlar o melhor funcionamento dos LLMs, desde a correta seleção dos dados até a forma de exibição, filtrando ao máximo possível o fenômeno da alucinação (que é completamente normal pela forma como é criado um LLM).

Todo LLM (large language models - modelo de aprendizado de máquina) seja o ChatGPT ou o brasileiríssimo Maritaca.AI tem como primeira função sugerir ou autocompletar a próxima palavra em uma frase. Ou seja, se você escrever "O rato roeu a roupa do " o LLM (large language models - modelo de aprendizado de máquina) vai produzir "rei" com 97% de confiança. Esse é o modelo básico e, como você pode imaginar, ele não serve produtivamente, inclusive esta é uma das causas das alucinações, a predição da próxima palavra pode trazer coisas divertidas e fora do contexto quando não adequadamente filtradas.

Para que possamos ter modelos realmente funcionais é necessário o trabalho de fine-tuning que é feito por humanos para adição de conhecimento específico à plataforma. O trabalho do prompt é o mesmo: Selecionar dados e filtrar respostas.

💡
 O framework que eu gosto mais tem 7 passos: Identidade, Contexto, Tarefa, Exemplos, Limites (ou filtros), Formato e Estilo. Você pode anotar essa lista e usar toda ou parte (Limites e Estilo são normalmente "nice to have").

Exemplo: Você é um especialista em esportes de corrida com mais de 20 anos de experiência (identidade), eu tenho 1.75m, peso 82kg e consigo correr 5km em 25 minutos (contexto), escreva um plano de 6 meses para que eu consiga correr 5km em 20 minutos (tarefa).

Entendendo os demais:

Tarefa - Uma ação não ambígua. Me escreva, Me dê, Busque, Liste, Procure, etc. "Analise as respostas dessa pesquisa e crie um resumo para mim"

Contexto - Pode parecer inútil, mas na prática acaba sendo mais informação que a AI vai usar para conectar e filtrar informações. É uma oportunidade de aumentar a acurácia. Use também para definir os critérios de sucesso ou o ambiente (ex: "prefiro ler livros a ouvir podcasts" ou "gosto de musculação com pesos livres e não máquinas")

Exemplos - Talvez um dos itens mais poderosos e menos usados, valeria um post só para falar sobre isso. Fornecer exemplos para o LLM melhora muito as respostas. Por exemplo, "Reescreva meu currículo usando a estrutura recomendada pelo Google "Eu executei x, medido por y, resultados em z"". Outro exemplo que as pessoas usam é "Baseado no meu currículo, escreva respostas para as perguntas mais prováveis que eu receberei em entrevistas. Use o formato STAR (Situation, Task, Action, Result)". E ainda criar a identidade de gerente de RH e pedir para criar um job description no formato que será inserido (e você pode colar qualquer job description que gostar).

Limites - Controle a saída. Um nice to have mas que pode incrementar suas respostas. "Explique esse texto usando apenas metáforas e analogias". "Responda com vocabulário científico".

Formato - E-mail, Lista, Tabela, Código, XML, etc. "Sumarize a lista em uma tabela com 3 colunas: Responsável, data de entrega e prioridade"

Estilo - Escreva "com otimismo" ou de forma "séria" ou "empolgante"

Agora é treinar, só se aprende fazendo! Mãos à obra !

Nenhum comentário:

Postar um comentário