Está chovendo chatbots! Depois que o ChatGPT da OpenAI iniciou uma revolução, o Google apresentou seu BARD e vários outros seguiram o exemplo. Agora parece que a Meta Platforms está se preparando para ter uma vantagem sobre seus concorrentes. A gigante da tecnologia com sede na Califórnia lançou uma nova ferramenta de pesquisa que em breve ajudará a construir chatbots com inteligência artificial.
A empresa lançou seu Large Language Model Meta AI (LLaMA). De acordo com o comunicado oficial, o Llama é um modelo de linguagem fundamental de última geração projetado para apoiar pesquisadores em seu trabalho no subcampo de IA. Curiosamente, este seria o terceiro LLM da Meta após Glactica e Blender Bot 3, que desligaram imediatamente após resultados falsos.
O que é LLaMA?
Embora o LLaMA não seja essencialmente um chatbot, é uma ferramenta de pesquisa que Meta diz que provavelmente resolverá problemas com Modelos de linguagem de IA. “Modelos menores e mais poderosos, como o LLaMA, permitem que outros na comunidade de pesquisa que não têm acesso a grandes quantidades de infraestrutura estudem esses modelos, democratizando ainda mais o acesso a essa área importante e em rápida mudança”, disse ele. Meta em seu blog oficial.
LLaMA é uma coleção de modelos de linguagem que variam de 7B a 65B de parâmetros. A empresa afirmou que treina seus modelos em trilhões de tokens e afirma que é possível treinar modelos de última geração usando conjuntos de dados públicos e não dependendo de conjuntos de dados proprietários e inacessíveis.
Como o LLaMA é diferente?
De acordo com a Meta, o treinamento de modelos fundamentais menores, como o LLaMA, é ideal porque eles exigem poder computacional e recursos significativamente baixos para testar, validar e explorar novos casos de uso. Os modelos de linguagem básica são conhecidos por treinar em grandes blocos de dados que não são marcados, tornando-os ideais para adaptação a diferentes tarefas. A Meta anunciou que oferecerá LLaMA em tamanhos como os parâmetros 7B, 13B, 33B e 65B.
Em sua pesquisa, Meta descobriu que o LLaMA-13B superou o GPT-3 da OpenAI (175B) na maioria dos benchmarks e o LLaMA-65B é competitivo com os principais modelos, o Chinchilla70B da DeepMind e o PaLM-540B do Google. Uma vez totalmente formado, o LLaMA-13B pode ser uma benção para as pequenas empresas que desejam realizar testes nesses sistemas, mas ainda pode estar muito longe para os pesquisadores que trabalham com insolação solar.
Atualmente, o LLaMA não é usado em nenhum dos produtos da Meta, mas a empresa planeja disponibilizá-lo aos pesquisadores. A empresa lançou anteriormente seu LLM OPT-175B, porém o LLaMA é seu sistema mais avançado. A Meta também disponibilizou o código-fonte do modelo LLaMA para que pessoas de fora vejam como o sistema funciona. Isso permite que eles personalizem e colaborem em projetos relacionados.
Decodificando grandes modelos de linguagem
Large Language Models, ou LLMs, são sistemas de IA que consomem grandes quantidades de texto digital de fontes da Internet, como artigos, reportagens e postagens de mídia social. Esses textos digitais são usados para treinar software que prevê e produz conteúdo do zero com base em prompts e consultas. Esses modelos podem ajudar em tarefas como escrever redações, redigir postagens de mídia social, sugerir código de programação e gerar conversas de chatbot.
O último lançamento da Meta chega em um momento em que a empresa está ausente das conversas sobre os revolucionários chatbots de IA. Foi uma das primeiras empresas a lançar seus próprios chatbots, mas devido aos resultados falsos e à resposta sem brilho, seus planos deram errado. Com o LLaMa, o meta parece ter voltado ao jogo.
