Tema
Transformers
3 posts sobre Transformers.
Tags: Transformers, Tutorial, GPT, Sentiment Analysis, Implementação, Jupyter Notebook, NLP, Attention Mechanism, Do zero, BERTTransformersTransformers: Multi Head Attention para Análise de Sentimentos
Os Transformers transformaram a IA com o poder do multi-head attention, capaz de capturar múltiplas relações linguísticas em paralelo. Neste estudo de caso, implemento a arquitetura do zero e aplico em análise de sentimentos em português.
8 min de leitura
Tags: LLMs, Machine Learning, TransformersLLMsAttentionHead: como os Transformers ajustam seu foco para tarefas específicas?
No último post eu mostrei como funciona o mecanismo de atenção de um Transformer, mas aquela não é a história completa. Na verdade, o mecanismo de atenção tem…
14 min de leitura
Tags: Machine Learning, LLMs, TransformersMachine LearningTransformers: como funciona o mecanismo de atenção
Quando comecei a me interessar por LLM's, me deparei com um conceito que até então era novo pra mim: o mecanismo de atenção em transformers. No começo era…
12 min de leitura