Mês: abril de 2020

29 de abril de 2020 Greggory Elias

SpanBERTa: Como treinámos o modelo linguístico RoBERTa para espanhol a partir do zero Originalmente publicado pelo estagiário de investigação em aprendizagem automática do Skim AI, Chris Tran. spanberta_pretraining_bert_from_scratch Introdução¶ Os métodos de auto-treino com modelos transformadores alcançaram o desempenho mais avançado na maioria das tarefas de PNL. No entanto, como o seu treino é computacionalmente dispendioso, a maioria dos modelos de transformadores pré-treinados atualmente disponíveis são apenas para o inglês. Por conseguinte,...

15 de abril de 2020 Greggory Elias Não existem comentários

Tutorial: Afinação do BERT para Análise de Sentimentos Publicado originalmente pelo investigador de aprendizagem automática do Skim AI, Chris Tran. BERT_for_Sentiment_Analysis A - Introdução¶ Nos últimos anos, a comunidade de PNL tem assistido a muitos avanços no Processamento de Linguagem Natural, especialmente a mudança para a aprendizagem por transferência. Modelos como o ELMo, o ULMFiT da fast.ai, o Transformer e o GPT da OpenAI permitiram aos investigadores alcançar...