Tag: fine tune

28 dicembre 2020 Greggory Elias

Tutorial: Come mettere a punto BERT per la sintesi estrattiva Originariamente pubblicato dal ricercatore di apprendimento automatico di Skim AI, Chris Tran 1. Introduzione La sintesi è da tempo una sfida nell'elaborazione del linguaggio naturale. Per generare una versione breve di un documento conservando le informazioni più importanti, abbiamo bisogno di un modello in grado di estrarre con precisione i punti chiave...

29 aprile 2020 Greggory Elias

SpanBERTa: How We Trained RoBERTa Language Model for Spanish from Scratch Originariamente pubblicato da Chris Tran, tirocinante di Skim AI nel campo dell'apprendimento automatico. spanberta_pretraining_bert_from_scratch Introduzione¶ I metodi di autoformazione con modelli trasformatori hanno raggiunto prestazioni all'avanguardia nella maggior parte dei compiti di NLP. Tuttavia, poiché il loro addestramento è costoso dal punto di vista computazionale, la maggior parte dei modelli trasformatori preaddestrati attualmente disponibili riguarda solo l'inglese. Pertanto,...

15 aprile 2020 Greggory Elias Non esistono commenti

Tutorial: Messa a punto di BERT per l'analisi dei sentimenti Pubblicato originariamente dal ricercatore di apprendimento automatico di Skim AI, Chris Tran. BERT_for_Sentiment_Analysis A - Introduzione¶ Negli ultimi anni la comunità NLP ha visto molti progressi nell'elaborazione del linguaggio naturale, in particolare il passaggio all'apprendimento per trasferimento. Modelli come ELMo, ULMFiT di fast.ai, Transformer e GPT di OpenAI hanno permesso ai ricercatori di raggiungere...