Pattern-Exploiting Training for NLP!
This video explains Pattern-Exploiting Training (PET), a new technique to leverage pre-trained language models to label data for downstream tasks such as Text Classification or Natural Language Inference. This is done by introducing "patterns" or templates that guide the language model to label the review or pair of sentences. This also include a "verbalizer" that maps from the language model's vocabulary into downstream task labels! This tutorial also uses HuggingFace's NLP viewer and Renato Violin's Next Word Prediction Demo that I highly recommend checking out!
Thank you for watching! Please Subscribe!
Links:
Paper (Pattern-Exploiting Training): https://arxiv.org/pdf/2001.07676.pdf
HuggingFace NLP Viewer: https://huggingface.co/nlp/viewer/
Next-Word-Prediction: https://github.com/renatoviolin/next_word_prediction
PragmaticML blog summary of PET: https://www.pragmatic.ml/pet/
Self-Training with Noisy Student: https://arxiv.org/abs/1911.04252
FixMatch: https://arxiv.org/abs/2001.07685
Что делает видео по-настоящему запоминающимся? Наверное, та самая атмосфера, которая заставляет забыть о времени. Когда вы заходите на RUVIDEO, чтобы посмотреть онлайн «Pattern-Exploiting Training for NLP!», вы рассчитываете на нечто большее, чем просто загрузку плеера. И мы это понимаем. Контент такого уровня заслуживает того, чтобы его смотрели в HD 1080, без дрожания картинки и бесконечного буферизации.
Честно говоря, Rutube сегодня — это кладезь уникальных находок, которые часто теряются в общем шуме. Мы же вытаскиваем на поверхность самое интересное. Будь то динамичный экшн, глубокий разбор темы от любимого автора или просто уютное видео для настроения — всё это доступно здесь бесплатно и без лишних формальностей. Никаких «заполните анкету, чтобы продолжить». Только вы, ваш экран и качественный поток.
Если вас зацепило это видео, не забудьте взглянуть на похожие материалы в блоке справа. Мы откалибровали наши алгоритмы так, чтобы они подбирали контент не просто «по тегам», а по настроению и смыслу. Ведь в конечном итоге, онлайн-кинотеатр — это не склад файлов, а место, где каждый вечер можно найти свою историю. Приятного вам отдыха на RUVIDEO!
Видео взято из открытых источников Rutube. Если вы правообладатель, обратитесь к первоисточнику.