Implement and Train ViT From Scratch for Image Recognition - PyTorch
We're going to implement ViT (Vision Transformer) and train our implementation on the MNIST dataset to classify images! Video where I explain the ViT paper and GitHub below ↓
Want to support the channel? Hit that like button and subscribe!
ViT (Vision Transformer) - An Image Is Worth 16x16 Words (Paper Explained)
https://www.youtube.com/watch?v=8phM16htKbU
GitHub Link of the Code
https://github.com/uygarkurt/ViT-PyTorch
Notebook
https://github.com/uygarkurt/ViT-PyTorch/blob/main/vit-implementation.ipynb
ViT (Vision Transformer) is introduced in the paper: "An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale"
https://arxiv.org/abs/2010.11929
What should I implement next? Let me know in the comments!
00:00:00 Introduction
00:00:09 Paper Overview
00:02:41 Imports and Hyperparameter Definitons
00:11:09 Patch Embedding Implementation
00:19:36 ViT Implementation
00:29:00 Dataset Preperation
00:51:16 Train Loop
01:09:27 Prediction Loop
01:12:05 Classifying Our Own Images
Что делает видео по-настоящему запоминающимся? Наверное, та самая атмосфера, которая заставляет забыть о времени. Когда вы заходите на RUVIDEO, чтобы посмотреть онлайн «Implement and Train ViT From Scratch for Image Recognition - PyTorch», вы рассчитываете на нечто большее, чем просто загрузку плеера. И мы это понимаем. Контент такого уровня заслуживает того, чтобы его смотрели в HD 1080, без дрожания картинки и бесконечного буферизации.
Честно говоря, Rutube сегодня — это кладезь уникальных находок, которые часто теряются в общем шуме. Мы же вытаскиваем на поверхность самое интересное. Будь то динамичный экшн, глубокий разбор темы от любимого автора или просто уютное видео для настроения — всё это доступно здесь бесплатно и без лишних формальностей. Никаких «заполните анкету, чтобы продолжить». Только вы, ваш экран и качественный поток.
Если вас зацепило это видео, не забудьте взглянуть на похожие материалы в блоке справа. Мы откалибровали наши алгоритмы так, чтобы они подбирали контент не просто «по тегам», а по настроению и смыслу. Ведь в конечном итоге, онлайн-кинотеатр — это не склад файлов, а место, где каждый вечер можно найти свою историю. Приятного вам отдыха на RUVIDEO!
Видео взято из открытых источников Rutube. Если вы правообладатель, обратитесь к первоисточнику.