Vision Transformer (ViT)

Vision Transformer применяет трансформеры к анализу изображений: вместо текстовых токенов он работает с фрагментами картинки, преобразуя их в последовательность патчей. Такой подход позволяет модели учитывать глобальные зависимости между частями изображения, как в NLP. ViT конкурирует с традиционными свёрточными сетями, показывая высокую точность на крупных датасетах.