Просто о сложном: Как работают нейросети

Предупреждение

В статье есть упрощения, утрирования и технические неточности, это сделано намеренно, для облегчения понимания, т.к. статья не для профессионалов, хотя и они могут найти статью полезной, если захотят кому-то объяснить свою работу простыми словами.

Я ни в коем случае не хочу принижать профессионализм тех людей, которые трудятся в этой области, это действительно надо уметь и этим действительно занимаются профессионалы.

Начнем

Мне задавали этот вопрос не раз и обычно я людям объясняю на таком примере.

Если простыми и осязаемыми словами, то нейросеть похожа на несколько идущих друг за другом сит (муку чем просеиваете?). Ячейки каждого сита отличаются по размеру и форме. Квадратные, треугольные, круглые и даже продолговатые.

В первое сито засыпается всё, что есть. Но сквозь него проходят только определенные вещи. Во второе попадает то, что не задержалось в первом, и т.д. Каждое сито отсеивает по определенному условию.

Давайте посмотрим на картинку. У нейросети задача найти домашних животных, когда ей в топку закинули кучу всего лишнего

Задача разработчиков — настроить ячейки и последовательность просеиваний так, чтобы на выходе из всей этой цепочки получился желаемый результат.

По традиции, тренируются на кошках, затем, добавляют медведей, слонов, единорогов. И каждый раз пробуют, подкручивают, пробуют, подкручивают и наконец система выдает желаемый результат. Разумеется, какие-то куски капусты тоже оказываются на выходе, но их также убирают, с помощью другого сита.

Думаю, общий принцип работы понятен, добавлю еще немного деталей и больше не буду вас утомлять.

Проведем аналогию этой картинки с терминами нейронок

• Разные формы сита — Разные типы свёрток/фильтров

• Определенная последовательность сит — Архитектура сети (VGG, ResNet и т.д.)

• Настройка размеров ячеек — Обучение весов (backpropagation)

• Отсеивание — Функции активации (ReLU, sigmoid)

• Отсев от общего к частному, от грубого к тонкому — Прогрессия

• Количество сит — Глубина сети

• Скорость просеивания всей цепочки — Скорость инференса

Надеюсь теперь, когда вы увидите в другой статье про нейросеть подобную картинку, у вас уже будет представление, что это за кружочки и стрелочки

Источник: habr.com