Что такое нейронные сети?

Что такое искусственные нейронные сети (ИНС)?

Многие из наиболее значительных достижений в области ИИ обусловлены искусственными нейронными сетями. Искусственные нейронные сети (ИНС) представляют собой соединение математических функций, объединенных в формате, вдохновленном нейронными сетями, найденными в человеческом мозге. Эти ИНС способны извлекать сложные закономерности из данных, применять эти закономерности к не видимым данным для классификации/распознавания данных. Таким образом, машина «учится». Это краткий обзор нейронных сетей, но давайте более подробно рассмотрим нейронные сети, чтобы лучше понять, что они представляют собой и как они работают.

Многослойный перцептрон: объяснение

Прежде чем мы рассмотрим более сложные нейронные сети, мы возьмем момент, чтобы рассмотреть простую версию ИНС, многослойный перцептрон (МП).

Представьте себе сборочную линию на заводе. На этой сборочной линии один работник получает предмет, делает некоторые корректировки, и затем передает его следующему работнику в линии, который делает то же самое. Этот процесс продолжается до тех пор, пока последний работник в линии не нанесет последние штрихи на предмет и не положит его на ленту, которая вынесет его из завода. В этой аналогии есть несколько «слоев» в сборочной линии, и продукты перемещаются между слоями, когда они перемещаются от работника к работнику. Сборочная линия также имеет входную точку и выходную точку.

Многослойный перцептрон можно рассматривать как очень простую производственную линию, состоящую из трех слоев: входного слоя, скрытого слоя и выходного слоя. Входной слой – это место, где данные вводятся в МП, а в скрытом слое некоторое количество «работников» обрабатывает данные, прежде чем передать их на выходной слой, который представляет продукт внешнему миру. В случае МП эти работники называются «нейронами» (или иногда узлами), и когда они обрабатывают данные, они манипулируют ими с помощью ряда математических функций.

Внутри сети есть структуры, соединяющие узел с узлом, называемые «весами». Веса представляют собой предположение о том, как данные связаны между собой, когда они перемещаются через сеть. Другими словами, веса отражают уровень влияния, который один нейрон оказывает на другой нейрон. Веса проходят через «активационную функцию» при выходе из текущего узла, которая представляет собой тип математической функции, преобразующей данные. Они преобразуют линейные данные в нелинейные представления, что позволяет сети анализировать сложные закономерности.

Аналогия с человеческим мозгом, подразумеваемая «искусственной нейронной сетью», заключается в том, что нейроны, составляющие человеческий мозг, соединены подобным образом, как и узлы в ИНС.

Хотя многослойные перцептроны существуют с 1940-х годов, было несколько ограничений, которые препятствовали их особой полезности. Однако за последние несколько десятилетий была разработана техника, называемая «обратным распространением», которая позволяет сетям корректировать веса нейронов и, таким образом, более эффективно учиться. Обратное распространение изменяет веса в нейронной сети, позволяя сети лучше захватить фактические закономерности в данных.

Глубокие нейронные сети

Глубокие нейронные сети принимают базовую форму МП и делают ее больше, добавляя больше скрытых слоев в середине модели. Итак, вместо того, чтобы иметь входной слой, скрытый слой и выходной слой, в глубокой нейронной сети есть много скрытых слоев в середине, и выходы одного скрытого слоя становятся входами для следующего скрытого слоя, пока данные не пройдут через всю сеть и не будут возвращены.

Множественные скрытые слои глубокой нейронной сети способны интерпретировать более сложные закономерности, чем традиционный многослойный перцептрон. Различные слои глубокой нейронной сети учатся распознавать закономерности различных частей данных. Например, если входные данные представляют собой изображения, первая часть сети может интерпретировать яркость или темноту пикселей, а более поздние слои будут выделять формы и края, которые можно использовать для распознавания объектов на изображении.

Различные типы нейронных сетей

Существует несколько типов нейронных сетей, и каждый тип имеет свои собственные преимущества и недостатки (и, следовательно, свои собственные случаи использования). Тип глубокой нейронной сети, описанный выше, является наиболее распространенным типом нейронной сети и часто называется сети с прямым распространением.

Одним из вариантов нейронных сетей является рекуррентная нейронная сеть (РНС). В случае РНС используются петли для сохранения информации из предыдущих состояний анализа, что означает, что они могут интерпретировать данные, где порядок имеет значение. РНС полезны для получения закономерностей из последовательных/хронологических данных. РНС могут быть либо односторонними, либо двусторонними. В случае двусторонней нейронной сети сеть может принимать информацию из более поздних частей последовательности, а также из более ранних частей последовательности. Поскольку двусторонняя РНС учитывает больше информации, она лучше способна вывести правильные закономерности из данных.

Свёрточная нейронная сеть – это специальный тип нейронной сети, который хорошо подходит для интерпретации закономерностей, найденных в изображениях. СНС работает, проходя фильтр над пикселями изображения и получая числовое представление пикселей внутри изображения, которое она может затем проанализировать на наличие закономерностей. СНС структурирована так, что свёрточные слои, которые извлекают пиксели из изображения, приходят первыми, а затем плотно связанные слои с прямым распространением, которые фактически учатся распознавать объекты, приходят после этого.