Понятие искусственного нейрона

Искусственный нейрон имитирует приближенно свойства биологического нейрона. На вход искусственного нейрона поступает некоторое множество сигналов. Каждый вход умножается на соответствующий вес, аналогичный синаптической силе, и все произведения суммируются, определяя уровень активации нейрона. На рис. 10.1 представлена модель, реализующая эту идею. Здесь множество входных сигналов в совокупности обознены вектором Х. Каждый сигнал умножается на соответствующий вес и поступает в суммирующий блок, обозначенный . Множество весов в совокупности обозначают вектором W. Суммирующий блок, соответствующий телу биологического нейрона, складывает взвешенные входы алгебраически, создавая выход NET. В векторных обозначениях это можно записать следующим образом:

.

Сигнал NET далее преобразуется активационной функцией F и дает выходной сигнал нейрона OUT (см. рис.10.2).

Рис. 10.2 Искусственный нейрон с активационной функцией

Активационная функция может быть линейной функцией

,

где T – некоторая постоянная пороговая величина.

В качестве активационной функции может также использоваться нелинейная функция, более точно моделирующая нелинейную передаточную характеристику биологического нейрона.

Если активационная функция сужает диапазон изменения величины NET так, что при любых значениях NET значения OUT принадлежат некоторому конечному интервалу, то F называется сжимающей функцией. В качестве сжимающей функции часто используется логистическая или сигмоидальная (S –

образная) функция , показанная на рис.10.3. Таким образом,

.

Рис. 10.3 Логистическая функция

Активационную функцию можно считать нелинейной усилительной характеристикой искусственного нейрона. Коэффициент усиления равен отношению приращения величины OUT к вызвавшему его небольшому приращению величины NET. Коэффициент усиления выражается наклоном кривой при определенном уровне возбуждения и изменяется от малых значений при больших отрицательных возбуждениях (кривая почти горизонтальна) до максимального значения при нулевом возбуждении и снова уменьшается, когда возбуждение становится большим положительным. Нейрон с такой функцией может обрабатывать как слабые сигналы, которые он усиливает, так и сильные, которые усиливать не нужно.

Другой широко используемой нелинейной активационной функцией является гиперболический тангенс (см. рис. 10.4). В качестве активационной функции искусственного нейрона она записывается следующим образом:

,

где ; – приращение. Например, (Т – пороговое значение).

Рис. 10.4 Функция гиперболического тангенса

Подобно логистической функции гиперболический тангенс является S – образной функцией, но он симметричен относительно начала координат и в точке NET = 0 значение выходного сигнала OUT равно нулю (см. рис. 10.4). В отличие от логистической функции гиперболический тангенс принимает значения различных знаков, OUT находится в интервале (-1, 1).

Построение нейронных сетей

Нейронная сеть образуется путем объединения выходов одних нейронов с входами других нейронов. Нейроны в сетях группируются по слоям. Послойная организация нейронных сетей копирует слоистые структуры мозга. Проектирование нейронной сети включает следующее:

- упорядочение нейронов по слоям;

- определение связей между нейронами разных слоев, а также между нейронами внутри слоя;

- решение о том, как нейрон создает выход;

- определение силы связей внутри сети.

В каждом слое нейронной сети располагаются нейроны одного типа. Нейроны в слое могут иметь или не иметь связи между собой. Нейроны одного слоя связаны с нейронами другого слоя. Используются различные типы связей: полная связь, частичная связь, прямое распространение, двунаправленная, иерархическая и резонансная связи.

При полной связи каждый нейрон первого слоя связан с каждым нейроном второго слоя. При частичной связи слоев нейрон первого слоя необязательно связан со всеми нейронами второго слоя. При прямом распространении нейроны первого слоя посылают свои выходы нейронам второго слоя, но не наоборот. При двунаправленной связи нейроны первого слоя связаны с нейронами второго слоя, которые, в свою очередь, связаны с нейронами первого слоя.

Нейронная сеть может иметь один или несколько слоев. При иерархической связи нейроны первого слоя связаны с нейронами следующего слоя. Если связь не иерархического типа, то нейроны одного слоя могут посылать свои выходы не только нейроном следующего слоя, но и другим слоям. В резонансном типе связей два слоя имеют двунаправленную связь с дополнительным усложнением, что они продолжают передачу сигналов по связям некоторое число раз до выполнения определенного условия.

ЧТО ПРОИСХОДИТ ВО ВЗРОСЛОЙ ЖИЗНИ? Если вы все еще «неправильно» связаны с матерью, вы избегаете отделения и независимого взрослого существования...

Конфликты в семейной жизни. Как это изменить? Редкий брак и взаимоотношения существуют без конфликтов и напряженности. Через это проходят все...

Система охраняемых территорий в США Изучение особо охраняемых природных территорий(ООПТ) США представляет особый интерес по многим причинам...

Живите по правилу: МАЛО ЛИ ЧТО НА СВЕТЕ СУЩЕСТВУЕТ? Я неслучайно подчеркиваю, что место в голове ограничено, а информации вокруг много, и что ваше право...

Не нашли то, что искали? Воспользуйтесь поиском гугл на сайте: