<<
>>

Биологические и Искусственные нейронные сети

Кора головного мозга состоит из огромного множества простых элемен­тов — нейронов, число которых приблизительно равняется 10 — количеству звезд Млечного Пути. Каждый нейрон связан с несколькими ты­сячами других нейронов с помощью нервных волокон, через которые передаются электрические импульсы.

Таким образом, мозг человека со­держит приблизительно 10 взаимосвязей. Чрезвычайно сложная структура связей между относительно простыми элементами как раз и является одним из важнейших «ноу-хау» человеческого мышления.

Каждый нейрон имеет отростки нервных волокон двух типов: дендриты, по которым в клетку поступают входящие электрические сигна­лы, и единственный аксон, передающий исходящий сигнал другим ней­ронам. Аксон связан с дендритами других нейронов через специальные образования — синапсы, которые способны увеличивать или уменьшать силу передаваемого импульса. Схематично это изображено на рисунке:

Входящие импульсы от аксонов других нейронов проходят через си­напсы на дендриты, изменяя свою силу, и поступают в тело нейрона. Ес­ли суммарный сигнал превышает некоторый критический порог, «зало­женный» в теле нейрона, оно активируется и передает исходящий импульс по аксону к следующим нейронам. Принципиально важно, что «пропускная способность» синапсов — способность усиливать или ос­лаблять сигнал — может меняться со временем, что меняет и поведение нейрона в целом. Именно «настройка» пропускной способности синап­сов является основным механизмом обучения в человеческом мозге.

Указанный механизм можно представить в формализованном виде, перевести на язык математики. Обозначим входящие импульсы, по­ступающие от аксонов других нейронов, символами х1 х2, х2... хп. Си­напсы в таком случае будут играть роль весовых коэффициентов w1 w2, w2 ... wn. Проходя через синапсы, входящие сигналы изменяют свою силу и образуют суммарный сигнал х = w1x1 +w2x2+ w2x2 +...

+ w”x”.

Теперь нейрону следует «решить», превышает ли суммарный входя­щий сигнал определенное пороговое значение. Математически это можно представить как преобразование входящего сигнала в соответствии с определенной функцией/Схф Сила исходящего сигнала у =f(x) =

f(w,c, + І/1/Л + и/А +... +... + w„x„)1

Отдельные Искусственные (формальные) нейроны объединяются в искусственную нейронную сеть. Сигнал, получаемый на выходе сети (иногда его называют «ответом сети»), будет определяться не только весами и функциями входящих в нее нейронов, но и тем, как нейро­ны связаны между собой. Структура связей между нейронами называ­ется архитектурой сети.

Существует два основных класса нейросетевых архитектур:

1. Слоистые сети (сети прямого распространения). Как следует из названия данной архитектуры, нейроны в ней расположены в несколько слоев. Нейроны первого слоя получают входные сигналы, преобразуют их и передают нейронам второго слоя. Далее срабатыва­ет второй слой и так далее до последнего слоя к, который выдает окончательный «ответ сети» для пользователя. Как правило, каждый нейрон слоя / (предыдущего) соединен с каждым нейроном слоя і + 1 (следующего). Число нейронов в каждом слое индивидуально и никак заранее не связано с числом нейронов в других слоях. Наиболее рас­пространены трехслойные сети, состоящие из входного, скрытого и выходного слоев. Принципиальная схема такой сетевой архитектуры показана на рисунке.

2. Сети полной связи. В такой сетевой архитектуре все нейроны свя­заны между собой: каждый из них передает исходящий сигнал всем нейронам сети, включая самого себя. Ответом сети являются исходя­щие сигналы нескольких или всех нейронов после нескольких тактов функционирования сети.

При практической работе с нейронными сетями на персональном компьютере нет необходимости строить сеть «с нуля». В специальных программах уже имеется стандартный набор архитектур, соответствующих разным типам задач. Обычно бывает достаточно выбрать стан­дартную архитектуру и скорректировать ее (как правило, путем удале­ния лишнего) в соответствии с решаемой задачей.

Как уже говорилось, в основу концепции нейронных сетей поло­жен постулат, что вся сложность мозга определяется связями между нейронами, которые можно моделировать с помощью простых авто­матов. Известно, что количество информации, передаваемой между нейронами, является очень незначительным (несколько бит), а ско­рость передачи сигнала в миллионы раз ниже, чем в современных электронных процессорах. Поэтому: 1) мозг решает задачу не путем последовательной серии взаимодействий, а запуская несколько па­раллельных программ; 2) основная информация не передается непосредственно, а захватывается и распределяется в связях между нейронами. С некоторым преувеличением можно сказать, что в нейросетевом подходе реализован принцип «структура связей — всё, свойства элементов — ничто».

Именно это свойство позволило реализовать на практике способ­ность машины к обучению на примерах. Уникальность нейронных се­тей состоит в том, что они решают различные задачи в соответствии не с изначально заложенными в них программными алгоритмами, а с алгоритмами, которые вырабатывают они сами, обучаясь на множестве примеров.

Различия между «классической» электронно-вычислительной ма­шиной (машиной фон Неймана) и биологическими нейронными се­тями, принципы организации которых были взяты на вооружение ИНС, систематизируются в следующей таблице:

ЭВМ Биологическая нейронная система
Процессор Сложный Простой
Высокоскоростной Низкоскоростной
Один или несколько (малое количество) Большое количество
Память Отделена от процессора Интегрирована в процессор
Локализованная Распределенная
Вычисления Централизованные Распределенные
Последовательные Параллельные
Хранимые программы Самообучение
Специализация Численные и символьные операции Проблемы восприятия

<< | >>
Источник: Ахременко А.С.. Политический анализ и прогнозирование. 2006

Еще по теме Биологические и Искусственные нейронные сети:

  1. ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ
  2. Обучение сети
  3. О борьбе с химически и биологическим терроризмом
  4. ИСКУССТВЕННЫЕ ГРАНИЦЫ
  5. «Искусственные» структуры и влияние лидерства
  6. Тема 10. Бенчмаркинговые сети и ассоциации
  7. Сети перекающихся интересов
  8. Биологические и социально-экономические характеристики
  9. Договор на аренду локальной компьютерной сети
  10. Режим нераспространения и запрещения бактериологического (биологического) и токсинного оружия.
  11. Социально биологические законы развития общества
  12. Конституционные и другие «искусственные» механизмы: помощь или помеха лидерам?
  13. Запуск первого искусственного спутника земли произошел в:
  14. 15.2. БИОЛОГИЧЕСКИЕ РИТМЫ ЖИЗНИ И ТРУДА И УПРАВЛЕНИЕ ИМИ
  15. Возможность влияния лидеров при отсутствии «искусственных» институциональных структур
  16. Сети: «Программа совершила недопустимую операцию, и будет немедленно закрыта»
  17. ОТНОШЕНИЕ МИРА ПРИРОДЫ И МИРА ДУХА К БИОЛОГИЧЕСКИ ПРАВИЛЬНОЙ ГРАНИЦЕ
  18. Создание сети партнерских отношений СССР со странами Африки. Расширение военно-политического присутствия СССР в мире
  19. 3.1.2. Оценка ресурсной базы. Виды ресурсов. Земельный фонд. Биологические ресурсы. Топливно-энергетические ресурсы