Тема 5. Технології нейронних мереж та генетичні алгоритми

2. Штучні нейронні мережі

Інтерес до нейронних мереж виник на початку розвитку обчислювальної техніки. В основі нейро-інтелекту лежить нейронна організація штучних систем, яка має біологічні основи. Здатність біологічних систем до навчання, адаптації та самоорганізації має великі переваги в порівнянні з сучасними обчислювальними засобами. Проте великою перевагою НС є велика швидкість обробки інформації та можливість обробки великого об’єму накопичених раніше даних. Тому розробка ШІС, які поєднують в собі переваги біологічних систем та комп’ютерних систем, є актуальної задачею і дає потенційні можливості для створення обчислювальних систем нового покоління.

Основні етапи розвитку НМ:

1)          1945р. – В. Мак – Калох і В. Пітс показали здатність порогових нейронних елементів обчислювати значення логічних функцій;

2)          1949р. – Д. Хебб винайшов правило навчання, яке стало математичної основою процесу навчання для декількох НМ;

3)          1957 – 1962рр. – Ф. Розенблат винайшов структуру найпростішої НМ, яку назвав персептрон. Водночас аналогічне дослідження проводив вчений України Г. І. Івахненко.

4)          1959р. – Відроу і Хофф придумали процедуру навчання лінійного асоціативного нейронного елементу, яка називалася дельта – правило;

5)          1960р. – Мінський і Пайперт здійснювали математичні дослідження та аналіз структури персептронів та показали їх обмеження. Їх висновки були досить песимістичні, що зіграли свою негативну роль в розвитку теорій НМ;

6)          1977р. – Андерсон опублікував ряд робіт в області асоціативної пам’яті на основі нейронних елементів. Його праці продовжили Т.Кохонен і С. Гросберг, які розробили моделі лінійної асоціативної пам’яті та теорію адаптивного резонансу для побудови асоціативної пам’яті.

7)          Початок 80-х (1982р.) – Хопфілд дослідив структуру НМ для рішення задач оптимізації. Т. Кохонен розробив самоорганізуючі НМ. Ряд інших вчених винайшли алгоритм зворотного розповсюдження помилки, який став сильним засобом багаторівневих НМ.

8)          1987р. – організація першої конференції по НМ ІЕЕЕ.

В даний час дослідження в області штучних НМ орієнтуються на створенні спеціалізованих систем для вирішення конкретних задач: прогнозування, діагностика в медицині і т.д.

Основним елементом штучних нейронних мереж є нейрон, який представлений на рис. 1. Принцип дії такого нейрону полягає в наступному: вхідні сигнали (xn), що мають відповідні вагові коефіцієнти (wn), складаються та проходять через передаточну функцію, генерують результат і на кінцевому етапі отримується вихідний результат.

Рис. 1. Базова схема спрощеного штучного нейрона

Всі нейрони взаємопов’язані між собою і складають певні прошарки, які й утворюють штучну нейронну мережу (рис. 2).

Рис. 2. Діаграма простої нейроної мережі

Найпоширеніші застосування нейронних мереж

1. Розпізнавання образів та класифікація. В якості образів можуть виступати різні за своєю природою об’єкти: символи тексту, зображення, зразки звуків і т. д. При навчанні мережі пропонуються різні зразки образів із зазначенням того, до якого класу вони відносяться. Коли мережі пред’являється якийсь образ, на одному з її виходів повинна з’явитися ознака того, що образ належить цьому класу. У той же час на інших виходах повинна бути ознака того, що образ  до даного класу не належить.
2. Прийняття рішень та управління. Це завдання близьке до задачі класифікації. Класифікації підлягають ситуації, характеристики яких надходять на вхід нейронної мережі. На виході мережі повинна з’явитися ознака рішення, яке вона прийняла.
3. Кластеризація. Під кластеризацією розуміється розбиття множини вхідних сигналів на класи, при тому, що ні кількість, ні ознаки класів заздалегідь не відомі. Після навчання така мережа здатна визначати, до якого класу належить вхідний сигнал.
4. Прогнозування. Здібності нейронної мережі до прогнозування безпосередньо випливають з її здатності до узагальнення та виділення прихованих залежностей між вхідними та вихідними даними. Після навчання мережа здатна передбачити майбутнє значення якоїсь послідовності на основі декількох попередніх значень або якихось існуючих зараз чинників.
5. Стиснення даних і асоціативна пам’ять. Здатність нейромереж до виявлення взаємозв’язків між різними параметрами дає можливість висловити дані великої розмірності більш компактно, якщо дані тісно взаємопов’язані між собою. Зворотній процес – відновлення вихідного набору даних з частини інформації – називається асоціативною пам’яттю.