Министерство образования Российской Федерации
Омский Государственный Университет
Математический факультет
Горбань Павел Александрович
ТЕХНОЛОГИЯ ИЗВЛЕЧЕНИЯ ЗНАНИЙ ИЗ НЕЙРОННЫХ СЕТЕЙ:
АПРОБАЦИЯ, ПРОЕКТИРОВАНИЕ ПО,
ИСПОЛЬЗОВАНИЕ В ПСИХОЛИНГВИСТИКЕ
Дипломная работа
Научный руководитель:
Член-корреспондент РАН
В.В. Шайдуров
Омск – 2002
Оглавление
Введение.. 4
Цель работы.. 4
Основные задачи исследования. 4
Основные результаты работы, полученные лично автором.. 4
Апробация работы.. 5
Публикации. 5
Глава 1. Проблема извлечения знаний и обзор методов извлечения знаний 6
1.1 Знание и приобретение знаний. 6
1.1.1 "Знание". 6
1.1.2. Приобретение знаний. 8
1.2. Методы извлечения и приобретения знаний. 8
1.2.1. Приобретение знаний, обучение и обобщение по примерам в теории классических экспертных систем. 9
1.2.1.1. Трудности при разработке экспертных систем. 11
1.2.2. Методы извлечения знаний из таблиц данных. 12
1.2.2.1. Технология извлечения знаний из таблиц данных. 12
1.2.2.2. Таблица эмпирических данных. 13
1.2.2.3. Статистические методы извлечения знаний из таблицы данных. 15
1.2.3. Методы идентификации систем. 15
1.2.4. Другие методы обработки данных. 16
1.3. Требования к технологии извлечения знаний. 17
Глава 2. Нейронные сети.. 19
2.1. Коннекционизм.. 19
2.2. Элементы нейронных сетей. 20
2.3. Основные архитектуры нейронных сетей. 21
2.4. Обучение нейронных сетей как минимизация функции ошибки. 22
Глава 3. Упрощение нейронной сети. 27
3.1. Что такое упрощение нейронной сети и зачем оно нужно. 27
3.2. Задача извлечения знаний из нейронной сети. 28
3.3. Методы упрощения нейронных сетей. 29
3.3.1. Контрастирование синапсов нейросети. 30
3.3.2. Контрастирование нейронов нейросети. 32
3.3.3. Контрастирование входных сигналов нейросети. 35
3.3.4. Бинаризация синапсов. 36
3.3.5. Упрощение нелинейных преобразователей нейронов. 37
3.3.6. Дополнительные модификации алгоритмов контрастирования. 37
3.3.7. Методы модификации структуры обученной сети. 38
3.4. Требования к процессу упрощения сети для извлечения знаний. 38
3.5. Упрощающие операции над нейронной сетью.. 39
3.6. Процедура комплексного упрощения нейронной сети. 40
Глава 4. Методы извлечения знаний из искусственных нейронных сетей 41
4.1. Существующие методы извлечения знаний из обученной нейросети 41
4.1.1. Методы на основе квантования сигналов сети. 42
4.1.2. Методы извлечения знаний параллельно с обучением нейросети. 44
4.1.3. Методы извлечения знаний из обученной нейросети. 46
4.2. Методы извлечения знаний: требования к методам.. 50
4.3. Методология извлечения явных знаний, использующая технологию комплексного упрощения нейросети. 52
4.4. Приемы повышения вербализуемости нейронной сети. 56
4.4.1. Добавление синдрома в набор входных симптомов. 56
4.4.2. Построение иерархии продукционных правил. 57
4.4.3. Ручное конструирование сети из фрагментов нескольких логически прозрачных сетей. 59
Глава 5. Нейросетевой анализ структуры индивидуального пространства смыслов.. 60
5.1. Семантический дифференциал. 60
5.2. MAN-многообразия. 63
Литература.. 65
Публикации автора по теме диплома.. ............
