Типы нейронных сетей и модель искусственного нейрона

• Нейронная сеть состоит из входного, скрытого и выходного слоев.  

• Скрытый слой не является входным или выходным.  

• Существует множество архитектур нейронных сетей, каждая из которых решает определенные задачи.  

• Полносвязные нейронные сети DNN.  

• Сверточные нейронные сети CNN.  

• Рекуррентные нейронные сети RNN.  

• Каждый тип сетей решает определенные задачи: RNN имеют память, CNN улавливают пространственную информацию.  

• Для понимания работы нейронных сетей нужно понять работу одного нейрона.  

• Пример полновязной нейронной сети: входной слой из трех нейронов, выходной слой из одного нейрона, два скрытых слоя по четыре нейрона.  

• Параметры сети: веса, которые настраиваются в процессе обучения.  

• Искусственный нейрон связан с моделью биологического нейрона.  

• Биологический нейрон имеет аксон и дендриты, может иметь связи с 20 тысячами других нейронов.  

• Искусственный нейрон решает задачу бинарной классификации, взвешивая признаки объекта и возвращая метку класса.  

• В 1957 году Фрэнк Розенблат предложил модель нейрона с пороговой функцией активации.  

• Современная модель нейрона использует скалярное произведение вектора весов на вектор признака объекта.  

• Метод коррекции ошибки заменен на градиентный спуск для обновления весов.  

• Современная модель оперирует вещественными числами, а не логическими операциями.  

• Используются функции активации, такие как сигмоида и гиперболический тангенс.  

• Обучение нейрона происходит с учителем, минимизируя функцию потерь с помощью градиентного спуска.