Нейронные сети: их применение, работа

Статья написана Павлом Чайкой, главным редактором журнала «Познавайка». С 2013 года, с момента основания журнала Павел Чайка посвятил себя популяризации науки в Украине и мире. Основная цель, как журнала, так и этой статьи – объяснить сложные научные темы простым и доступным языком

нейронные сети

Содержание:

  • Определение

  • Биологические сети

  • История сетей

  • Искусственные сети

  • Практическое применение

  • Типы сетей

  • Сверточные сети

  • Рекуррентные сети

    В последнее время все чаще и чаще говорят про так званные нейронные сети, дескать вскоре они будут активно применятся и в роботехнике, и в машиностроении, и во многих других сферах человеческой деятельности, ну а алгоритмы поисковых систем, того же Гугла уже потихоньку начинают на них работать. Что же представляют собой эти нейронные сети, как они работают, какое у них применение и чем они могут стать полезными для нас, обо всем этом читайте дальше.

    Определение

    Нейронные сети – это одно из направлений научных исследований в области создания искусственного интеллекта (ИИ) в основе которого лежит стремление имитировать нервную систему человека. В том числе ее (нервной системы) способность исправлять ошибки и самообучаться. Все это, хотя и несколько грубо должно позволить смоделировать работу человеческого мозга.

    Биологические сети

    Но это определение абзацем выше чисто техническое, если же говорить языком биологии, то нейронная сеть представляет собой нервную систему человека, ту совокупность нейронов в нашем мозге, благодаря которым мы думаем, принимаем те или иные решения, воспринимаем мир вокруг нас.

    Биологический нейрон – это специальная клетка, состоящая из ядра, тела и отростков, к тому же имеющая тесную связь с тысячами других нейронов. Через эту связь то и дело передаются электрохимические импульсы, приводящие всю нейронную сеть в состояние возбуждение или наоборот спокойствия. Например, какое-то приятное и одновременно волнующее событие (встреча любимого человека, победа в соревновании и т. д.) породит электрохимический импульс в нейронной сети, которая располагается в нашей голове, что приведет к ее возбуждению. Как следствие, нейронная сеть в нашем мозге свое возбуждение передаст и другим органам нашего тела и приведет к повышенному сердцебиению, более частому морганию глаз и т. д.

    нейронная сеть

    Тут на картинке приведена сильно упрощенная модель биологической нейронной сети мозга. Мы видим, что нейрон состоит из тела клетки и ядра, тело клетки, в свою очередь, имеет множество ответвленных волокон, названых дендритами. Длинные дендриты называются аксонами и имеют протяженность много большую, нежели показано на этом рисунке, посредством аксонов осуществляется связь между нейронами, благодаря ним и работает биологическая нейронная сеть в наших с вами головах.

    История

    Какова же история развития нейронных сетей в науке и технике? Она берет свое начало с появлением первых компьютеров или ЭВМ (электронно-вычислительная машина) как их называли в те времена. Так еще в конце 1940-х годов некто Дональд Хебб разработал механизм нейронной сети, чем заложил правила обучения ЭВМ, этих «протокомпьютеров».

    Дальнейшая хронология событий была следующей:

    • В 1954 году происходит первое практическое использование нейронных сетей в работе ЭВМ.
    • В 1958 году Франком Розенблатом разработан алгоритм распознавания образов и математическая аннотация к нему.
    • В 1960-х годах интерес к разработке нейронных сетей несколько угас из-за слабых мощностей компьютеров того времени.
    • И снова возродился уже в 1980-х годах, именно в этот период появляется система с механизмом обратной связи, разрабатываются алгоритмы самообучения.
    • К 2000 году мощности компьютеров выросли настолько, что смогли воплотить самые смелые мечты ученых прошлого. В это время появляются программы распознавания голоса, компьютерного зрения и многое другое.

    нейронная сеть

    Искусственные сети

    Под искусственными нейронными сетями принято понимать вычислительные системы, имеющие способности к самообучению, постепенному повышению своей производительности. Основными элементами структуры нейронной сети являются:

    • Искусственные нейроны, представляющие собой элементарные, связанные между собой единицы.
    • Синапс – это соединение, которые используется для отправки-получения информации между нейронами.
    • Сигнал – собственно информация, подлежащая передаче.

    Практическое применение

    Область применения искусственных нейронных сетей с каждым годом все более расширяется, на сегодняшний день они используются в таких сферах как:

    • Машинное обучение (machine learning), представляющее собой разновидность искусственного интеллекта. В основе его лежит обучение ИИ на примере миллионов однотипных задач. В наше время машинное обучение активно внедряют поисковые системы Гугл, Яндекс, Бинг, Байду. Так на основе миллионов поисковых запросов, которые все мы каждый день вводим в Гугле, их алгоритмы учатся показывать нам наиболее релевантную выдачу, чтобы мы могли найти именно то, что ищем.
    • В роботехнике нейронные сети используются в выработке многочисленных алгоритмов для железных «мозгов» роботов.
    • Архитекторы компьютерных систем пользуются нейронными сетями для решения проблемы параллельных вычислений.
    • С помощью нейронных сетей математики могут разрешать разные сложные математические задачи.

    Типы сетей

    В целом для разных задач применяются различные виды и типы нейронных сетей, среди которых можно выделить:

    • сверточные нейронные сети,
    • реккурентные нейронные сети,
    • нейронную сеть Хопфилда.

    Далее мы детально остановимся на некоторых из них.

    нейрон

    Сверточные сети

    Сверточные сети являются одними из самых популярных типов искусственных нейронных сетей. Так они доказали свою эффективность в распознавании визуальных образов (видео и изображения), рекомендательных системах и обработке языка.

    • Сверточные нейронные сети отлично масштабируются и могут использоваться для распознавания образов, какого угодно большого разрешения.
    • В этих сетях используются объемные трехмерные нейроны. Внутри одного слоя нейроны связаны лишь небольшим полем, названые рецептивным слоем.
    • Нейроны соседних слоев связаны посредством механизма пространственной локализации. Работу множества таких слоев обеспечивают особые нелинейные фильтры, реагирующие на все большее число пикселей.

    Рекуррентные сети

    Рекуррентными называют такие нейронные сети, соединения между нейронами которых, образуют ориентировочный цикл. Имеет такие характеристики:

    • У каждого соединения есть свой вес, он же приоритет.
    • Узлы делятся на два типа, вводные узлы и узлы скрытые.
    • Информация в рекуррентной нейронной сети передается не только по прямой, слой за слоем, но и между самими нейронами.
    • Важной отличительной особенностью рекуррентной нейронной сети является наличие так званой «области внимания», когда машине можно задать определенные фрагменты данных, требующие усиленной обработки.

    Рекуррентные нейронные сети применяются в распознавании и обработке текстовых данных (в частотности на их основе работает Гугл переводчик, алгоритм Яндекс «Палех», голосовой помощник Apple Siri).


    Автор: Павел Чайка, главный редактор журнала Познавайка

    При написании статьи старался сделать ее максимально интересной, полезной и качественной. Буду благодарен за любую обратную связь и конструктивную критику в виде комментариев к статье. Также Ваше пожелание/вопрос/предложение можете написать на мою почту pavelchaika1983@gmail.com или в Фейсбук, с уважением автор.


    Эта статья доступна на английском языке – Neural Networks.

  • 2 комментария

    • Каков теоретический и практический предел возможностей нейронной сети?

    • Андрей сложно ответить на ваш вопрос о пределе возможностей нейронной сети. Могу лишь предположить, что теоретически “нет пределу совершенству”, а практически все ограничивается вычислительными мощностями самых мощных на сегодняшний день компьютеров.