История развития нейросетей: три нейрореволюции

А вы знали, что принцип работы нейросетей был сформулирован еще в прошлом веке?

А исследовать возможности машин и сопоставлять эти возможности с человеческими начали еще раньше: Леонардо да Винчи спроектировал механический калькулятор в 1500 году! Конечно, по сравнению с современными достижениями техники открытия более ранних периодов могут показаться наивными и банальными, но без этих открытий современность бы просто не существовала.

Первая революция нейросетей

Итак, впервые понятие нейронной сети было предложено в XX веке Уорреном Мак-Каллоком и Уолтером Питтсом. Хотя в XX веке создание нейросети было фактически невозможным в силу недостаточного технического прогресса, но более совершенное понимание того, как можно воспроизвести работу человеческого мозга, все равно произвело революцию. Спустя всего несколько лет открытие Уоррена развил Дональд Хебб, который предложил алгоритмы обучения искусственных нейронов. Но его модель оказалась слишком сложной для реализации на практике.

Основой для работы современных нейронных сетей в итоге послужил тот метод обучения, который требовал гораздо меньше ресурсов по сравнению с прочими — метод градиентного спуска. Именно этот метод, например, удалось реализовать в персептроне — искусственном нейроне, созданном выдающимся ученым Фрэнком Розенблаттом.

Вторая революция нейросетей

Несмотря на то, что изобретение самой концепции нейросети само по себе стало революцией, на начальных этапах возможности нейросетей были очень далеки от современных. Хотя в XX веке уже существовали первые компьютеры, они ограничивали их истинный потенциал: компьютеры прошлого обладали недостаточной вычислительной мощностью для нейросетей и просто не могли оперировать большим объемом данных, необходимым для их работы.

Эйфория после изобретения основополагающих для нейросетей принципов и создания искусственных нейронов, однако, быстро прошла: долгие годы ученые топтались на одном месте, а полноценная реализация нейросетей казалась невыполнимой задачей из разряда научной фантастики. Тем не менее ученые не оставляли попыток развить данную концепцию, и уже к середине шестидесятых годов XX века ситуация кардинально изменилась: на первый план вышла идея, что при помощи метода градиентного спуска можно обучать не только отдельные нейроны, но и сразу целые нейронные сети.

В восьмидесятых годах XX века были разработаны алгоритмы обучения нейронных сетей, которые теоретически позволяли решить очень широкий спектр задач. Но, к сожалению, пока что только теоретически: технические возможности все еще не позволяли реализовать эти решения на практике.

Третья революция нейросетей, которая происходит по сей день

В конце концов для обучения нейронных сетей начали применять ядерные методы (kernel methods) и вероятностные подходы (байесовские подходы). А относительно недавно обучение нейросетей вышло на совершенно новый уровень: в конце нулевых развитие технологий наконец-то позволило на практике реализовать все решения, которые раньше существовали лишь в теории.

Сегодня на развитие и внедрение нейронных сетей оказывает влияние множество факторов, а не только наличие необходимых вычислительных мощностей или нужных данных. Также на это влияют и математические идеи, и популярность научно-технического прогресса в обществе, и потребность коммерческих организаций в возможностях нейросетей. Последний фактор во многом определяет основные задачи современных нейросетей.

Сейчас обучение нейронных сетей позволяет сделать то, о чем ученые прошлого века могли только мечтать: нейросети самостоятельно распознают речь или изображение, подбирают эффекты, изменяют и создают контент и т.д. Кроме того, нейронные сети начали играть ведущую роль в развитии искусственного интеллекта, который именно благодаря нейросетям приблизился к тому, чтобы выполнять те же профессиональные задачи (например, писать журналистские тексты), которые может выполнять и человек.

Современные нейронные сети эффективны как никогда раньше, но потребуется еще немало усилий и времени, прежде чем они смогут реализовать свой потенциал на максимум и действительно превратить нашу жизнь в «Киберпанк» или «Бегущего по лезвию». Например, пока не решены те задачи нейросетей, которые связаны с компьютерным зрением. Но их прогресс все равно впечатляет.В повседневной жизни современные нейронные сети способны решать практически любые будничные задачи: редактировать фото или видео, распознавать голос, выдавать определенную реакцию на слова или же выполнять целые алгоритмы действий. Все это приближает нас к решению других амбициозных задач. Например, уже сейчас в проекте Илона Маска Neuralink нейросети позволяют передавать сигналы из мозга напрямую в компьютер! Что будет, когда нейросети станут еще совершеннее, — загадка, разгадки которой точно стоит ждать.