Глубинные и глубокие в чем разница – 11 черт характера глубокого человека, из-за которых окружающие не всегда его понимают

глубинный — Викисловарь

Морфологические и синтаксические свойства[править]

падеж ед. ч. мн. ч.
муж. р. ср. р. жен. р.
Им.глуби́нныйглуби́нноеглуби́ннаяглуби́нные
Рд.глуби́нногоглуби́нногоглуби́ннойглуби́нных
Дт.глуби́нномуглуби́нномуглуби́ннойглуби́нным
Вн.   одуш.глуби́нногоглуби́нное
глуби́нную
глуби́нных
неод.глуби́нныйглуби́нные
Тв.глуби́ннымглуби́ннымглуби́нной глуби́нноюглуби́нными
Пр.глуби́нномглуби́нномглуби́ннойглуби́нных
Кратк. формаглуби́ненглуби́нноглуби́ннаглуби́нны

глу-би́н-ный

Прилагательное, качественное, тип склонения по классификации А. Зализняка — 1*a. Сравнительная степень — глуби́ннее.

Корень: -глуб-; суффиксы: -ин-н; окончание: -ый [Тихонов, 1996].

Произношение[править]

  • МФА: [ɡɫʊˈbʲinːɨɪ̯] 

Семантические свойства[править]

Значение[править]
  1. соотносящийся по значению с существительным: глубина, связанный с ним ◆ Отсутствует пример употребления (см. рекомендации).
  2. свойственный глубине, характерный для нее ◆ Источниками вещества магматических пород и сопровождающих их рудных образований являются литосфера, включая континентальную и океаническую кору, астеносфера и более глубинное вещество нижней мантии. Владимир Губарев, Михаил Кузьмин, «Академик Михаил Кузьмин: взгляд в глубины Байкала», 2008 г. // «Наука и жизнь» (цитата из Национального корпуса русского языка, см. Список литературы) ◆ Причём эти водовороты имеют все те особенности, которые отличают водовороты воздушные, а именно ― в Северном полушарии, в центре циклонических водоворотов, вращающихся против часовой стрелки, происходят подъём глубинных вод и их опускание на периферии водоворота. Павел Манташьян, «Вихри — от молекулы до Галактики», 2008 г. // «Наука и жизнь» (цитата из Национального корпуса русского языка, см. Список литературы)
  3. находящийся в глубине ◆ Эти же данные полезны для моделирования поведения глубинных слоёв Земли, включая прослеживание детонации от атомных и ядерных взрывов.
    Изучая толчки Земли, «2003» // «Знание — сила» (цитата из Национального корпуса русского языка, см. Список литературы)
    ◆ Прослушивали обыкновенно, стоя поодаль, иногда даже за фанерным пилоном (такие пилоны, ради увеличения полезной площади стен, разделяли на отсеки всю египетскую выставку, помещавшуюся в глубинной части Растреллиевской галереи; передняя её часть, ближе к Иорданскому подъезду, отделённая фанерной стеной, ещё принадлежала тогда Музею революции). И. М. Дьяконов, «Книга воспоминаний», 1995 г. (цитата из Национального корпуса русского языка, см. Список литературы) ◆ У Крымова полилась изо рта кровь, хотя по зубам его ни разу не ударили, и кровь эта шла не из носа, не из челюстей, не из прикушенного языка, как в Ахтубе… Это шла глубинная кровь, из лёгких. Он уже не помнил, где он, не помнил, что с ним… В. С. Гроссман, «Жизнь и судьба, часть 3», 1960 г. (цитата из Национального корпуса русского языка, см. Список литературы)
  4. имеющий большую глубину ◆ Оставалось только отыскать хоть какой-то подход к сверхсекретной глубинной скважине на Кольском полуострове. А. В. Иличевский, «Перс», 2009 г. (цитата из Национального корпуса русского языка, см. Список литературы)
  5. перен. находящийся далеко от административного, культурного и т. п. центра ◆ Экономическое ― из-за необъятных просторов глубинной Сибири, откуда можно будет вывозить лес и полезные ископаемые. Давид Шраер-Петров, «Охота на «рыжего дьявола»», Наука и жизнь г. // «2009» (цитата из Национального корпуса русского языка, см. Список литературы)
  6. предназначенный для большой глубины ◆ Скоро год уже, как мы с ним вовсе не расстаёмся: он мне стал как самый лучший кореш, будто мы с ним съели пуд соли вместе, будто плавали на одном судёнышке и на дне вместе отсиживались в тёмном отсеке под глубинными бомбами ― стали мы с ним как братья, хоть у нас и разница в образовании. Аксенов, «Пора, мой друг, пора», 1963 г. (цитата из Национального корпуса русского языка, см. Список литературы) ◆ Корабль был прообразом настоящего плавучего института: оснащенный всеми лучшими приборами ― навигационного и гидроакустического толка, армией глубинных лебедок, двумя батискафами-манипуляторами и специальным двигателем, гасящим дрейф, чтобы удержать корабль в одной точке, «Вавилов» работал в паре с другим научно-исследовательским кораблем, названным «Академик Келдыш».
    А. В. Иличевский, «Перс», 2009 г. (цитата из Национального корпуса русского языка, см. Список литературы)
  7. действующий на большой глубине ◆ При этом недоучёт глубинных изменений геологической среды приводит к таким катастрофическим явлениям, как техногенные землетрясения, прорывы буровых колон и трубопроводов, образование оползней и провалов, что влечёт за собой экологические и экономические проблемы. Геоинформационное картографирование для оценки воздействия на окружающую среду объектов нефтегазовой промышленности, «2001» // «Геоинформатика» (цитата из Национального корпуса русского языка, см. Список литературы)
  8. перен. представляющий собою основу, сущность чего-л., внутренне обусловленный ◆ Человеческие языки имеют абсолютно сходную глубинную структуру. Сергей Старостин, Григорий Зеленко, «У человечества был один праязык», 2003 г. // «Знание — сила» (цитата из Национального корпуса русского языка, см. Список литературы) ◆ Что до российской экономики, то «её глубинные основы пока не позволяют использовать преимущества крепкого рубля в полной мере». Екатерина Григорьева, Елена Загородняя, Игорь Моисеев, «Кремлевская мечта. Четыре президента сочинили новый экономический союз», 2003 г. // «Известия» (цитата из Национального корпуса русского языка, см. Список литературы)
    ◆ Учителя в ответ ставили нужные отметки. Зачем глубинные знания восточным девочкам? После школы выйдут замуж, будут рожать детей. В. С. Токарева, «Своя правда», 2002 г. // «Новый Мир» (цитата из Национального корпуса русского языка, см. Список литературы)
  9. перен. неявный, скрытый ◆ Случай с проведением сборища террористов в Дании и игры с Закаевым в Лондоне наиболее ярко выявили глубинную суть происходящего, в т. ч. неприспособленность нашей юриспруденции и законодательств ряда стран к решению этой задачи. Махмут Гареев, «К каким угрозам и войнам должна быть готова Россия», 2003 г. // «Отечественные записки» (цитата из Национального корпуса русского языка, см. Список литературы)
Синонимы[править]
Антонимы[править]
Гиперонимы[править]
Гипонимы[править]

Родственные слова[править]

Этимология[править]

Происходит от ??

Фразеологизмы и устойчивые сочетания[править]

Перевод[править]

Библиография[править]

  • Словарь новых слов русского языка (середина 50-х — середина 80-х годов) / Под ред. Н. З. Котеловой. — СПб. : Дмитрий Буланин, 1995. — ISBN 5-86007-016-0.

возможности, перспективы и немного истории / ИТ-ГРАД corporate blog / Habr

Последние несколько лет словосочетание «глубинное обучение» всплывает в СМИ слишком часто. Различные журналы вроде KDnuggets и DigitalTrends стараются не упустить новости из этой сферы и рассказать о популярных фреймворках и библиотеках.

Даже популярные издания вроде The NY Times и Forbes стремятся регулярно писать о том, чем заняты ученые и разработчики из области deep learning. И интерес к глубинному обучению до сих пор не угасает. Сегодня мы расскажем о том, на что способно глубинное обучение сейчас, и по какому сценарию оно будет развиваться в будущем.

/ фото xdxd_vs_xdxd CC

Пара слов про глубинное обучение, нейронные сети и ИИ


Чем отличается алгоритм глубинного обучения от обычной нейронной сети? По словам Патрика Холла, ведущего исследователя данных в компании SAS, самое очевидное отличие: в нейронной сети, используемой в глубинном обучении, больше скрытых слоев. Эти слои находятся между первым, или входным, и последним, выходным, слоем нейронов. При этом совсем не обязательно связывать все нейроны на разных уровнях между собой.

Разграничение глубинного обучения и искусственного интеллекта не такое однозначное. Например, профессор Вашингтонского университета Педро Домингос соглашается с мнением, что глубинное обучение выступает гипонимом по отношению к термину «машинное обучение», которое в свою очередь является гипонимом по отношению к искусственному интеллекту. Домингос говорит, что на практике области их применения пересекаются достаточно редко.

Однако существует и другое мнение. Хуго Ларочелле, профессор Шербрукского университета, уверен, что данные концепты почти никак не связаны между собой. Хуго замечает, что ИИ фокусируется на цели, а глубинное обучение — на определенной технологии или методологии, необходимой для машинного обучения. Поэтому здесь и далее, говоря о достижениях в области ИИ (таких, как AlphaGo, например) будем иметь в виду, что подобные разработки используют алгоритмы глубинного обучения — но наряду и с другими разработками из области ИИ в целом и машинного обучения в частности [как справедливо отмечает Педро Домингос].

От «глубокой нейронной сети» до глубинного обучения


Глубокие нейронные сети появились достаточно давно, еще в 1980-е. Так почему же глубинное обучение начало активно развиваться только в 21 веке? Репрезентации в нейронной сети создаются в слоях, поэтому было логично предположить, что больше слоев позволит сети лучше обучаться. Но большую роль играет метод обучения сети. Раньше для глубинного обучения использовались те же алгоритмы, что и для обучения искусственных нейронных сетей — метод обратного шифрования. Такой метод мог эффективно обучать только последние слои сети, в результате чего процесс был чрезвычайно длительным, а скрытые слои глубинной нейронной сети, фактически, не «работали».

Только в 2006 году три независимых группы ученых смогли разработать способы преодоления трудностей. Джеффри Хинтон смог провести предобучение сети при помощи машины Больцмана, обучая каждый слой отдельно. Для решения проблем распознавания изображений Яном ЛеКаном было предложено использование сверточной нейронной сети, состоящей из сверточных слоев и слоев подвыборки. Каскадный автокодировщик, разработанный Иошуа Бенджио, также позволил задействовать все слои в глубокой нейронной сети.

Проекты, которые «видят» и «слышат»


Сегодня глубинное обучение используется в совершенно разных сферах, но, пожалуй больше всего примеров использования лежит в области обработки изображений. Функция распознавания лиц существует уже давно, но, как говорится, нет предела совершенству. Разработчики сервиса OpenFace уверены, что проблема еще не решена, ведь точность распознавания можно повысить. И это не просто слова, OpenFace умеет различать даже похожих внешне людей. Подробно о работе программы уже писали в этой статье. Глубинное обучение поможет и при работе с черно-белыми файлами, автоматической колоризацией которых занимается приложение Colornet.

Кроме того, глубокие сети теперь способны распознавать и человеческие эмоции. А вместе с возможностью отследить использование логотипа компании на фотографиях и анализом сопроводительного текста мы получаем мощный маркетинговый инструмент. Похожие сервисы разрабатывает, например, IBM. Инструмент позволяет оценить авторов текстов при поиске блогеров для сотрудничества и рекламы.

Программа NeuralTalk умеет описывать изображения при помощи нескольких предложений. В базу программы загружается набор изображений и 5 предложений, описывающих каждое из них. На стадии обучения алгоритм учится прогнозировать предложения на основе ключевого слова, используя предыдущий контекст. А на стадии прогнозирования нейронная сеть Джордана уже создает предложения, описывающие картинки.

Сегодня существует много приложений, которые могут решать разные задачи в работе с аудио. Например, приложение Magenta, разработанное командой Google, умеет создавать музыку. Но большая часть приложений направлена на распознавание речи. Интернет-сервис Google Voice умеет транскрибировать голосовую почту и имеет функции управления СМС, при этом для обучения глубоких сетей исследователями использовались существующие голосовые сообщения.

Проекты в «разговорном жанре»


По мнению таких ученых, как Ноам Хомски, невозможно научить компьютер полностью понимать речь и вести осознанный диалог, потому что даже механизм человеческой речи изучен не до конца. Попытки научить машины говорить начались еще в 1968 году, когда Терри Виноград создал программу SHRDLU. Она умела распознавать части речи, описывать предметы, отвечать на вопросы, даже обладала небольшой памятью. Но попытки расширить словарный запас машины привели к тому, что стало невозможно контролировать применение правил.

Но сегодня с помощью глубинного обучения Google в лице разработчика Куока Ле шагнул далеко вперед. Его разработки умеют отвечать на письма в Gmail и даже помогают специалистам технической поддержки Google. А программа Cleverbot обучалась на диалогах из 18 900 фильмов. Поэтому она может отвечать на вопросы даже о смысле жизни. Так, бот считает, что смысл жизни заключается в служении добру. Однако ученые вновь столкнулись с тем, что искусственный интеллект лишь имитирует понимание и не имеет представления о реальности. Программа воспринимает речь лишь как сочетание определенных символов.

Обучение машин языку может помочь и в переводе. Google давно занимается улучшением качества перевода в своем сервисе. Но насколько можно приблизить машинный перевод к идеалу, если и человек не всегда может правильно понимать смысл высказывания? Рэй Курцвейл предлагает для решения этой задачи графически представить семантическое значение слов в языке. Процесс достаточно трудоемкий: в специальный каталог Knowledge Graph, созданный в Google, ученые загрузили данные о почти 700 миллионах тем, мест, людей, между которыми было проведено почти миллиард различных связей. Все это направлено на улучшение качества перевода и восприятие искусственным интеллектом языка.

Сама идея о представлении языка графическими и/или математическими методами не нова. Еще в 80-е перед учеными стояла задача представить язык в формате, с которым могла бы работать нейронная сеть. В итоге был предложен вариант представления слов в виде математических векторов, что позволяло точно определить смысловую близость разных слов (например, в векторном пространстве слова «лодка» и «вода» должны быть близки друг к другу). На этих исследованиях и базируются сегодняшние разработки Google, которые современные исследователи называют уже не «векторами отдельных слов», а «векторами идей».

Глубинное обучение и здравоохранение


Сегодня глубинное обучение проникает даже в сферу здравоохранения и помогает следить за состоянием пациентов не хуже врачей. Например, медицинский центр Дармут-Хичкок в США использует специализированный сервис Microsoft ImagineCare, что позволяет врачам уловить едва заметные перемены в состоянии пациентов. Алгоритмы получают данные об изменениях веса, контролируют давление пациентов и могут даже распознавать эмоциональное состояние на основе анализа телефонных разговоров.

Глубинное обучение применяется и в фармацевтике. Сегодня для лечения разных видов рака используется молекулярно-таргетная терапия. Но для создания эффективного и безопасного лекарства необходимо идентифицировать активные молекулы, которые бы воздействовали только на заданную мишень, позволяя избежать побочных эффектов. Поиск таких молекул может выполняться с использованием глубинного обучения (описание проекта, проведенного совместно учеными из университетов Австрии, Бельгии и R&D-отдела компании Johnson&Johnson есть в этом научном материале).

Есть ли у алгоритма интуиция?


Насколько на самом деле «глубоко» глубинное обучение? Ответ на это вопрос могут дать разработчики AlphaGo. Этот алгоритм не умеет говорить, не умеет распознавать эмоции. Но он способен обыграть любого в настольную игру. На первый взгляд тут нет ничего особенного. Уже почти 20 лет назад компьютер, разработанный IBM, впервые обыграл в шахматы человека. Но AlphaGo – совсем другое дело. Настольная игра Го появилась в Древнем Китае. Начало чем-то похоже на шахматы – противники играют на доске в клетку, черные фигуры против белых. Но на этом сходства заканчиваются, потому что фигуры являются небольшими камушками, а цель игры – окружить камушек противника своими.

Но главное отличие в том, что не существует каких-либо заранее известных выигрышных комбинаций, в го невозможно думать на несколько ходов вперед. Машину нельзя запрограммировать на победу, потому что невозможно выстроить победную стратегию заранее. Здесь и вступает в игру глубинное обучение. Вместо программирования определенных ходов, AlphaGo проанализировала сотни тысяч сыгранных партий и сыграла миллион партий сама с собой. Искусственный интеллект может обучаться на практике и выполнять сложные задания, приобретая то, что человек назвал бы «интуитивным пониманием выигрышной стратегии».

Машины не захватят мир


Несмотря на ошеломляющие успехи AlphaGo, искусственный интеллект еще далек от порабощения человеческой расы. Машины научились своеобразному «интуитивному мышлению», обработке огромного массива данных, но, по словам Фей-Фей Ли, руководителя Стэнфордской лаборатории искусственного интеллекта, абстрактное и творческое мышление им недоступно.

Несмотря на определенный прогресс в распознавании изображений, компьютер может перепутать дорожный знак с холодильником. Вместе со своими коллегами Ли составляет базу изображений с их подробным описанием и большим количеством тегов, которые позволят компьютеру получить больше информации о реальных объектах.

По словам Ли, такой подход – обучение на основе фото и подробного его описания – похож на то, как учатся дети, ассоциируя слова с объектами, отношениями и действиями. Конечно, эта аналогия довольно грубая – ребенку для понимания взаимосвязей объектов реального мира не нужно дотошно описывать каждый предмет и его окружение.

Профессор Джош Тененбаум, изучающий когнитивистику в MIT, отмечает, что, алгоритм познания мира и обучения у компьютера сильно отличается от процесса познания у человека; несмотря на свой размер, искусственные нейронные сети не могут сравниться с устройством биологических сетей. Так, способность говорить формируется в человеке очень рано и базируется на визуальном восприятии мира, владении опорно-двигательным аппаратом. Тененбаум уверен, что научить машины полноценному мышлению без подражания человеческой речи и психологической составляющей не представляется возможным.

Фей-Фей Ли согласна с этим мнением. По словам ученой, современный уровень работы с искусственным интеллектом не позволит приблизить его к человеческому – как минимум за счет наличия у людей эмоционального и социального интеллекта. Поэтому захват мира машинами стоит отложить как минимум еще на пару десятилетий.

P.S. Дополнительное чтение: Наш IaaS-дайджест — 30 материалов о применимости облачных технологий.

глубинный — Словарь антонимов русского языка

ГЛУБОКИЙ — МЕЛКИЙ

Глубоко — мелко

глубина — мель

Глубокое озеро — мелкое озеро. Глубокий овраг — мелкий овраг.

○ Хоть бы мелкая, а то она глубокая, уйдемте подальше от речки. А. Н. Толстой. Детство Никиты.

Зеленые и оливковые водоросли растут на мелких местах. Бурые лежат глубже на скалах, а на самых глубоких местах ... растут красные водоросли. Паустовский. Черное море.

Ср. Глубокий — поверхностный. Крупный — мелкий

ГЛУБОКИЙ — ПОВЕРХНОСТНЫЙ

Глубоко — поверхностно (см.)

глубина — поверхностность (см.)

глубинный — поверхностный (см.)

Глубокие знания — поверхностные знания. Глубокая мысль — поверхностная мысль.

○ Поверхностная вежливость заменила глубокое почтение. Пушкин. Арап Петра Великого.

Самое первое, поверхностное и вместе с тем самое глубокое впечатление от Николая Иосифовича было в том, что это был очень красивый человек — красивый не только чертами лица. Лихачев. Слово об академике Н. И. Конраде.

В знач. сущ. ср. р. [В дневниках молодых людей] мимолетное и преходящее кажется вечным и незыблемым, коренное — случайным, поверхностное — глубоким. Кони. Некоторые вопросы авторского права.

ГЛУБИННЫЙ — ПОВЕРХНОСТНЫЙ

Глубинные исследования — поверхностные исследования. Глубинный анализ — поверхностный анализ.

○ Несомненно, Пыжов выложил Челышеву правду о себе. Однако лишь поверхностную. Впрочем, знал ли, уяснил ли сам глубинную правду о себе? А. Бек. Новое назначение.

Под их [критиков] руками большие писатели делаются маленькими, глубокие — мелкими и мудрые — глупыми. Л. Толстой. Дневник, 11 февр. 1891.

Ср. Глубокий — мелкий

Источник: Словарь антонимов русского языка на Gufo.me


Значения в других словарях

  1. глубинный — прил., кол-во синонимов: 10 абиссальный 2 гипогенный 3 глубоководный 4 магматогенный 2 неявный 12 нутряной 5 сверхглубинный 1 скважинный 5 скрытый 69 сущностный 8 Словарь синонимов русского языка
  2. глубинный — Глуб/и́н/н/ый. Морфемно-орфографический словарь
  3. глубинный — глубинный прил. 1. Соотносящийся по знач. с сущ. глубина 1., связанный с ним. 2. Свойственный глубине глубина 1., характерный для неё. 3. Предназначенный для большой глубины глубина 1. || Действующий на большой глубине. 4. перен. Толковый словарь Ефремовой
  4. глубинный — орф. глубинный Орфографический словарь Лопатина
  5. глубинный — глубинный Орфографический словарь. Одно Н или два?
  6. глубинный — ГЛУБ’ИННЫЙ, глубинная, глубинное. прил. к глубина; на глубине, в глубине. Глубинный лов рыбы. Глубинный ссыпной пункт. Глубинные мысли (·срн. в глубине души). Толковый словарь Ушакова
  7. глубинный — ГЛУБИННЫЙ -ая, -ое. 1. Находящийся, действующий, производимый и т.п. на большой глубине (под землёй, под водой). Г-ые породы земной коры. Г-ое залегание нефти. Г-ые течения. Г. лов рыбы. Г-ые насосы. 2. Находящийся в глубине страны, области и т.п. Толковый словарь Кузнецова
  8. глубинный — -ая, -ое. 1. Находящийся, действующий, производимый и т. п. на большой глубине (под землей, под водой). Глубинные породы земной коры. Глубинное залегание нефти. Глубинные течения. Глубинный лов рыбы. 2. Находящийся в глубине страны, области и т. Малый академический словарь
  9. глубинный — Глубинный, глубинная, глубинное, глубинные, глубинного, глубинной, глубинного, глубинных, глубинному, глубинной, глубинному, глубинным, глубинный, глубинную, глубинное, глубинные, глубинного, глубинную, глубинное, глубинных, глубинным, глубинной... Грамматический словарь Зализняка
  10. глубинный — См. глубина Толковый словарь Даля
  11. глубинный — ГЛУБИННЫЙ, ая, ое. 1. см. глубина. 2. О населённом пункте, местности: находящийся далеко от центра, центрального пункта. Г. район. Глубинная деревня. Толковый словарь Ожегова

Глубокое обучение — Википедия

Глубокое обучение (глубинное обучение; англ. Deep learning) — совокупность методов машинного обучения (с учителем, с частичным привлечением учителя, без учителя, с подкреплением), основанных на обучении представлениям (англ. feature/representation learning), а не специализированным алгоритмам под конкретные задачи. Многие методы глубокого обучения были известны ещё в 1980-е (и даже ранее[1]), но результаты были невпечатляющими[2], пока продвижения в теории искусственных нейронных сетей (предобучение нейросетей с помощью специального случая ненаправленной графической модели, так называемой ограниченной машины Больцмана) и вычислительные мощности середины 2000-х (прежде всего, графических процессоров Nvidia, а в настоящее время и тензорных процессоров Google) не позволили создавать сложные технологические архитектуры нейронных сетей, обладающие достаточной производительностью и позволяющие решать широкий спектр задач, не поддававшихся эффективному решению ранее, например, в компьютерном зрении, машинном переводе, распознавании речи, причём качество решения во многих случаях теперь сопоставимо, а в некоторых случаях превосходит эффективность «белковых» экспертов[3].

Несмотря на то что термин «глубокое обучение» появился в научном сообществе машинного обучения только в 1986 году после работы Рины Дехтер[4], первый общий рабочий алгоритм для глубоких многослойных перцептронов прямого распространения был опубликован в книге советских учёных Алексея Григорьевича Ивахненко и Валентина Григорьевича Лапы «Кибернетические предсказывающие устройства»[5].

Другие глубокие архитектуры, в особенности те, которые специализируются на распознавании образов, берут своё начало с неокогнитрона, разработанного Кунихико Фукусимой в 1980 году. В 1989 году Яну Лекуну удалось использовать алгоритм обратного распространения ошибки для обучения глубоких нейросетей для решения задачи распознавания рукописных ZIP-кодов[6]. Несмотря на успешный опыт, для обучения модели потребовалось три дня, что существенно ограничивало применимость этого метода. Низкая скорость обучения связана со многими факторами, включая проблему исчезающих градиентов из-за большого разброса масштабов обучаемых параметров, которую в 1991 году анализировали Йорген Шмидхубер и Сепп Хохрайтер. Из-за этих проблем нейронные сети в 1990-х годах уступили место методу опорных векторов.

К 1991 году такие системы использовались для распознавания изолированных двумерных рукописных цифр, а распознавание трёхмерных объектов осуществлялось путём сопоставления двумерных изображений с трёхмерной объектной моделью, изготовленной вручную. В 1992 году создана модель кресцентрона[7][8][9] для распознавания трёхмерных объектов в загромождённых сценах.

В 1994 году Андре де Карвальо, вместе с Майком Фэйрхерстом и Дэвидом Биссетом, опубликовал экспериментальные результаты многослойной булевой нейронной сети, также известной как невесомая нейронная сеть, состоящая из трехуровневого самоорганизующегося модуля нейронной сети для выделения признаков (SOFT), а затем модуль многоуровневой классификации нейронной сети (GSN). Каждый модуль прошел независимое друг от друга обучение. Каждый слой в модуле извлекал объекты с растущей сложностью относительно предыдущего слоя.[10]

В 1995 году Брендан Фрей продемонстрировал, что можно обучить (в течение двух дней) сеть, содержащую шесть полностью соединенных слоев и несколько сотен скрытых юнитов, используя алгоритм сна-бодрствования, разработанный совместно с Питером Даяном и Хинтоном[11]. Многие факторы способствуют медленной скорости, включая проблему исчезающего градиента, проанализированную в 1991 году Зеппом Хохрайтером[12][13].

Более простые модели, которые используют ручные работы, специфичные для конкретной задачи, такие как фильтры Габора и метод опорных векторов (МОВ), были популярным выбором в 1990-х и 2000-х годах из-за вычислительных затрат искусственной нейронной сети (ИНС, англ. ANN) и отсутствия понимания того, как мозг связывает свои биологические сети.

Как поверхностное, так и глубокое обучение (например, рекуррентные сети) ИНС изучалась в течение многих лет[14][15][16]. Эти методы никогда не превосходили неоднородную смешанную Гауссову модель и скрытую модель Маркова, основанную на генеративных моделях речи, обученных дискриминационно[17]. Были проанализированы ключевые трудности, в том числе уменьшение градиента[12] и слабая временная корреляционная структура в нейронных прогностических моделях[18][19]. Дополнительными трудностями были отсутствие обучающих данных и ограниченная вычислительная мощность.

Глубокое обучение приобрело популярность в середине 2000-х годов, когда всё сошлось воедино: компьютеры стали достаточно мощными, чтобы обучать большие нейронные сети (вычисления научились делегировать графическим процессорам, что ускорило процесс обучения на порядок), наборы данных стали достаточно объёмными, чтобы обучение больших сетей имело смысл, а в теории искусственных нейронных сетей произошло очередное продвижение — статьи Хинтона, Осиндеро и Тэ[20], а также Бенджио[21], в которых авторы показали, что можно эффективно предобучать многослойную нейронную сеть, если обучать каждый слой отдельно при помощи ограниченной машины Больцмана, а затем дообучать при помощи метода обратного распространения ошибки.

Революция в глубоком обучении[править | править код]

В 2012 году команда под руководством Джорджа Э. Даля выиграла Конкурс "Merck Molecular Activity Challenge", используя многозадачные глубокие нейронные сети для прогнозирования биомолекулярной мишени одного препарата.[22] В 2014 году группа Хохрейтера использовала глубокое обучение для выявления нецелевых и токсических эффектов химических веществ, присутствующих в окружающей среде, в питательных веществах, продуктах домашнего обихода и лекарствах, и выиграла «Tox21 Data Challenge» от Национального института здравоохранения США, Управления по санитарному надзору за качеством пищевых продуктов и медикаментов и NCATS.[23]

Концептуальное изображение глубокого обучения в виде подмножества машинного обучения, а машинного обучения как подмножество искусственного интеллекта (ИИ)

Значительное развитие в распознавании изображений или объектов ощущалось в период с 2011 по 2012 годы. Хотя сверточные нейронные сети (СНН), обученные обратному распространению, существовали в течение десятилетий, и GPU внедряли нейронные сети в течение многих лет, включая СНН, быстрые реализации СНН на GPU использовали для развития компьютерного зрения. В 2011 году этот подход впервые позволил добиться сверхчеловеческой производительности в конкурсе визуального распознавания образов. Также в 2011 году он выиграл конкурс рукописного ввода ICDAR, а в мае 2012 года - конкурс сегментации изображений ISBI.[24] До 2011 года СНН не играли основной роли на конференциях по компьютерному зрению, но в июне 2012 года доклад Циресана[25] на ведущей конференции CVPR показал, как максимальное объединение СНН на GPU может значительно улучшить многие результаты бенчмарков. В октябре 2012 г. аналогичная система была разработана Крижевским[26], коллектив которого выиграл крупномасштабный конкурс ImageNet со значительным преимуществом по сравнению с методами поверхностного машинного обучения. В ноябре 2012 года команда Циресана также выиграла конкурс ICPR по анализу больших медицинских изображений для выявления рака, а в следующем году MICCAI Grand Challenge по той же теме.[27] В 2013 и 2014 годах частота ошибок в задаче ImageNet с использованием глубокого обучения была еще снижена вследствие аналогичной тенденции в широкомасштабном распознавании речи. Стивен Вольфрам в рамках проекта по идентификации изображений опубликовал эти улучшения.[28]

Классификация изображений была затем расширена до более сложной задачи генерации описаний (подписей) для изображений, часто в виде комбинации СНН и LSTM.[29][30][31][32]

Некоторые исследователи считают, что победа ImageNet в октябре 2012 года положила начало «революции глубокого обучения», которая изменила индустрию искусственного интеллекта.[33]

В марте 2019 года Йошуа Бенжио, Джеффри Хинтон и Янн ЛеКун были награждены премией Тьюринга за концептуальные и инженерные прорывы, которые сделали глубокие нейронные сети критическим компонентом вычислений.

Искусственные нейронные сети (ИНС) - это вычислительные системы, основанные на принципах биологических нейронных сетей, составляющих мозг животных. Такие системы учатся (постепенно улучшают свои способности) выполнять задачи, как правило, без программирования для решения конкретных задач. Например, при распознавании изображений кошек они могут научиться распознавать изображения, содержащие кошек, анализируя примеры изображений, которые были вручную помечены как «кошка» или «нет кошки», и используя результаты анализа для идентификации кошек на других изображениях. Наибольшее применение ИНС нашли в программных приложениях, которые трудно выразить традиционным компьютерным алгоритмом, использующего программирование на основе правил.

ИНС основаны на наборе связанных единиц, называемых искусственными нейронами (аналог биологических нейронов в биологическом мозге). Каждое соединение (синапс) между нейронами может передавать сигнал другому нейрону. Принимающий (постсинаптический) нейрон может обрабатывать сигнал (сигналы) и затем сигнализировать о подключенных к ней нейронах. Нейроны могут иметь состояние, обычно представляемое действительными числами, обычно между 0 и 1. Нейроны и синапсы могут также иметь вес, который изменяется в процессе обучения, что может увеличивать или уменьшать силу сигнала, который он посылает далее.

Как правило, нейроны организованы в слои. Разные слои могут выполнять различные виды преобразований. Сигналы проходят от первого (входного) до последнего (выходного) слоя, возможно, после многократного прохождения слоев.

Первоначальная цель нейросетевого подхода состояла в том, чтобы решать задачи так же, как это делает человеческий мозг. Со временем внимание сосредоточилось на подборе определенных интеллектуальных способностей, что привело к отклонениям от биологии, таким как обратное распространение, или передаче информации в обратном направлении и настройке сети для отражения этой информации.

Нейронные сети используются для решения различных задач, включая машинное зрение, распознавание речи, машинный перевод, фильтрацию в социальных сетях, видеоигры и медицинскую диагностику.

Начиная с 2017 года, нейронные сети обычно имеют от нескольких тысяч до нескольких миллионов единиц и миллионы соединений. Несмотря на то, что это число на несколько порядков меньше, чем число нейронов в человеческом мозге, эти сети могут выполнять множество задач на уровне, превышающем уровень людей (например, распознавание лиц, игра в «Go»)[34].

Глубинные нейронные сети[править | править код]

Глубинная нейронная сеть (ГНС, англ. DNN - Deep neural network) - это искусственная нейронная сеть (ИНС) с несколькими слоями между входным и выходным слоями[35][36]. ГНС находит корректный метод математических преобразований, чтобы превратить исходящие данные в выходящие, независимо от линейной или нелинейной корреляции. Сеть продвигается по слоям, рассчитывая вероятность каждого выхода. Например, ГНС, которая обучена распознавать породы собак, пройдет по заданному изображению и вычислит вероятность того, что собака на изображении относится к определенной породе. Пользователь может просмотреть результаты и выбрать вероятности, которые должна отображать сеть (выше определенного порога, например), и вернуть в сеть предложенную метку. Каждое математическое преобразование считается слоем, а сложные ГНС имеют много слоев, отсюда и название «глубинные» или «глубокие» сети.

ГНС могут моделировать сложные нелинейные отношения. Архитектуры ГНС генерируют композиционные модели, в которых объект выражается в виде многоуровневой композиции примитивов[37]. Дополнительные уровни позволяют составлять элементы из более низких уровней, потенциально моделируя сложные данные с меньшим количеством единиц, чем мелкая сеть с аналогичными показателями[35].

Глубокая архитектура включает в себя множество вариантов нескольких основных подходов. Каждая архитектура нашла успех в определенных областях. Не всегда возможно сравнить производительность нескольких архитектур, если они не были оценены на одних и тех же наборах данных.

ГНС, как правило, представляют собой сети с прямой связью, в которых данные передаются от входного уровня к выходному уровню без обратной связи. Сначала ГНС создает карту виртуальных нейронов и назначает случайные числовые значения или «веса» соединениям между ними. Веса и входные данные умножаются и возвращают выходной сигнал от 0 до 1. Если сеть не точно распознала конкретный шаблон, алгоритм будет корректировать весовые коэффициенты[38]. Таким образом, алгоритм может сделать определенные параметры более значимыми, пока он не определит правильные математические манипуляции для полной обработки данных.

Глубокое обучение характеризуется как класс алгоритмов машинного обучения, который[39]:

  • использует многослойную систему нелинейных фильтров для извлечения признаков с преобразованиями. Каждый последующий слой получает на входе выходные данные предыдущего слоя. Система глубокого обучения может сочетать алгоритмы обучения с учителем и без учителя, при этом анализ образца представляет собой обучение без учителя, а классификация — обучение с учителем.
  • обладает несколькими слоями выявления признаков или параметров представления данных (обучение без учителя). При этом признаки организованы иерархически, признаки более высокого уровня являются производными от признаков более низкого уровня.
  • является частью более широкой области машинного обучения изучения представлений данных.
  • формирует в процессе обучения слои на нескольких уровнях представлений, которые соответствуют различным уровням абстракции; слои образуют иерархию понятий.

Все определения констатируют

  1. наличие нескольких слоев нелинейной обработки
  2. обучение с учителем или без учителя признаков каждого слоя, формируя иерархию от низкого до высокого уровня[39].

Состав конкретных нелинейных слоёв зависит от решаемой проблемы. Используются как скрытые слои нейронной сети, так и слои сложных логических преобразований[40]. Система может включать скрытые переменные, организованные послойно в глубоких генеративных моделях, таких как узлы в глубокой сети доверия и глубокой ограниченной машине Больцмана.

Алгоритмы глубокого обучения противопоставлены алгоритмам неглубокого обучения по количеству параметризованных преобразований, с которыми сталкивается сигнал, распространяющийся от входного слоя к выходному слою, где параметризованным преобразованием считается такой блок обработки данных, у которого есть обучаемые параметры, такие как веса или пороги[41]. Цепочка преобразований от входа к выходу называется CAP — путём передачи ответственности (англ. credit assignment path, CAP). CAP описывают потенциальные причинные связи вдоль сети от входа к выходу, при этом путь в разных ветвях может иметь разную длину. Для нейронной сети прямого распространения (feedforward) глубина CAP не отличается от глубины сети и равна количеству скрытых слоев плюс один (выходной слой также параметризован). Для рекуррентных нейронных сетей, в которых сигнал может перескакивать через слои минуя промежуточные, CAP из-за обратной связи потенциально неограничен в длине. Не существует универсально согласованного порога глубины деления неглубокого обучения от глубокого обучения, но обычно считается, что глубокое обучение характеризуется несколькими нелинейными слоями (CAP > 2). Йорген Шмидхубер выделяет также «очень глубокое обучение», когда CAP > 10[41].

Глубокое обучение — это алгоритмы машинного обучения для моделирования высокоуровневых абстракций с применением многочисленных нелинейных преобразований[39][40][41][42][43].

В первую очередь к глубинному обучению относятся следующие методы и их вариации:

  • Определённые системы обучения без учителя, такие как ограниченная машина Больцмана для предварительного обучения, автокодировщик, глубокая сеть доверия, генеративно-состязательная сеть,
  • Определённые системы обучения с учителем, такие как свёрточная нейронная сеть, которая вывела на новый уровень технологии распознавания образов,
  • Рекуррентные нейронные сети, позволяющие обучаться на процессах во времени,
  • Рекурсивные нейронные сети, позволяющие включать обратную связь между элементами схемы и цепочками.

Комбинируя эти методы, создаются сложные системы, соответствующие различным задачам искусственного интеллекта.

Глубокое обучение является апробированной выборкой из широкого семейства методов машинного обучения для представлений данных, наиболее соответствующих характеру задачи. Изображение, например, может быть представлено многими способами, такими как вектор интенсивности значений на пиксель, или (в более абстрактной форме) как множество примитивов, областей определённой формы, и т. д. Удачные представления данных облегчают решение конкретных задач — например, распознавания лиц и выражений лица[44]). В системах глубокого обучения автоматизирует сам процесс выбора и настройки признаков, проводя обучение признаков[en] без учителя или с частичным привлечением учителя, используя для этого эффективные алгоритмы и иерархическое извлечение признаков[en][45].

Исследования в этой области позволили усовершенствовать модели работы с большими объёмами немаркированных данных. Некоторые подходы возникли в результате достижений в области нейронаук, успехов интерпретации обработки информации, построения коммуникационных моделей в нервной системе, таких как нейронное кодирование, связанное с определением отношения между стимулом и нейронными реакциями и взаимосвязи электрической активности между нейронами в головном мозге[46].

Системы глубокого обучения нашли применение в таких областях, как компьютерное зрение, распознавание речи, обработка естественного языка, аудиораспознавание, биоинформатика, где для ряда задач были продемонстрированы существенно лучшие результаты, чем ранее.

Несмотря на успехи использования глубинного обучения, у него всё же есть фундаментальное ограничение: модели глубинного обучения ограничены в том, что они могут представлять, и большинство программ нельзя выразить в виде непрерывного геометрического морфинга многообразия данных[47].

Осталось, однако, и скептическое представление, что глубокое обучение — не что иное, как модное слово или ребрендинг для нейронных сетей[48][49].

  1. ↑ На самом деле, первые глубокие сети появились ещё в середине 1960-х: сети в виде глубоких перцептронов были описаны в работах советских учёных А. Г. Ивахненко и В. Г. Лапы — см. далее раздел «История».
  2. ↑ Исследователь нейронных сетей Джон Денкер (John Denker) в 1994 году заметил: «Нейронные сети — это второй лучший способ сделать практически что угодно».
  3. Ciresan, Dan; Meier, U.; Schmidhuber, J. Multi-column deep neural networks for image classification (англ.) // 2012 IEEE Conference on Computer Vision and Pattern Recognition : journal. — 2012. — June. — P. 3642—3649. — DOI:10.1109/cvpr.2012.6248110.
  4. ↑ Rina Dechter (1986). Learning while searching in constraint-satisfaction problems. University of California, Computer Science Department, Cognitive Systems Laboratory.
  5. Ивахненко А. Г., Лапа В. Г. Кибернетические предсказывающие устройства. — К.: «Наукова думка», 1965. — 216 с. — ISBN 978-5-458-61159-6.
  6. Yann LeCun et al. Backpropagation Applied to Handwritten Zip Code Recognition (неопр.).
  7. J. Weng, N. Ahuja and T. S. Huang. Cresceptron: a self-organizing neural network which grows adaptively // Proc. International Joint Conference on Neural Networks, Baltimore, Maryland, vol I, pp. 576-581. — June, 1992..
  8. J. Weng, N. Ahuja and T. S. Huang,. Learning recognition and segmentation of 3-D objects from 2-D images // Proc. 4th International Conf. Computer Vision, Berlin, Germany, pp. 121-128. — May, 1993..
  9. J. Weng, N. Ahuja and T. S. Huang,. Learning recognition and segmentation using the Cresceptron // International Journal of Computer Vision, vol. 25, no. 2, pp. 105-139. — Nov. 1997..
  10. de Carvalho, Andre C. L. F.; Fairhurst, Mike C.; Bisset, David (1994-08-08). An integrated Boolean neural network for pattern classification // Pattern Recognition Letters.. — С. 807–813. — DOI:10.1016/0167-8655(94)90009-4..
  11. Hinton, Geoffrey E.; Dayan, Peter; Frey, Brendan J.; Neal, Radford. The wake-sleep algorithm for unsupervised neural networks // Science. 268 (5214): 1158–1161.. — 1995-05-26. — DOI:10.1126/science.7761831..
  12. 1 2 S. Hochreiter. Untersuchungen zu dynamischen neuronalen Netzen // Diploma thesis. Institut f. Informatik, Technische Univ. Munich. Advisor: J. Schmidhuber. — 1991.
  13. Hochreiter, S.; et al. Gradient flow in recurrent nets: the difficulty of learning long-term dependencies // In Kolen, John F.; Kremer, Stefan C. (eds.). A Field Guide to Dynamical Recurrent Networks. John Wiley & Sons.. — 15 January 2001. — ISBN 978-0-7803-5369-5..
  14. Morgan, Nelson; Bourlard, Hervé; Renals, Steve; Cohen, Michael; Franco, Horacio. Hybrid neural network/hidden markov model systems for continuous speech recognition // International Journal of Pattern Recognition and Artificial Intelligence.. — 1993-08-01. — № 07 (4): 899–916. — ISSN 0218-0014. — DOI:10.1142/s0218001493000455.
  15. Robinson, T. A real-time recurrent error propagation network word recognition system. — ICASSP. Icassp'92: 617–620.. — 1992. — ISBN 9780780305328..
  16. Waibel, A.; Hanazawa, T.; Hinton, G.; Shikano, K.; Lang, K. J. Phoneme recognition using time-delay neural networks // IEEE Transactions on Acoustics, Speech, and Signal Processing. 37 (3): 328–339. — March 1989. — ISSN 0096-3518. — DOI:10.1109/29.21701. hdl:10338.dmlcz/135496.
  17. Baker, J.; Deng, Li; Glass, Jim; Khudanpur, S.; Lee, C.-H.; Morgan, N.; O'Shaughnessy, D. 2009. Research Developments and Directions in Speech Recognition and Understanding, Part 1 // IEEE Signal Processing Magazine.. — № 26 (3): 75–80. — DOI:10.1109/msp.2009.932166.
  18. Bengio, Y. Artificial Neural Networks and their Application to Speech/Sequence Recognition // McGill University Ph.D. thesis.. — 1991.
  19. Deng, L.; Hassanein, K.; Elmasry, M. Analysis of correlation structure for a neural predictive model with applications to speech recognition // Neural Networks. 7 (2). — 1994. — С. 331–339. — DOI:10.1016/0893-6080(94)90027-2.
  20. ↑ A Fast Learning Algorithm for Deep Belief Nets
  21. ↑ Bengio, Yoshua (2012), "Practical recommendations for gradient-based training of deep architectures", arΧiv:1206.5533 
  22. ↑ Announcement of the winners of the Merck Molecular Activity Challenge (неопр.).
  23. ↑ NCATS Announces Tox21 Data Challenge Winners (неопр.).
  24. Ciresan, Dan; Giusti, Alessandro; Gambardella, Luca M.; Schmidhuber, Juergen. Advances in Neural Information Processing Systems // Curran Associates, Inc.. — 2012. — С. 2843–2851..
  25. Ciresan, D.; Meier, U.; Schmidhuber, J. Multi-column deep neural networks for image classification // IEEE Conference on Computer Vision and Pattern Recognition. — 2012. — С. 3642–3649. — ISBN 978-1-4673-1228-8. — DOI:10.1109/cvpr.2012.6248110. — arXiv:1202.2745..
  26. Krizhevsky, Alex; Sutskever, Ilya; Hinton, Geoffry. ImageNet Classification with Deep Convolutional Neural Networks // NIPS 2012: Neural Information Processing Systems, Lake Tahoe, Nevada.. — 2012.
  27. Ciresan, D.; Giusti, A.; Gambardella, L.M.; Schmidhuber, J. Mitosis Detection in Breast Cancer Histology Images using Deep Neural Networks // Proceedings MICCAI. Lecture Notes in Computer Science. 7908 (Pt 2): 411–418.. — 2013. — ISBN 978-3-642-38708-1. — DOI:10.1007/978-3-642-40763-5_51. — PMID 24579167.
  28. ↑ "The Wolfram Language Image Identification Project". www.imageidentify.com. Retrieved 2017-03-22. (неопр.).
  29. Vinyals, Oriol; Toshev, Alexander; Bengio, Samy; Erhan, Dumitru. Show and Tell: A Neural Image Caption Generator // [cs.CV]. — 2014. — arXiv:1411.4555.
  30. Fang, Hao; Gupta, Saurabh; Iandola, Forrest; Srivastava, Rupesh; Deng, Li; Dollár, Piotr; Gao, Jianfeng; He, Xiaodong; Mitchell, Margaret; Platt, John C; Lawrence Zitnick, C; Zweig, Geoffrey. From Captions to Visual Concepts and Back // [cs.CV]. — 2014. — arXiv:https://arxiv.org/abs/1411.4952.
  31. Kiros, Ryan; Salakhutdinov, Ruslan; Zemel, Richard S. Unifying Visual-Semantic Embeddings with Multimodal Neural Language Models // [cs.LG]. — 2014. — arXiv:https://arxiv.org/abs/1411.2539.
  32. Zhong, Sheng-hua; Liu, Yan; Liu, Yang. Bilinear Deep Learning for Image Classification // Proceedings of the 19th ACM International Conference on Multimedia. MM '11. New York, NY, USA: ACM. — 2011. — С. 343–352. — ISBN 9781450306164. — DOI:10.1145/2072298.2072344.
  33. ↑ Why Deep Learning Is Suddenly Changing Your Life (неопр.). Fortune (2016. Retrieved 13 April 2018.).
  34. Silver, David; Huang, Aja; Maddison, Chris J.; Guez, Arthur; Sifre, Laurent; Driessche, George van den; Schrittwieser, Julian; Antonoglou, Ioannis; Panneershelvam, Veda. Mastering the game of Go with deep neural networks and tree search // Nature: 529 (7587):. — January 2016. — ISSN 1476-4687. — DOI:10.1038/nature16961. — Bibcode: 2016Natur.529..484S. — PMID 26819042.
  35. 1 2 Bengio, Yoshua. Learning Deep Architectures for AI // Foundations and Trends in Machine Learning. 2 (1): 1–127. — 2009. — DOI:10.1561/2200000006.
  36. Schmidhuber, J. Deep Learning in Neural Networks: An Overview // Neural Networks. 61: 85–117. — 2015. — DOI:10.1016/j.neunet.2014.09.003. — arXiv:1404.7828. — PMID 25462637.
  37. Szegedy, Christian; Toshev, Alexander; Erhan, Dumitru. Deep neural networks for object detection // Advances in Neural Information Processing Systems. — 2013. — С. 2553–2561.
  38. Hof, Robert D. Is Artificial Intelligence Finally Coming into Its Own? // MIT Technology Review. Retrieved 2018-07-10.
  39. 1 2 3 Deng, L.; Yu, D. Deep Learning: Methods and Applications (неопр.) // Foundations and Trends in Signal Processing. — 2014. — Т. 7, № 3—4. — С. 1—199. — DOI:10.1561/2000000039.
  40. 1 2 Bengio, Yoshua. Learning Deep Architectures for AI (неопр.) // Foundations and Trends in Machine Learning. — 2009. — Т. 2, № 1. — С. 1—127. — DOI:10.1561/2200000006. Архивировано 4 марта 2016 года. Архивная копия от 4 марта 2016 на Wayback Machine
  41. 1 2 3 Schmidhuber, J. Deep Learning in Neural Networks: An Overview (неопр.) // Neural Networks. — 2015. — Т. 61. — С. 85—117. — DOI:10.1016/j.neunet.2014.09.003. — arXiv:1404.7828. — PMID 25462637.
  42. Bengio, Y.; Courville, A.; Vincent, P. Representation Learning: A Review and New Perspectives (англ.) // IEEE Transactions on Pattern Analysis and Machine Intelligence (англ.)русск. : journal. — 2013. — Vol. 35, no. 8. — P. 1798—1828. — DOI:10.1109/tpami.2013.50. — arXiv:1206.5538.
  43. Bengio, Yoshua; LeCun, Yann; Hinton, Geoffrey. Deep Learning (англ.) // Nature. — 2015. — Vol. 521. — P. 436—444. — DOI:10.1038/nature14539. — PMID 26017442.
  44. Glauner, P. (2015). Deep Convolutional Neural Networks for Smile Recognition (MSc Thesis). Imperial College London, Department of Computing. arXiv:1508.06535.
  45. ↑ Song, Lee, Neural Information Processing, 2013
  46. Olshausen, B. A. Emergence of simple-cell receptive field properties by learning a sparse code for natural images (англ.) // Nature : journal. — 1996. — Vol. 381, no. 6583. — P. 607—609. — DOI:10.1038/381607a0. — Bibcode: 1996Natur.381..607O. — PMID 8637596.
  47. Francois Chollet. Chapter 9, Section 2 // Deep Learning with Python. — Manning, 2017. — 350 p. — ISBN 9781617294433.
  48. Deep Learning for Efficient Discriminative Parsing. Время от начала источника: 7min 45s.
  49. ↑ Gomes, Machine-Learning Maestro Michael Jordan on the Delusions of Big Data and Other Huge Engineering Efforts
  • Гудфеллоу Я., Бенджио И., Курвилль А. Глубокое обучение = Deep Learning. — М.: ДМК Пресс, 2017. — 652 с. — ISBN 978-5-97060-554-7.
  • Николенко С., Кадурин А., Архангельская Е. Глубокое обучение. — СПб.: Питер, 2018. — 480 с. — ISBN 978-5-496-02536-2.

Критика[править | править код]

глубокий - это... Что такое глубокий?

  • ГЛУБОКИЙ — ГЛУБОКИЙ, глубокая; глубокое; глубок, глубока, глубоко. 1. Имеющий значительное протяжение сверху вниз, большую глубину. Глубокий колодец. Глубокая река. Глубокий порез. Глубокая рана. Глубокая вспашка. || Находящийся на значительной глубине.… …   Толковый словарь Ушакова

  • глубокий — Бездонный. Прот. большой, сложный... Словарь русских синонимов и сходных по смыслу выражений. под. ред. Н. Абрамова, М.: Русские словари, 1999. глубокий …   Словарь синонимов

  • Глубокий Яр — топоним: Глубокий Яр посёлок в Кагальницком районе Ростовской области, Россия. Глубокий Яр село в Бахчисарайском районе Крыма, Украина. Глубокий Яр река в России, протекает в Краснодарском крае и Республике Адыгея …   Википедия

  • ГЛУБОКИЙ — ГЛУБОКИЙ, ая, ое; ок, ока, око и око; глубже; глубочайший. 1. Имеющий большую глубину (в 1 знач.), простирающийся на большую глубину. Глубокая река. Глубокое бурение. Глубоко (нареч.) нырнул. Здесь глубоко (в знач. сказ.). Г. порез. Г. выем (у… …   Толковый словарь Ожегова

  • глубокий — глубокий, кратк. ф. глубок, глубока, глубоко и глубоко, глубоки и глубоки; сравн. ст. глубже; превосходн. ст. глубочайший …   Словарь трудностей произношения и ударения в современном русском языке

  • глубокий — — [http://slovarionline.ru/anglo russkiy slovar neftegazovoy promyishlennosti/] Тематики нефтегазовая промышленность EN deep horizon …   Справочник технического переводчика

  • глубокий — 1 • изумительно глубокий • необычайно глубокий • очень глубокий • удивительно глубокий 2 • глубокий вздох • глубокий вырез • глубокий гипноз • глубокий знаток • глубокий интерес • глубокий кризис • глубокий мрак • глубокий обморок • глубокий… …   Словарь русской идиоматики

  • Глубокий — Глубокий  топоним: Содержание 1 Населённые пункты 1.1 Россия 1.2 Украина 2 Реки …   Википедия

  • глубокий — прил., употр. очень часто Морфология: глубок, глубока, глубоко и глубоко, глубоки и глубоки; глубже; нар. глубоко 1. Глубоким называют водоём, отверстие и т. п., дно которого очень далеко от его поверхности. Глубокое море, озеро. | Глубокая… …   Толковый словарь Дмитриева

  • Глубокий Юг — Темно красный цвет обозначает штаты, которые составляют глубокий юг сегодня. Прилегающие районы Восточного Техаса, Северной Флориды и Северо западной Флориды также считаются частью этого региона. Исторически слож …   Википедия

  • глубокий — глубок, ока, око, укр. глубокий, ст. слав.глѫбокъ βαthύς (Супр.), словен. globòk, чеш. hluboky, польск. gɫęboki, в. луж. hɫuboky, н. луж. gɫumoki. Сюда же приглубой глубокий , арханг. (Подв.), колымск. (Богораз). || Вероятно, снабженный носовым …   Этимологический словарь русского языка Макса Фасмера

  • глубина — Викисловарь

    Морфологические и синтаксические свойства[править]

    падежед. ч.мн. ч.
    Им.глубина́глуби́ны
    Р.глубины́глуби́н
    Д.глубине́глуби́нам
    В.глубину́глуби́ны
    Тв.глубино́й
    глубино́ю
    глуби́нами
    Пр.глубине́глуби́нах

    глу-би-на́

    Существительное, неодушевлённое, женский род, 1-е склонение (тип склонения 1d по классификации А. А. Зализняка).

    Корень: -глуб-; суффикс: -ин; окончание: [Тихонов, 1996].

    Произношение[править]

    • МФА: ед. ч. [ɡɫʊbʲɪˈna]  мн. ч. [ɡɫʊˈbʲinɨ]

    Семантические свойства[править]

    Значение[править]
    1. свойство по значению прилагательного глубокий; расстояние от поверхности до дна, до наиболее отдалённой точки или до определённой точки внутри чего-либо ◆ Палец, корка хлеба и язык очищали дно котелка или миски любой глубины. В. Т. Шаламов, «Колымские рассказы», 1954—1961 г. (цитата из Национального корпуса русского языка, см. Список литературы) ◆ На глубине примерно двух метров мы начинали нырять и заходили всё дальше и дальше, пока хватало дыхания. Ф. А. Искандер, «Время счастливых находок», 1973 г. (цитата из Национального корпуса русского языка, см. Список литературы)
    2. место, часть пространства на дне водоёма, впадины и т. п. ◆ Дельфин наносил удары носом в самые чувствительные части акульего туловища, и наконец акула остановилась, словно парализованная, перевернулась кверху брюхом и стала медленно опускаться в глубину. Сергей Жемайтис, «Большая лагуна», 1977 г. (цитата из Национального корпуса русского языка, см. Список литературы)
    3. прост. глубокое место в реке, море и т. п. ◆ Другой проплыл уж глубину, / С ружьем в руках, он вброд упрямо, / Не внемля крику моему, / Идет… А. С. Пушкин, «Братья разбойники», 1822 г. (цитата из Викитеки)
    4. перен. пространство, расположенное внутри, наиболее далеко от внешней границы, поверхности чего-либо ◆ Некоторые ушли в глубину сквера, где трава посвежее и тени погуще, зато оттуда гораздо дальше до платформы, и они, боясь пропустить электричку, послеживают за теми, что расположились поближе к выходу. Ф. А. Искандер, «Бедный демагог», 1969 г. (цитата из Национального корпуса русского языка, см. Список литературы)
    5. перен. сила, интенсивность чего-либо ◆ Как уловить в них молнию насмешки, бурю негодования, ярый пламень страсти, бездонную глубину святого чувства? В. А. Соллогуб, «Метель», 1849 г. (цитата из Национального корпуса русского языка, см. Список литературы)
    6. перен. серьёзность, наличие философского смысла
    Синонимы[править]
    Антонимы[править]
    1. -мель
    Гиперонимы[править]
    1. расстояние, величина
    2. место, область
    Гипонимы[править]

    Родственные слова[править]

    Этимология[править]

    Происходит от прилагательного глубокий, далее от праслав. *glǫb, *glǫbokъ-, от кот. в числе прочего произошли: ст.-слав. глѫбокъ (греч. βαthύς), русск., укр. глубо́кий, словенск. globòk, чешск. hluboký, польск. głęboki, в.-луж. hłuboky, н.-луж. głumoki. Сюда же приглу́бой «глубокий», арханг., колымск. Ср. без расширителя -okъ: глубь, глубина́. Сближают с праиндоевр. *glewǝbh- «резать, раскалывать». Ср. греч. γλύφω «выдалбливаю», лат. glūbō «лущу», др.-в.-нем. klioban, др.-исл. kliúfa «расщепляю, раскалываю», др.-в.-нем. klūbōn «раскалывать», kluft «расселина, пропасть». Использованы данные словаря М. Фасмера. См. Список литературы.

    Фразеологизмы и устойчивые сочетания[править]

    Перевод[править]

    место, часть пространства на дне водоёма, впадины и т. п.
    пространство, расположенное внутри, наиболее далеко от внешней границы, поверхности чего-либо

    Библиография[править]

    Глубина Глубокий | Что такое Глубина Глубокий

           Глубина как качество личности –  способность проникать в сущность объектов, явлений, процессов; вскрывать самые существенные, важные, содержательные качества, свойства, особенности, стороны кого-либо, чего-либо; достигать высокой степени проявления души, чувств, качеств личности; обладать богатым, серьёзным внутренним миром, лишенным поверхностности, легковерия и легкомыслия.  

          В одной старой индусской легенде рассказывается, что было время, когда все люди были Богами. Но они пренебрегали своей Божественностью…

          И Брахма, Верховный Бог, решил отнять у них Божественную Силу и спрятать в таком месте, где Ее нельзя было  бы отыскать. Однако найти подобное место было большой проблемой. И собрал Брахма вместе всех верховных Божеств, чтобы решить эту проблему. И они предложили: «Спрячем-ка Божественность под Землей!»   Но Брахма ответил: «Нет, это не подойдет. Человек начнет копать и снова Ее найдет». Божества предложили другой вариант: «Тогда бросим Ее в самую глубь Океана!» Но Брахма снова ответил «Нет. Рано или поздно человек исследует глубины океана и, найдя Ее, вынесет на поверхность».

          Божества зашли в тупик, они не знали, где они могли бы спрятать Божественность. И казалось, что нет такого места на Земле или в Море, которое было бы недосягаемо для человека. Но тут возразил Брахма: «Вот что мы сделаем с Божественностью: Мы спрячем Ее в глубине самого человека, потому что это единственное место, где он никогда не будет искать».  С тех пор носится человек по Земле, чтобы исследовать ее всю: с тех пор он ищет, поднимается и спускается, ныряет и копает в поисках вещи, которую можно найти только внутри себя!

           Человек – глубокое существо, глубину которого не измеришь Марианской впадиной. Глубина внутреннего мира человека измеряется глубиной его вечной души. Мы привыкли измерять жизнь длиной, а было бы правильнее измерять её глубиной. В отличие от длины, глубина жизни зависит от самого человека. Ралф Эмерсон пишет: «Мы просим себе долгой жизни, а между тем значение имеют только глубина жизни и ее высокие мгновения. Будем же измерять время мерой духовной!» Только на глубинных уровнях можно отыскать сущность кого-то или чего-то. Сущность является. Но разглядеть это в нагромождении фактов, чрезвычайно сложно. Нужен глубокий анализ, абстрагирование.

           Есть два типа личности – те, кто удовлетворяется поверхностным, легковерным видением мира и те, кто ищет глубину, то есть системно подходят в человеку, явлению, процессу, анализируют его со всех сторон, стараясь вскрыть причинно-следственные связи, качества,  функции, свойства, особенности, внутренние и внешние факторы, оказывающие на него влияние.

           В межличностном общении человек, уважая своего визави, стремится достичь глубины общения, то есть, не формальных отношений типа: — Ну, как дела? — а доверительных, близких отношений. Это возможно только если есть уважение. Когда уважения нет, и мужчина, и женщина начинают искать новизны. Ради молоденького тела, свежатины бросают своих жён и детей.

           Человек живёт в иллюзии, что если он поменяет жену, работу, город, страну, то всё обязательно изменится к лучшему.  Ничего не изменится. Подход поверхностный. Нет глубины. Не меняя себя, ничего к лучшему не изменишь. Если первый муж пил, то второй, скорее всего, будет пить и гулять, а третий, наверняка, ещё и бить станет.   Есть такой анекдот: Я пятый раз замужем и пятый муж бьёт меня по морде. В чём дело, не пойму – может быть, дело в морде?

          Философ Вячеслав Рузов пишет: «Есть вертикальная карьера и горизонтальная карьера. Вертикальная карьера, когда я пытаюсь получить новые погоны, новую должность, новые преимущества, новые возможности. Но я, тем не менее, не меняюсь. То есть я остаюсь тот же, но с новыми погонами. Под новыми погонами тот же самый человек. В сердце ничего не изменилось. Поэтому вертикальная карьера не несет в себе настоящего эффекта. Поэтому все плохо заканчивается. Известна ещё горизонтальная карьера. Горизонтальная карьера, когда мы растем как профессионалы. Когда мы углубляем свой профессионализм. Если к нам приходит какое-то подтверждение нашего профессионализма, мы рады. Если нет — мы счастливы внутренне. Поэтому мы всегда должны быть уважительны к тому, кого мы слушаем, и это уважение даст нам возможность понимать глубже. Иначе мы будем бегать по верхам, по верхушкам. Но глубины никогда не увидим. Это уважение дает возможность извлекать благо».

          Чем больше общаешься с  целостной, зрелой, гармоничной личностью, тем глубже она раскрывается. Это как хорошая книга. Перечитываешь и каждый раз открываешь для себя что-то новое, вникаешь в смысл книги всё глубже и глубже. Если прочитал книгу и не хочется её перечитывать, значит, это была не книга, а толстая бульварная газета, оформленная под книгу. Словом, разумный человек идёт по пути углублённого изучения человека, процесса, явления. Неразумный человек, верхогляд познаёт мир поверхностно,  ему подавай новенькое, он идёт по жизни, как кот — хвастун, который заявлял: — Я сегодня за один день своими лапами прошел семь классов, не пропуская ни одного, медленно, не торопясь. А глупые дети тратят по году на класс.

         Поверхностный человек, придя в Эрмитаж, озабочен мыслью, как бы всё быстрее обегать. С высунутым языком он перебегает из зала в зал. Главное сказать всем, что был в Эрмитаже. Глубокий человек  может придти ради одной картины, и ему будет этого достаточно, чтобы  удовлетворить свои духовные запросы.

          Информационный подход к познанию ничего не даёт для мудрости, духовного роста. Сердце от поверхностного видения мира не очищается. Глубокий человек ищет то, что заставит его сердце очиститься. Если информация конечна, то глубина познания бесконечна. Погрузившись в глубину кого-то или чего-то, получаешь возможность применять информацию на практике, сделать её частью своего жизненного опыта.

          Всегда ли глубина благо? Не секрет, что женщина глубже чувствует и переживает, то есть в этом плане она глубже устроена, чем мужчина. Некоторые духовные традиции говорят, что женщина в 9 раз могущественнее мужчины в плане способностей чувствовать и различать. В этом есть и преимущество и недостаток. Например, слово «любовь», «развод», «одиночество»  для разных полов звучит и воспринимается по-разному. Женщина при этих словах может заплакать. Вне любви женщина не может раскрыть свои лучшие качества личности, не может самореализоваться и самовыразиться. Она без любви никто и зовут ее никак. Женщина глубже устроена. В этом её жирный плюс и не мене жирный минус. Как жизнь пойдёт. В отличие от мужчина она в 9 раз зависимее и не свободней. Мужчина переживает одиночество, развод, но несравненно легче, более поверхностно. Обычно мужчину не интересует брошенная им женщина. Ему всё равно, с кем она живёт и спит. Женщину продолжает интересовать судьба первого мужа, ей, как правило, не всё равно, как он живёт и с кем спит. Мужчина не видит повода расстраиваться из-за развода, его не нужно успокаивать, ибо у него нет такой глубины чувств и переживаний, как у женщины.  Вообще многие духовные традиции говорят, что мужчина – это такая простая форма жизни, которая может жить под деревом. Ему ничего не нужно самому, если он холостяк он под деревом может жить.

         Глубина нужна человеку во всех сферах своего бытия, например в сосредоточенности.

        Одна деревенская индийская девушка проходила по полю, где религиозный человек возносил свои молитвы. Закон религии не позволяет пересекать такое место. Когда девушка шла обратно, религиозный человек сказал: – Как ты грубо поступила, о девушка, ведь это грех – проходить по тому месту, где человек возносит молитвы. Она остановилась и спросила:  – Что вы имеете в виду под молитвами? – Молитвами? – воскликнул он. – Ты что, не знаешь, что они означают? Возносить молитвы – это думать о Боге. Девушка спросила: – Как же вы увидели меня, если думали о Боге? Когда я проходила здесь, я думала о своем молодом человеке и поэтому не заметила вас.

          Огромное значение для человека имеет глубина веры.

          Однажды молодой монах шёл со своим учителем по берегу моря и задавал ему разные вопросы. Но на самом деле ему больше всего хотелось узнать, что думает старец о крепости его веры и на самом ли деле считает его лучшим из своих учеников? Ведь только его одного святой авва взял с собой в дальний поход, и они весь день, не зная отдыха, провели в пути… — Авва, мне очень хочется пить, — попросил ученик. Старец остановился, сотворил молитву и вдруг сказал: — Пей из моря. Ученик послушно зачерпнул из моря горсть воды и чуть не закричал от радости: морская вода на вкус была не солёной и горькой, а сладкой, словно из родника. Он бросился к морю, чтобы наполнить чудесной водой свой сосуд на тот случай, если по дороге ему снова захочется пить. — Что ты делаешь? — удивился старец. — Или ты сомневаешься, что Бог не только здесь, но и повсюду? Ученик снова отхлебнул из своего сосуда и тут же выплюнул: теперь вода была вовсе непригодной для питья. — Вот видишь, брат, пока что глубину твоей веры можно измерить одним глотком воды, — сказал старец, разом ответив на все его вопросы.

    Петр Ковалев
    Другие статьи автора: https://www.podskazki.info/karta-statej/

    About Author


    admin

    Отправить ответ

    avatar
      Подписаться  
    Уведомление о