Краткая история
Говорить «история нейросетей» было бы не совсем верно, поскольку человеческий головной мозг фактически представляет собой крайне сложную нейронную сеть, и его история — один из аспектов эволюции. Первые эксперименты в области искусственных нейронных сетей (далее — ИНС) относятся к 1940-м годам, и ставились они именно с целью моделирования и изучения человеческого мозга.
1943 год. Нейропсихолог Уоррен Мак-Каллок и нейролингвист Уолтер Питтс создали первую рабочую искусственную нейросеть. Несмотря на примитивность первых ИНС, нейроны которых могли оперировать только двоичными числами, их потенциал считался огромным за счёт возможности самообучения.
1960 год. Более пятнадцати лет ушло на создание первого нейрокомпьютера, или персептрона «Марк-1», который был разработан психологом и нейрофизиологом Фрэнком Розенблаттом. Устройство с помощью фотоэлементов могло распознавать отпечатанные на карточках буквы.
Первый нейрокомпьютер «Марк-1» Первый нейрокомпьютер «Марк-1»
1969 год. Учёные Марвин Мински и Сеймур Пейперт показали существенные ограничения искусственных нейронных сетей. Помимо элементарного недостатка ресурсов для решения по-настоящему сложных задач, ИНС были неспособны реализовать, некоторые простые логические функции, например, «исключающее ИЛИ».
1982 год. Реализован полноценный двусторонний обмен данными между соседними нейронами, что ещё больше расширило возможности ИНС. Фактически, единственным ограничением оставались ресурсы компьютеров, которые всё ещё были слишком слабы для сколь-нибудь серьёзных задач.
1980-е годы. Разработана NETtalk — первая нейросеть, получившая широкое распространение. В задачи сети входило изучение произношения английских букв в слове в зависимости от контекста — соседних букв. На её основе также изучался механизм обучения нейросетей, причём не только искусственных. В следующие десятилетия нейросети усложнялись, появлялись их новые типы для решения разных задач. Параллельно развивался Интернет — то есть шло накопление структурированных данных, необходимых для работы ИНС. И самое важное — росла производительность компьютеров.
Сегодня несложная нейросеть способна функционировать на не самых мощных серверах или даже в смартфонах, выполняя задачи, которые ещё в конце прошлого века с трудом решали суперкомпьютеры.
Принцип работы — на пальцах
На сегодняшний день считается, что человеческий мозг состоит примерно из 86 миллиардов нейронов, между которыми существует синаптическая (говоря грубо — электрическая) связь. Искусственные нейросети, даже самые мощные и масштабные, намного «беднее» и, следовательно, намного менее производительны — они по-прежнему претендуют в лучшем случае на модель мозга, но никак не на полноценный искусственный мозг.
Схематичное изображение нейронной связи в мозге человека Схематичное изображение нейронной связи в мозге человека
Классическая и самая простая нейронная сеть, или персептрон, выглядит очень просто: есть слой нейронов-рецепторов, которые принимают информацию извне. В зависимости от настроек, они либо передают сигнал дальше в сеть, либо нет. Следующий слой нейронов принимает сигналы с рецепторов (как правило, нескольких), обрабатывает их в соответствии с заданным алгоритмом и, если результат достигает определённого — порогового — значения, передают информацию дальше, выходному слою нейронов, которые и выдают результат.
Схема строения персептрона Схема строения персептрона
Учитывая структуру ИНС — множество нейронов, разделённых на слои — любая подобная сеть производит параллельные вычисления. Некую последовательность даёт слойность, но весьма условную и фактически нивелируемую двусторонним обменом данных между нейронами на разных слоях.
Также важно отметить, что каждый нейрон обладает так называемым весовым коэффициентом — говоря простым языком, коэффициентом значимости для нейронов, с которыми он связан. Именно это и определяет важнейшую функцию ИНС — способность самообучаться.
Почему сеть — нейро?
Классические компьютеры программы действуют на основе алгоритмов. ЕСЛИ {набор условий} ТО {выполнить набор действий}.
В некоторых случаях, например в компьютерных играх, необходимо добавить реалистичности, непредсказуемости. Компьютерный противник может попасть или промахнуться при выстреле, побежать налево или направо, погода может «неожиданно» поменяться. Для организации таких эффектов задействуется генератор случайных чисел — т. е. события в программе-игре развиваются вроде бы непредсказуемо, но на самом же деле это лишь имитация, никак не выходящая за рамки заранее заданного алгоритма.
Наш мозг (и нейросети) функционируют принципиально по-другому. Мозг состоит из огромного числа нейронов, каждый из которых разумом не обладает и способен лишь на простейшее действие — принять электрический сигнал и передать его дальше по одному из нервных отростков. Результатом этого становится некоторая «осознанная» реакция (про кавычки в слове «осознанная» я объясню чуть дальше).
И если физиологическое строение мозга дано нам от природы, то дальнейшее функционирование зависит от обучения. Собственно говоря обучение — это и есть процесс формирования устойчивых нейронных связей. Заранее заданных алгоритмов у человека нет, а формирование нейронных связей начинается еще в утробе матери. После рождения на мозг обрушивается бесконечное число внешних раздражителей — и процесс обучения многократно ускоряется и продолжается всю жизнь, хотя наиболее активно идет до 20-25 лет.
Ребенок и взрослый или двое взрослых в одинаковых ситуациях примут разные решения — все дело в настройке тех самых упомянутых выше нейронных связей. Некоторые ученые сравнивают мозг с системой из почти бесконечного числа трубопроводов на которых расположены многочисленные задвижки. «Задвижки» выставляются в ответ на внешние раздражители, «вода» (в случае с мозгом электрический сигнал) течет по сформированному для нее пути — и на выходе получается какое-то действие, которое мы и считаем собственным решением.
Вариаций таких решений бесконечное множество, и нам кажется, что выбор мы делаем самостоятельно, обладаем свободой воли. Утверждение это неоднозначное, во всяком случае ученые-исследователи в этом не уверены. Тут можно привести пример с детьми-маугли, которые были воспитаны животными (таких случаев в истории немало). Ключевой момент — при возвращении в человеческое общество такие дети в будущем не смогли адаптироваться. Все их поведение было обусловлено нейронными связями, сформированными в иных, «животных» условиях. Это и заставляет сомневаться в наличии истинной свободы в принятии решений — окружающая среда изменилась, а мозг, сформированный в иных условиях обучения, поменяться уже не мог. И получается, что все наше поведение и «вроде как самостоятельность» в значительной мере предопределены ранее сформированными связями между нейронами.
Как и мозг, нейронная сеть состоит из некоторого числа «простых процессоров», искусственных нейронов. Каждый из них способен лишь на элементарные действия — переправить поступивший сигнал дальше. Но объединенные в единую сети эти нейроны могут решать сложнейшие трудноформализуемые задачи.
Например, с распознаванием лиц алгоритмические программы справляются очень плохо — невозможно создать столь подробный алгоритм, который учтет все возможные варианты. А вот наш мозг — и нейронные сети — лица распознают быстро и точно.
Перед началом работы нейросеть обучается — на вход подается учебная выборка объектов, по которым известен правильный/желаемый результат. После настройки нейронных связей сеть начинает принимать решения самостоятельно, успешно анализируя даже те объекты, с которыми ранее не сталкивалась.
Итак, повторю ключевую мысль данного раздела: есть два принципиально разных подхода к работе компьютерных программ — алгоритмический и нейросетевое обучение. И если «обычный» компьютер многое умеет, но разумом ни в коей мере не обладает, то искусственный интеллект — это уже нечто совершенно иное.
Суть обучаемости ИНС
Прежде всего, что такое обучаемость? Грубо говоря, это способность понять, что конечный результат неверный, и изменить действия для получения верного в этой и аналогичных ситуациях. Как это делает нейросеть? Точно так же, как нейроны в человеческом мозге: в зависимости от поступающей информации, интенсивность синаптической связи между ними может изменяться. В ИНС каждый нейрон обладает определённым весовым коэффициентом, который изменяется в зависимости от правильности/неправильности полученного результата.
Правильность ответа определяется человеком или классической (то есть не нейро-) программой на основе обучающей выборки с метками (например: «Это — машина. Это — не машина»). Имея некое количество правильных ответов, ИНС может дать верный результат вне обучающей выборки. Такое машинное обучение называется обучением с учителем.
Пример формирования простейшей выборки правильных ответов Пример формирования простейшей выборки правильных ответов
В простой ИНС с минимальным количеством «двоичных» нейронов такое обучение занимает очень много времени, а результат слишком незначительный. Поэтому с годами ИНС становились всё сложнее: появлялись дополнительные скрытые слои (в каждой функциональной единице человеческого мозга их всего шесть), а достижением, определяющим будущее ИНС, стали нейроны с двусторонней связью. Такие нейросети получили название рекуррентных, в них нейроны «перекидывают» информацию между собой по несколько раз, меняя свои весовые коэффициенты, до тех пор, пока последний слой не выдаёт правильный ответ. Правильность ответа регулируется автоматически на основе анализа данных обучающей выборки без каких-либо меток. Это обучение без учителя. Когда нейросеть выдаёт результат и только потом получает информацию о его правильности/неправильности — это обучение с подкреплением.
Упрощённая схема многослойной нейросети с обратной нейронной связью Упрощённая схема многослойной нейросети с обратной нейронной связью
Выбор типа обучения той или иной ИНС определяется задачами, для которой создаётся сеть. Обучение с учителем идеально для определения объектов на фотографии; без учителя — для задач структуризации, упорядочивания больших объёмов данных; с подкреплением — для прогнозирования, когда входные данные постоянно меняются.
Кроме классификации по способу обучения, сети делятся на разные виды по структуре, характеру связей, типу входных данных и другим характеристикам.
Скажем, для распознавания изображений используются так называемые свёрточные сети. Принцип их работы почерпнут из принципов работы зрительной коры мозга. От конкретных особенностей изображения нейросеть переходит к более абстрактным деталям, и далее к ещё более абстрактным деталям вплоть до выделения понятий высокого уровня. В качестве примера рассмотрим ИНС, анализирующую данные с дорожной камеры видеонаблюдения. Её первая задача — определить автомобиль в кадре. Затем следующие задачи: скорость автомобиля, пристёгнут ли ремень безопасности, не числится ли машина в угоне (для этого нужно считать номер и провести сверку с базой данных) и так далее. Опционально: определить цвет и марку автомобиля (если он в угоне), найти информацию о водителе, владельце. Всё это способна сделать одна правильно обученная свёрточная нейросеть при наличии достаточного количества ресурсов.
Возникает логичный вопрос: каков вообще теоретически известный предел развития нейросетей, насколько «умными» они могут стать? Мы решили задать этот вопрос специалисту по ИНС.
«Есть два серьёзных ограничения — количество различных данных для обучения и вычислительные мощности, на которых можно учиться. Нейросети могут решать задачи с понятными условиями и понятными критериями успешности. Например, в распознавании голоса есть понятный критерий качества: количество правильно распознанных слов. А в задаче написания литературного произведения непонятно, как оценивать прогресс, поэтому такая задача для обучения нейронной сети пока видится нерешаемой», — руководитель службы компьютерного зрения «Яндекса» Александр Крайнов.
Области применения
Если сводить все области, в которых сегодня применяются ИНС, получится приличная энциклопедия. Например, в электронном видоискателе определение лица, улыбки, жеста, движения — всё это работа нейросети. В основе нашумевшего приложения Prisma лежит ИНС. Перевод с иностранного языка и обратно, определение текста на фото, голосовые ассистенты, рисование котиков на основе скетчей — всё это… ну, вы поняли. Активно используются ИНС и в поисковых сервисах, и в беспилотных автомобилях.
«В Яндексе нейросети используются, чтобы делать самые разные сервисы лучше. Например, в поиске (чтобы лучше понимать смысл пользовательских запросов), при модерации рекламы на соответствие картинок и текста, в поиске по картинкам (понимает, что изображено на картинке с помощью компьютерного зрения), при фильтрации взрослого контента, а также в комплексе речевых технологий SpeechKit. SpeechKit, в частности, работает в голосовом помощнике Яндекса, который недавно появился в бета-версии, а нейросети в компьютерном зрении помогают беспилотным автомобилям Яндекс.Такси», — руководитель службы компьютерного зрения «Яндекса» Александр Крайнов.
Автомобиль-беспилотник Яндекса Автомобиль-беспилотник Яндекса
Для удобства объединим вышеперечисленное в категорию потребительского использования ИНС — чрезвычайно обширную, но не единственную. Учитывая, что человеческий мозг — по-прежнему загадка для человека, нейропсихологами, нейролингвистами и прочими нейроспециалистами ведётся активное изучение разума и интеллекта, в том числе с помощью ИНС. Так, компания IBM и Швейцарский федеральный технический институт Лозанны в 2005 году запустили Blue Brain Project, в рамках которого надеются создать максимально точную компьютерную модель человеческого мозга. Ещё один любопытный эксперимент, но попроще, IBM провела совместно с компанией «Двадцатый век фокс»: они «показали» суперкомпьютеру Watson фильм, тот довольно точно определил наиболее эмоциональные его фрагменты и смонтировал трейлер.
Разумеется, ИНС активно помогает осваивать новые технологии и развивать существующие. Взять хотя бы те же беспилотные автомобили, в которых нейросети в режиме реального времени анализируют окружающую обстановку. IBM Watson из года в год открывает для себя всё новые области, включая медицину. В Google существует целое подразделение, которое занимается непосредственно искусственным интеллектом… Стоп. Значит, нейросети всё-таки успели стать искусственным интеллектом или, по крайней мере, есть такая вероятность в будущем? Снова обращаемся к специалисту.
«Можно сказать, что ИИ — это глубокие (многослойные) нейронные сети, решающие сложные задачи на уровне, близком к уровню человека, и, в той или иной степени, «самообучающиеся». Причём «самообучение» в данном случае — способность самостоятельно извлекать полезный сигнал из «сырых» данных. Вообще же вопрос того, что можно назвать искусственным интеллектом, а что нет, — это скорее предмет договорённостей. Человечество, по большому счёту, так и не пришло к однозначной формулировке, что такое интеллект вообще, не говоря уже об искусственном», — руководитель службы компьютерного зрения «Яндекса» Александр Крайнов.
Шаг 1: Всё началось с тупого словаря (50-е)
Первая попытка «машинного перевода» в 50-х — это был чистый пиар для освоения военных бюджетов. Инженеры IBM взяли 250 русских слов, 6 грамматических правил и сделали электронный словарь, который просто заменял русские слова на английские. Результат был бестолковым, но пресса взорвалась: «Через пару лет проблема перевода будет решена!». Не решили. Прошло 70 лет, а мы все еще тут.
Шаг 2: Геймеры и майнеры (неосознанно) оплатили AI-революцию
Прорыв случился, когда появились нейросети для картинок. Идея была простой: если взять фотку кошки, математически ее «свернуть» много-много раз, то на выходе получится крошечная абракадабра — самая суть кошки. И эта «суть» у всех кошек будет похожей. Так нейросети научились отличать кошек от собак.
Но была проблема: чтобы научить сеть, нужны были сотни тысяч картинок и чудовищные вычислительные мощности. И тут случились два чуда:
- Геймеры: Чтобы рендерить графоний в играх, придумали GPU — видеокарты, которые умеют делать тысячи вычислений параллельно.
- Майнеры: Чтобы грести крипту, им понадобились те же самые GPU, только в промышленных масштабах.
Спрос от геймеров и майнеров создал рынок и профинансировал разработку идеальных «ускорителей» для нейросетей. Каждый, кто покупал видеокарту для Cyberpunk, неосознанно инвестировал в будущее ChatGPT.
Шаг 3: Как вы бесплатно работали на OpenAI, листая котиков
Окей, железо есть. А где взять миллионы размеченных картинок? «Это кошка», «это собака». И тут на сцену вышли соцсети.
Группы любителей котиков, паблики с собаками — это все гигантские, идеально размеченные датасеты. Каждый раз, когда вы загружали фото своего питомца в нужный альбом, вы бесплатно работали на будущие AI-корпорации, размечая для них данные.
Позже появился трюк Transfer Learning. Зачем обучать нейросеть с нуля на дорогих медицинских снимках? Можно взять уже обученную на миллионах кошек и собак сеть (которую за вас обучили пользователи соцсетей), а потом просто «доучить» ее на небольшой выборке рентгеновских снимков. Эффективность, за которую заплатили вы.
Шаг 4: Попугаи, мёртвые языки и рождение GPT
С текстами все было сложнее. Первые нейросети-переводчики были похожи на попугая Кешу: они заучивали самые частые связки слов и выдавали их к месту, не понимая смысла. Их назвали рекуррентными.
Прорыв случился, когда словам научились придавать смысл в виде чисел (векторов или эмбеддингов). Идея гениальна в своей простоте: смысл слова — это то, как часто оно встречается рядом с другими словами. «Король» и «королева» будут иметь близкие векторы, а «король» и «капуста» — далекие.
Но настоящая революция — это трансформеры (Transformer). Их научили угадывать следующее слово в предложении. А чтобы понимать смысл, слова начали резать на кусочки — токены. Оказалось, что токены в разных языках имеют аналоги! «Вода», “water”, “wasser” — это разные слова, но смысловой токен у них общий.
Так родилась модель, которая могла генерировать текст, была предобучена на всех текстах человечества и использовала архитектуру трансформера. Generative Pretrained Transformer. GPT. И да, одним из ее создателей был наш соотечественник Илья Суцкевер.
Шаг 5: Как из бредогенератора сделали послушного ассистента (Спойлер: кнутом и пряником)
Ранние GPT были гениальны, но страдали «словесным поносом». Их несло в потоке шизофренического бреда. Решение пришло из робототехники — обучение с подкреплением (Reinforcement Learning).
OpenAI наняла армию людей, которые оценивали ответы нейросети: вот это хороший ответ (пряник), а вот это — бред (кнут). Постепенно модель научилась фильтровать чушь и стала послушной. Этот метод назвали RLHF (Reinforcement Learning from Human Feedback).
И вот ключевой, немного неприятный вывод: интеллект начинается с послушания. Без способности следовать инструкции машина (да и человек) — просто генератор хаоса.
Шаг 6: RAG, Агенты и почему ChatGPT до сих пор не умеет считать
Современный AI — это не одна большая модель, а конструктор из разных подходов.
- «Контекстное обучение»: У ChatGPT нет памяти. Каждый раз, когда вы пишете сообщение, ему на вход отправляется вся история вашего диалога. Он не помнит, он перечитывает.
- RAG (Retrieval Augmented Generation): Хотите, чтобы нейросеть отвечала по вашим документам? Вы создаете векторную базу данных, и перед каждым ответом система находит в ней релевантные куски и «скармливает» их модели вместе с вашим вопросом. Она не «знает» ваши данные, она «подглядывает» в них.
- Агенты: Нейросети плохо считают. Поэтому их научили вызывать внешние инструменты: писать и запускать код на Python для расчетов, делать поиск в Google, обращаться к базам данных. Это и есть «агенты» — когда у LLM появляются «руки» и «инструменты».
Сейчас мы находимся на этом этапе. Гиганты строят все более мощные модели, но главная работа происходит в «обвязке» — как научить этих гипер-гуманитариев работать с реальным миром цифр, таблиц и инструментов.
P.S. Этот разбор — фундамент. Он помогает понять, как все устроено. Но чтобы понимать, что на этом фундаменте строят прямо сейчас, нужно постоянно держать руку на пульсе.
Появится ли в ближайшие 15 лет ИИ, равный по интеллекту человеку?
- Да, но потребует столько ресурсов, что не будет нам конкурентом 11%
- Появится, но мы не сможем его понимать и общаться с ним 6%
- Да, у нас скоро будет «брат по разуму» 12%
- Нет, это дело более отдаленного будущего 48%
- Он уже появился, только пока прикидывается шлангом 23%
Обладает ли искусственный интеллект настоящим разумом?
Ученые и философы до сих пор спорят, что такое разум. По некоторым определениям, разум — это врожденная способность к творчеству. Слово «творчество» в данном случае употребляется в максимально широком смысле, т. е. это способность создавать что-то новое (и необязательно в сфере искусства). Но объяснение по поводу врожденной способности ничего на самом деле не объясняет. Если эта способность есть у человека и даже у высших животных, то почему ее не может быть искусственного интеллекта?
Как-то в интернете я встретил утверждение, которое, пожалуй, наилучшим образом описывает восприятие искусственного интеллекта на бытовом уровне: «Пока ИИ не создаст что-то свое — космический корабль или песню чижик-пыжик — никакой это не интеллект, а так, компиляция информации из разных источников, не более того».
В предыдущем разделе я уже объяснил, что ИИ вовсе не собирает информационную базу данных, он таки эти данные реально переосмысливает. Но давайте пройдемся по конкретным примерам, чтобы лучше понять истинную разумность ИИ.
Нейросетевые картины. Арты нейросетей — это уже отдельный вид искусства. Вообще, что отличает картину художника от фотографии? Фото точнее передает действительность, но картина неким неуловимым образом вызывает более сильные эмоции.
Картины нейросетей зачастую другие, чем человеческие — но эмоции вызывают и они. А если поставить задачу создать картину в определенном стиле, например, имитировать работу масляными красками — то отличить продукт искусственного разума от работы живого художника будет не всегда возможно.
Нейросетевые тексты. Здесь я использовал наблюдение за развлекательными порталами. Значительная часть текстов в категории «истории из жизни, о которых невозможно молчать» созданы нейросетями. И эти истории получают лайки, выходят в «горячее», активно обсуждаются живыми пользователями.
Некоторые написаны достаточно топорно и имеют логические нестыковки, позволяющие заметить нейросетевой след. Другие выполнены так, что определить точное авторство не представляется возможным.
Иными словами, песня чижик-пыжик из цитаты выше — вполне себе создана искусственным интеллектом и людям нравится. Теперь перейдем к высоким технологиям.
Анализ медицинской информации. Искусственный интеллект уже широко применяется для анализа снимков компьютерной томографии. В сложных случаях именно ИИ позволяет предположить редкие диагнозы, с которыми обычный доктор в своей практике почти не сталкивается.
И чем же в таком случае поведение ИИ отличается от поведения опытного профессора, к которому более молодые коллеги обращаются за помощью? И можно ли сказать, что ИИ — всего лишь компьютерная симуляция, разумом не обладающая?
В целом на данный момент считается, что искусственный интеллект не обладает разумом в человеческом понимании этого слова. Но грань между естественным и искусственным разумом уже достаточно размытая. Исследователи полагают, что возникновение по-настоящему разумного ИИ (его обозначают аббревиатурой ASI — Artificial Super Intelligence), обладающего сознанием и самосознанием, лишь вопрос времени и дальнейшего развития нейросетевых технологий. ASI уже будет способен не только решать различные прикладные задачи, но и разрабатывать новые метода познания, изучения, исследования.
Ошибки ИИ — врожденный дефект или преходящие проблемы взросления?
Ошибка, которая более всего на слуху — неправильное количество пальцев на сгенерированных изображениях людей. Однако, проблема эта уже почти перестала быть актуальной — буквально за последний год нейросети научились не допускать таких ляпов.
Один из докторов в недавнем интервью рассказывал о своем опыте тестирования ChatGPT. С его слов нейрость давала очень качественные ответы на общемедицинские темы, и абсолютно ужасные и даже опасные рекомендации по узкоспециализированным тематикам.
И это интересный феномен. Вместо того, чтобы ответить «не знаю», нейросеть таки давала внешне логичный, хотя и в корне неверный ответ. И есть в этом нечто очень даже человеческое — кто из нас не сталкивался с людьми, уверенно рассуждающими на любые темы? Вероятнее всего, искусственный разум уже посчитал, что обладает достаточными знаниями для ответа.
На основе таких ошибок и ляпов зачастую делается вывод, что ИИ никогда не сможет полностью заменить человека. Но следует учесть, что нынешние нейрости — это еще, по сути, новорожденные младенцы, не раскрывшие и сотой доли своих возможностей. Все самое интересное ждет нас в будущем — и перспективы на данный момент в полной мере даже и представить себе невозможно.
Возможно ли восстание машин?
Мой личный опыт работы с искусственным интеллектом небольшой, но все же есть. Дипломная работа, написанная ни много ни мало четверть века назад, была посвящена обработке изображений при помощи нейросетей.
25 лет назад про ИИ массово никто не говорил. Конечно, все про него слышали, но о том, что нейросети скоро станут частью нашей жизни мало кто задумывался. В том числе и я сам — парадоксально, но за все 5 лет обучения в универе никаких курсов, посвященных искусственному интеллекту у нас не было, впервые я с этим столкнулся именно при выборе направления дипломной работы. И начав погружаться в тему, я с удивлением понял, что все мои представления об ИИ предельно далеки от действительности. И, кстати, большинство людей и сейчас воспринимают ИИ ошибочно — как и я тогда.
Самый яркий образ искусственного интеллекта был представлен, безусловно, в фильме «Терминатор». И пересматривая этот фильм уже во взрослом (но еще студенческом) возрасте я на концепцию восстания машин смотрел свысока и с некоторой насмешкой. Будучи программистом я твердо и однозначно понимал — ну не может «машина» действовать «по своей воле». Ведь программу пишет человек и никакие заранее не заложенные в алгоритм реакции попросту невозможны.
Как же я ошибался! Как говорится, чем меньше человек знает, тем более убежден он в свой (не)правоте. Прозрение, вызвавшее у меня некоторый даже шок, как раз и наступило после создания первой тестовой простенькой нейросетки. Я неожиданно осознал, что она работает принципиально по-другому, чем все «обычные» компьютерные программы.
Мир полудня или оруэлловская антиутопия?
Возникает и интересный экономический вопрос — внедрение ИИ позволит радикально удешевить производство товаров и услуг, но кто будет эти товары и услуги покупать? Сейчас то люди работают, чтобы заработанное потом потратить — а как все это будет выглядеть в новых условиях я не способен представить. Или формула коммунизма «от каждого по способности — каждому по потребности» сократится до второй части — и каждый таки будет получать «по потребности» просто так?
Ждет ли нас в будущем Мир полудня — общество благоденствия и процветания, описанное Стругацкими, или жесткая антиутопия, в которой все ресурсы будут сосредоточены в руках мега-корпораций, слившихся и заменивших собой государства?
Есть и еще один аспект тотального внедрения искусственного интеллекта. Человек — существо биологическое. Скажем, повышение уровня гигиены избавило нас от массы инфекционных и паразитарных заболеваний, но повысило число аллергий — иммунитет, заточенный на борьбу, начинает сбоить в новых «стерильных» условиях. Какими будут люди, если лишить их жесткой необходимости бороться за существование, не станет ли общество материального благополучия одновременно и обществом тотальной депрессии?
Что ж, начал я с описания технических нюансов искусственного интеллекта, а закончил довольно мрачной картиной потенциальных социально-психологических проблем. И вот на эту тему я предлагаю пообщаться в комментариях. Автор не является экспертом в описываемых вопросах, а данная статья — скорее «рассуждение на заданную тему». Вопросы эти меня действительно интересуют, но в своих размышлениях я мог не учесть массы факторов… и в общем мне будет интересно услышать мнение со стороны.
Публикации
Если посмотреть на кабели разных зарядных устройств, часто, почти у самого штекера, можно заметить небольшое утолщение. Многие воспринимают его как элемент дизайна или просто не обращают внимания….
Вулкан Этна, расположенный на восточном побережье Сицилии, остается одним из самых сложных объектов для геологического моделирования. Будучи самым активным вулканом Европы, он демонстрирует…
В научной фантастике любят придумывать подземные миры, но один такой имеется в реальности на нашей Земле. Ниже я расскажу, как существует экосистема в сводах самой большой пещеры мира, как так…
Компания Anker уже давно снискала толпы фанатов и в области зарядных устройств, и в мобильном звуке. Новинка TWS-наушников Anker Soundcore liberty buds выделились достойным звуком, доступной ценой,…
В сегодняшнем обзоре я расскажу о DIGMA FreeDrive 950DW — компактном видеорегистраторе с узким 2,5» дисплеем, построенном на современном процессоре HiSilicon Hi3559 с поддержкой 4К…
Для приготовления большинства мясных блюд, а также множества других рецептов, практически невозможно обойтись без мясорубки. Этот кухонный прибор значительно упрощает процесс переработки продуктов…
Частые вопросы о работе нейросетей
Вопрос: Что такое нейрон в искусственной нейросети?
Ответ: Это простая математическая функция, которая принимает входные данные, умножает их на «веса» (коэффициенты важности), суммирует, добавляет смещение и пропускает результат через функцию активации, чтобы решить, передавать ли сигнал дальше.
Вопрос: Чем обучение нейросети отличается от обычного программирования?
Ответ: В обычном программировании человек пишет четкие правила. Нейросеть же сама настраивает миллионы внутренних параметров (весов) на основе примеров, находя в данных скрытые закономерности.
Вопрос: Почему для обучения нейросетей нужно так много данных?
Ответ: Чтобы надежно выявить истинные закономерности и избежать «зазубривания» (переобучения). Чем больше разнообразных примеров, тем лучше сеть обобщает и работает на новых, невиданных ранее данных.
Вопрос: Что такое глубокое обучение?
Ответ: Это вид машинного обучения, в котором используются нейросети со многими слоями («глубокие»). Каждый последующий слой выявляет всё более сложные и абстрактные признаки из данных.
Вопрос: Как нейросеть генерирует текст или картинки?
Ответ: Она учится предсказывать следующий элемент (слово, пиксель) на основе предыдущих. Обучившись на огромных массивах текстов или изображений, сеть начинает «сочинять» новые последовательности, похожие на те, что были в обучающих данных.
Вопрос: Что такое «галлюцинации» ИИ?
Ответ: Это ситуации, когда нейросеть уверенно выдает неправдивую или выдуманную информацию. Происходит это потому, что сеть оптимизирована для создания правдоподобных текстов, а не для поиска объективных фактов.
Вопрос: Почему ИИ иногда ошибается в простых вещах, например, в арифметике?
Ответ: Современные большие языковые модели работают не как калькулятор, а как продвинутый угадыватель следующего слова. Они могут «знать» примеры вычислений из текстов, но не выполняют алгоритмические операции пошагово.
Вопрос: Что такое GPT?
Ответ: Generative Pre-trained Transformer — это архитектура нейросети (трансформер), предобученная на огромных текстовых данных для генерации текста. Она улавливает контекст и связи между словами на большом расстоянии в предложении.
Вопрос: Чем отличается ИИ от нейросети?
Ответ: Искусственный интеллект — это широкая область, цель которой создать умные машины. Нейросеть — это один из инструментов (алгоритмов) машинного обучения, который сейчас является ключевым для создания современных ИИ-систем.
Вопрос: Может ли нейросеть обучаться сама, без человека?
Ответ: Процесс обучения (настройки весов) автоматизирован, но цели, архитектуру, данные и критерии успеха задает человек. Полностью автономное самообучение с постановкой собственных целей — задача будущего.
Краткая памятка: как понять нейросети за 5 минут
- Представьте нейросеть как огромную сеть из простых «нейронов»-калькуляторов, связанных между собой.
- Каждое соединение имеет «вес» — число, показывающее его важность. Вся «знание» сети — в этих весах.
- Сеть обучается, получая данные (например, картинки кошек и собак) и правильные ответы к ним.
- Она делает предположение, сравнивает его с правильным ответом и вычисляет ошибку.
- С помощью алгоритма «обратного распространения ошибки» сеть настраивает все свои веса, чтобы в следующий раз ошибиться меньше.
- После миллионов таких корректировок на миллионах примеров сеть учится решать задачу (различать кошек и собак).
- «Глубина» сети (много слоев) позволяет ей выявлять иерархию признаков: от простых линий к сложным формам и объектам.
- Современный прорыв связан с тремя факторами: огромными данными (интернет), мощными GPU (игровые видеокарты) и новой архитектурой «трансформер».
- Такие модели, как GPT, — это «попугаи-вундеркинды»: они предсказывают следующее слово, обучаясь на всем тексте интернета.
- Чтобы сделать такого «попугая» полезным ассистентом, его дополнительно обучают с подсказками человека (обучение с подкреплением).
- Нейросеть не «понимает» мир, как человек. Она создает сложные статистические модели на основе данных.
- Главные ограничения сегодня: «галлюцинации», отсутствие истинного reasoning (рассуждений) и зависимость от качества данных.
- Нейросети — это мощный инструмент, расширяющий человеческие возможности, а не замена человеческому разуму.
