«Хьюстон, у нас проблемы»: ограничения и недостатки ИИ
Возможности и успехи нейросетей впечатляют, но не все задачи они решают без проблем. Есть ряд ограничений, которые мешают искусственному интеллекту перейти на новый уровень и сравниться по функциональности и качеству решений с человеческим мозгом.
Поверхностный анализ данных
Главная проблема нейросетей в том, что ИИ может проанализировать огромные объемы данных, но на уровне поверхностных статистических закономерностей. Например, нейронка может распознать на изображении объекты по очевидным особенностям: форме, цвету, расположению, деталям. Но не может обработать картинку на более высоком уровне абстрактных концепций и понять суть.
То же и с текстом — для ИИ это набор слов в определенном порядке, он не понимает символы и фразеологизмы.
Более того, присутствие несвойственных деталей на объектах сбивает нейросеть с толку. Достаточно изменить несущественную часть изображения — и вот уже ИИ не может отличить собаку от кошки. А способность провести более глубокий сознательный анализ, абстрагироваться от поверхностных признаков и скорректировать свое первое впечатление ему пока недоступна.
Недостаток данных
Для успешного обучения ИИ необходимо много данных. Если их недостаточно, система будет ограничена.
Например, нейронные сети, обученные распознавать лица, ошибаются при обработке изображений людей с темным цветом кожи. Все из-за того, что в наборе данных для обучения не были представлены все расы людей, населяющие Землю.
По этой же причине нейросети могут быть неэффективными для выявления редких заболеваний или прогнозирования стихийных природных явлений.
Медленные обработка данных и обучение
Казалось бы, нейросети используют именно для того, чтобы быстро обрабатывать данные, но, по общему мнению, они все еще слишком медлительны, особенно когда речь заходит об обучении.
Например, в сфере изучения иностранных языков даже самым передовым нейронным моделям, чтобы достичь сравнимого уровня языковой компетенции, нужно освоить в десятки и тысячи раз больше данных, чем человеку.
В процессе обучения человека количество гораздо быстрее переходит в качество, так как мы можем извлекать максимум знаний из минимума информации за счет интуиции, эмпатии и здравого смысла, которых нет у ИИ.
Неспособность интегрировать навыки в новый контекст
Человек способен сразу же применять усвоенный навык, причем в разных сферах и контекстах — освоив сложение чисел, мы можем использовать это в быту, взаимных расчетах, исследованиях. А комбинируя навык с другими, способны решать все более и более сложные задачи. Он становится частью инструментария, которым мы владеем в любых обстоятельствах.
Нейросети же получают и применяют знания изолированно, в рамках конкретных задач. Они не могут гибко интегрировать навыки и использовать их повторно для решения новых задач в другом контексте — ИИ, которая умеет играть в Го, не сможет перенести усвоенные игровые принципы на аналогичную игру.
Нейросети не могут обобщать знания и разрабатывать на их основе новые стратегии. Например, ИИ, который обучили определять рак груди на маммограммах, не может распознать аномалию на МРТ или УЗИ. Это не позволяет нейросетям выходить за рамки специализации — для распознавания лиц и животных нужно обучать две отдельные модели.
Ограниченная доступность
Вопреки впечатлению, что нейросети сейчас используются почти всеми и повсюду, это все еще довольно дорогая технология. Нейронные сети для обучения или работы требуют значительных вычислительных мощностей для обработки данных. Далеко не во всех сферах можно внедрить такое оборудование, чтобы это было экономически оправдано.
Все перечисленные проблемы не ставят крест на нейросетях. Для них уже ищут решения — например:
- разрабатывают техники обучения ИИ на небольших объемах данных;
- внедряют облачные решения, чтобы сделать вычислительные ресурсы доступнее;
- используют методы чистки и фильтрации вводных данных и защиту от атак, которая позволяет выявлять аномалии;
- внедряют обратные связи в визуальные модели, чтобы научить их лучше интерпретировать изображения;
- используют специальные архитектуры для обработки неструктурированных данных;
- вводят методы, которые объясняют работу модели и на основе чего она делала выводы – чтобы проверять результаты в юриспруденции и медицине.
Сценарии для антиутопии — в чем опасность нейросетей
Как бы абсурдно не звучало, но главной проблемой могут стать не недостатки нейросетей, а их успех. Вот несколько сценариев, по которым что-то может пойти не так.
Коллапс и деградация
Активное применение нейросетей для создания контента может привести к тому, что интернет заполонит сгенерированная информация. Это грозит огромным количеством фейков, в том числе новостных, которые тем более опасны, чем более качественные тексты научится писать ИИ — будет все сложнее отличить информацию из источников от сгенерированных материалов с фактическими ошибками. Тем более что нейросеть умеет учитывать алгоритмы поисковых систем, и ее материалы могут занимать более высокие позиции в выдаче.
Например, языковая модель Galactica по просьбе пользователя написала очень убедительную «научную статью» о пользе употребления битого стекла. В материале были ссылки на исследования и мнения экспертов, имеющие вид полноценной доказательной базы. Та же модель путала исторические даты, имена, факты — к примеру, писала о запуске медведей в космос. В итоге из-за многочисленных жалоб пользователей, тестировавших платформу, она была заблокирована.
Также ИИ станет обучаться на собственных текстах, что приведет ко все более частым ошибкам и неизбежному снижению качества работы. Произойдет технический коллапс. В интернете будет стремительно уменьшаться количество ценной информации, а нейросети станут практически бесполезными.
Запрет нейросетей из-за утечки персональных данных
Системы могут сохранять исходные данные, к которым при правильном запросе могут получить доступ злоумышленники и использовать их для персонализированных атак.
Например, компания Apple запретила сотрудникам пользоваться сетями для генерации текста и программного кода GitHub Copilot из-за того, что конфиденциальные данные сохраняются на серверах разработчиков и возникает риск их утечки.
Чужие данные могут стать общедоступными в результате сбоя. В Италии запретили ChatGPT из-за сбоя, в результате которого пользователи видели чужие сообщения и данные платежных сервисов и карт.
ИИ заменит людей в большинстве профессий
После глобальной автоматизации останутся востребованы специалисты по работе с ИИ и новые профессии, которые сейчас еще даже не появились — компания Dell считает, что на их долю к 2030 году будет приходиться 85% рабочих мест.
- специалистов по обслуживанию теплиц – ИИ может самостоятельно регулировать микроклимат и даже повышать урожайность, контролируя состояние почвы датчиками и доставляя удобрения с помощью дронов;
- водителей сельхозтехники – в 2026 году на полях работает уже более 100 беспилотных тракторов и комбайнов;
- сборщиков чая – машина способны заменить до 100 рабочих: в Кении работники плантаций уничтожили несколько автоматических систем, чтобы не потерять заработок;
- кассиров, администраторов, переводчиков, бухгалтеров, юристов, веб-дизайнеров, ведущих.
Восстание нейросети
В большинстве случаев, если это не прописано в алгоритме, нельзя определить, как нейросеть пришла к тому или иному ответу — генерация осуществляется неконтролируемо. И если для общения с человеком боты используют выбранную языковую систему, то между собой могут переходить на непонятный человеку язык.
В 2017 году разработчики тестировали ИИ-ботов, которые должны были общаться между собой и достигать компромисса. Эксперимент пришлось прекратить, потому что в какой-то момент машины перешли на свою версию английского в виде бессвязного потока слов.
Анализ показал, что тарабарщина не была системным сбоем, и машины по-прежнему понимали друг друга. Предположительно боты перешли на упрощенную форму общения для более быстрого принятия решений. Во избежание непредвиденных последствий систему отключили.
Также у DALLE-2 в лексиконе обнаружился набор абсурдных слов, которые соответствуют определенным визуальным концепциям и даже могут согласовываться между собой. Эти слова нейросеть сначала сгенерировала на картинках, а потом исследователи предложили их в качестве запросов и получили определенный результат. Видимо, ИИ видит в них совпадения с реальными запросами, то есть для него эти слова похожи на что-то, что уже встречалось в вводных данных.
На данном этапе это лишь сбой, вызванный несовершенством системы, которую предстоит еще долго обучать. Но уже ставится вопрос о том, чтобы как-то ограничивать или контролировать этот процесс.
Часто задаваемые вопросы о возможностях искусственного интеллекта
Вопрос: Может ли нейросеть испытывать настоящие эмоции, такие как любовь или сострадание?
Ответ: Нет. Нейросети могут имитировать эмоциональные реакции, анализируя шаблоны в данных, но они не обладают субъективным опытом, сознанием или чувствами.
Вопрос: Способен ли ИИ к настоящему творчеству, например, написать гениальный роман или сделать научное открытие?
Ответ: ИИ может генерировать тексты, изображения или комбинации идей на основе обученных данных, но прорывное творчество, требующее глубокого понимания мира, абстрактных концепций и интуиции, ему недоступно.
Вопрос: Может ли нейросеть полностью заменить врача при постановке диагноза?
Ответ: Нет. ИИ может быть мощным инструментом для анализа снимков и данных, но он не может провести физический осмотр, учесть нюансы анамнеза, проявить эмпатию и принять этически сложное решение, основанное на человеческих ценностях.
Вопрос: Обладает ли искусственный интеллект здравым смыслом?
Ответ: Нет. Нейросети не имеют базового понимания физических законов мира, социальных контекстов и причинно-следственных связей, которые человек усваивает с детства. Их «понимание» ограничено статистическими корреляциями в данных.
Вопрос: Может ли ИИ брать на себя моральную ответственность за свои действия?
Ответ: Нет. Ответственность всегда лежит на разработчиках, операторах и пользователях системы. ИИ — это инструмент, не обладающий ни свободой воли, ни моральным сознанием.
Вопрос: Способна ли нейросеть к самоосознанию?
Ответ: Нет. Современные системы ИИ, какими бы сложными они ни были, не обладают сознанием, самосознанием или пониманием собственного существования.
Вопрос: Может ли алгоритм испытывать усталость или терять концентрацию, как человек?
Ответ: Нет. ИИ не устает, но его производительность может снижаться из-за перегрузки системы, ошибок в коде или некачественных входных данных.
Вопрос: Может ли нейросеть выполнять работу, требующую тонкой моторики и тактильных ощущений (например, хирургию)?
Ответ: Роботизированные системы с ИИ могут ассистировать, но полная замена невозможна, так как требует интеграции зрения, осязания, мгновенной адаптации к непредвиденным обстоятельствам и принятия решений в условиях неопределенности.
Вопрос: Способен ли ИИ понять шутку или сарказм без специальной разметки в данных?
Ответ: Как правило, нет. Для корректного распознавания юмора, иронии и сарказма требуется глубокое понимание культурного контекста, интонации и невербальных сигналов, что выходит за рамки возможностей текущих моделей.
Вопрос: Может ли нейросеть ставить себе собственные, изначально не заложенные программистами цели?
Ответ: Нет. Все цели и метрики успеха задаются людьми. ИИ может оптимизировать процессы для достижения цели, но не может кардинально изменить или сформулировать новую, истинно самостоятельную цель.
Памятка: что остается исключительно за человеком
- Принятие этических решений и моральный выбор.
- Глубокое творчество, основанное на личном опыте и эмоциях.
- Проявление эмпатии, сострадания и искренней заботы.
- Использование здравого смысла в непредвиденных ситуациях.
- Ответственность за последствия своих действий и решений.
- Научные и художественные озарения (инсайты), выходящие за рамки комбинации известного.
- Понимание сложных социальных и культурных контекстов.
- Ведение содержательного диалога, основанного на истинном понимании, а не предсказании следующего слова.
- Выполнение работ, требующих интеграции тонкой моторики, тактильных ощущений и мгновенной адаптации (например, ремесла, сложная хирургия).
- Создание и поддержание глубоких межличностных отношений.
- Управление и руководство людьми, основанное на вдохновении и харизме.
- Способность осознавать себя, рефлексировать и задаваться экзистенциальными вопросами.
