ИИ переписывает мир и одновременно изобретает новый язык для описания своих действий: на встречах и презентациях всё чаще звучат аббревиатуры LLM, RAG, RLHF, а на прошлой неделе к ним добавился «непрозрачный рецидив» — метод рассуждения в новой модели Astra от OpenAI, который встревожил исследователей безопасности ИИ. Словарь растёт так быстро, что даже эксперты в технологиях чувствуют неуверенность.
Этот глоссарий — наша попытка исправить это: простые английские определения терминов ИИ, которые вы, скорее всего, увидите, независимо от того, строите ли вы с этим материалом, инвестируете в него или просто пытаетесь идти в ногу, читая TechCrunch или слушая связанные подкасты. Мы регулярно обновляем его по мере развития поля, поэтому считаем его живым документом, очень похожим на системы ИИ, которые он описывает.
Искусственный общий интеллект, или AGI, является туманным термином. Но это, как правило, относится к ИИ, который более способен, чем средний человек, при выполнении многих, если не большинства, задач. Генеральный директор OpenAI Сэм Альтман однажды описал AGI как «эквивалент среднего человека, которого вы могли бы нанять в качестве сотрудника». Между тем, устав OpenAI определяет AGI как «высокоавтономные системы, которые превосходят людей в самой экономически ценной работе». Понимание Google DeepMind немного отличается от этих двух определений; лаборатория рассматривает AGI как «ИИ, который по крайней мере так же способен, как люди в большинстве когнитивных задач». Не стоит волноваться — таковы эксперты, находящиеся на переднем крае исследований ИИ.
Агент ИИ относится к инструменту, который использует технологии ИИ для выполнения ряда задач от вашего имени — помимо того, что может сделать более простой чат-бот ИИ, — таких как подача расходов, бронирование билетов или стола в ресторане или даже написание и поддержание кода. Однако, как мы объясняли ранее, в этом возникающем пространстве есть много движущихся частей, поэтому «агент ИИ» может означать разные вещи для разных людей. Инфраструктура также по-прежнему строится для реализации своих предполагаемых возможностей. Но основная концепция подразумевает автономную систему, которая может использовать несколько систем ИИ для выполнения многошаговых задач.
Что такое конечные точки API?
Думайте о конечных точках API как о «кнопках» на задней панели программного обеспечения, которое другие программы могут нажимать, чтобы заставить его делать вещи. Разработчики используют эти интерфейсы для создания интеграций, например, позволяя одному приложению извлекать данные из другого или позволяя агенту ИИ напрямую управлять сторонними службами без ручного управления каждым интерфейсом. Большинство устройств умного дома и подключенных платформ имеют эти скрытые кнопки, даже если обычные пользователи никогда не видят их или не взаимодействуют с ними. По мере того, как агенты ИИ становятся все более способными, они все чаще могут самостоятельно находить и использовать эти конечные точки, открывая мощные, а иногда и неожиданные возможности для автоматизации.
Что такое цепь мысли?
Учитывая простой вопрос, человеческий мозг может ответить, даже не задумываясь об этом — например, «какое животное выше, жираф или кошка?» Но во многих случаях вам часто нужна ручка и бумага, чтобы придумать правильный ответ, потому что есть промежуточные шаги. Например, если у фермера есть куры и коровы, а вместе у них 40 голов и 120 ног, вам может потребоваться записать простое уравнение, чтобы найти ответ (20 цыплят и 20 коров).
В контексте ИИ логические рассуждения для больших языковых моделей означают разбиение проблемы на более мелкие промежуточные шаги для улучшения качества конечного результата. Обычно для получения ответа требуется больше времени, но ответ, скорее всего, будет правильным, особенно в логическом или кодировочном контексте. Модели рассуждения разрабатываются на основе традиционных моделей большого языка и оптимизированы для цепного мышления благодаря усиленному обучению.
Что делают кодирующие агенты?
Это более конкретная концепция, что «агент ИИ», что означает программу, которая может принимать меры самостоятельно, шаг за шагом, для достижения цели. Кодирующий агент — это специализированная версия, применяемая для разработки программного обеспечения. Вместо того, чтобы просто предлагать код человеку для просмотра и вставки, агент кодирования может самостоятельно писать, тестировать и отлаживать код, обрабатывая итеративную работу с пробами и ошибками, которая обычно занимает день разработчика. Эти агенты могут работать по всем кодовым базам, обнаруживая ошибки, выполняя тесты и проталкивая исправления с минимальным человеческим надзором. Думайте об этом как о найме очень быстрого стажера, который никогда не спит и никогда не теряет фокус — хотя, как и в случае с любым стажером, человек все еще должен пересмотреть работу.
Хотя это несколько многовалентный термин, вычисление обычно относится к жизненно важной вычислительной мощности, которая позволяет моделям ИИ работать. Этот тип обработки питает индустрию искусственного интеллекта, давая ей возможность обучать и развертывать свои мощные модели. Этот термин часто является сокращением для видов аппаратного обеспечения, которое обеспечивает вычислительную мощность — таких вещей, как GPU, CPU, TPU и другие формы инфраструктуры, которые составляют основу современной индустрии искусственного интеллекта.
Как работает глубокое обучение?
Подмножество самосовершенствования машинного обучения, в котором алгоритмы ИИ разработаны с многослойной структурой искусственной нейронной сети (ANN). Это позволяет им создавать более сложные корреляции по сравнению с более простыми системами машинного обучения, такими как линейные модели или деревья решений. Структура алгоритмов глубокого обучения черпает вдохновение из взаимосвязанных путей нейронов в человеческом мозге.
Модели ИИ глубокого обучения способны идентифицировать важные характеристики в самих данных, а не требовать, чтобы инженеры-люди определяли эти особенности. Структура также поддерживает алгоритмы, которые могут учиться на ошибках и, через процесс повторения и корректировки, улучшать свои собственные результаты. Однако для получения хороших результатов (миллионов и более) системам глубокого обучения требуется много точек данных. Они также обычно требуют больше времени для обучения по сравнению с более простыми алгоритмами машинного обучения, поэтому затраты на разработку, как правило, выше.
Диффузия — это технология, лежащая в основе многих моделей искусственного интеллекта, генерирующих искусство, музыку и текст. Вдохновленные физикой, диффузионные системы медленно «уничтожают» структуру данных — например, фотографии, песни и так далее — добавляя шум, пока не останется ничего. В физике диффузия спонтанна и необратима — сахар, диффундирующий в кофе, не может быть восстановлен в кубической форме. Но диффузионные системы в ИИ нацелены на изучение своего рода процесса «обратной диффузии» для восстановления разрушенных данных, получая возможность восстановления данных от шума.
дистилляция
Дистилляция — это метод, используемый для извлечения знаний из большой модели ИИ с моделью «учитель-студент». Разработчики отправляют запросы на модель учителя и записывают результаты. Ответы иногда сравнивают с набором данных, чтобы увидеть, насколько они точны. Эти результаты затем используются для обучения модели студента, которая обучена приближению поведения учителя.
Дистилляция может быть использована для создания меньшей, более эффективной модели на основе более крупной модели с минимальными потерями дистилляции. Вероятно, именно так OpenAI разработала GPT-4 Turbo, более быструю версию GPT-4.
В то время как все компании искусственного интеллекта используют дистилляцию внутри, она также может быть использована некоторыми компаниями искусственного интеллекта, чтобы догнать пограничные модели. Дистилляция от конкурента обычно нарушает условия обслуживания AI API и чат-ассистентов.
Это относится к дальнейшему обучению модели ИИ для оптимизации производительности для более конкретной задачи или области, чем ранее было центром ее обучения, как правило, путем подачи новых, специализированных (т.е. ориентированных на задачи) данных.
Многие стартапы используют большие языковые модели в качестве отправной точки для создания коммерческого продукта, но соперничают за повышение полезности для целевого сектора или задачи, дополняя более ранние учебные циклы тонкой настройкой на основе своих собственных знаний и опыта в конкретной области.
GAN, или Generative Adversarial Network, является типом структуры машинного обучения, которая лежит в основе некоторых важных разработок в генеративном ИИ, когда дело доходит до производства реалистичных данных, включая (но не только) инструменты глубокой подделки. GANs предполагают использование пары нейронных сетей, одна из которых использует свои обучающие данные для генерации вывода, который передается другой модели для оценки.
Эти две модели запрограммированы на то, чтобы превзойти друг друга. Генератор пытается получить свой выход за дискриминатор, в то время как дискриминатор работает, чтобы обнаружить искусственно сгенерированные данные. Этот структурированный конкурс может оптимизировать результаты ИИ, чтобы быть более реалистичным без необходимости дополнительного вмешательства человека. Хотя GAN лучше всего подходят для более узких приложений (например, для создания реалистичных фотографий или видео), чем для ИИ общего назначения.
галлюцинация
Галлюцинация является предпочтительным термином для ИИ-моделей, которые выдумывают вещи — буквально генерируют информацию, которая неверна. Очевидно, что это огромная проблема для качества ИИ.
Галлюцинации производят результаты GenAI, которые могут вводить в заблуждение и даже могут привести к реальным рискам — с потенциально опасными последствиями (подумайте о запросе на здоровье, который возвращает вредные медицинские советы).
Считается, что проблема искусственного интеллекта, фабрикующего информацию, возникает из-за пробелов в данных обучения. Галлюцинации способствуют продвижению к все более специализированным и / или вертикальным моделям искусственного интеллекта, то есть ИИ для конкретных областей, которые требуют более узкого опыта, как способ уменьшить вероятность пробелов в знаниях и уменьшить риски дезинформации.
Вывод — это процесс запуска модели ИИ. Это позволяет модели делать прогнозы или делать выводы из ранее увиденных данных. Чтобы быть ясным, вывод не может произойти без обучения; модель должна изучить закономерности в наборе данных, прежде чем она сможет эффективно экстраполировать из этих данных обучения.
Многие типы аппаратного обеспечения могут выполнять выводы, начиная от процессоров смартфонов до мощных графических процессоров и заканчивая специально разработанными ускорителями ИИ. Но не все из них могут работать одинаково хорошо. Очень крупным моделям потребуются годы, чтобы делать прогнозы, скажем, на ноутбуке по сравнению с облачным сервером с высокопроизводительными чипами ИИ.
Модель большого языка (LLM)
Большие языковые модели, или LLM, являются моделями ИИ, используемыми популярными помощниками ИИ, такими как ChatGPT, Claude, Google Gemini, Meta’s AI Llama, Microsoft Copilot или Mistral’s Le Chat. Когда вы общаетесь с помощником ИИ, вы взаимодействуете с большой языковой моделью, которая обрабатывает ваш запрос напрямую или с помощью различных доступных инструментов, таких как просмотр веб-страниц или интерпретаторы кода.
LLM — это глубокие нейронные сети, состоящие из миллиардов числовых параметров (или весов, см. ниже), которые изучают отношения между словами и фразами и создают представление языка, своего рода многомерную карту слов.
Эти модели создаются из кодирования шаблонов, которые они находят в миллиардах книг, статей и стенограмм. Когда вы подсказываете LLM, модель генерирует наиболее вероятный шаблон, который соответствует подсказке.
Кэш памяти
Кэш памяти относится к важному процессу, который повышает вывод (это процесс, с помощью которого ИИ работает, чтобы генерировать ответ на запрос пользователя). По сути, кэширование — это метод оптимизации, предназначенный для повышения эффективности вывода. Очевидно, что ИИ управляется высокооктановыми математическими вычислениями, и каждый раз, когда эти вычисления производятся, они потребляют больше энергии. Кэширование предназначено для сокращения числа вычислений, которые модель может выполнять, сохраняя определенные вычисления для будущих пользовательских запросов и операций. Существуют различные виды кэширования памяти, хотя одним из наиболее известных является кэширование KV (или ключевого значения). Кэширование КВ работает в трансформаторных моделях и повышает эффективность, ускоряя результаты за счет сокращения времени (и алгоритмической работы), необходимого для получения ответов на вопросы пользователей.
Модельный контекстный протокол (MCP)
Model Context Protocol, или MCP, является открытым стандартом, который позволяет моделям ИИ подключаться к внешним инструментам и данным — вашим файлам, базам данных или приложениям, таким как Slack и Google Drive — без разработчика, создающего пользовательский разъем для каждого отдельного соединения. Думайте об этом как о порте USB-C для ИИ. Anthropic представила MCP в 2024 году, а затем передала его Linux Foundation, и с тех пор он был принят OpenAI, Google и Microsoft, что делает его одним из самых быстро распространяющихся стандартов в новейшей истории ИИ.
Смесь экспертов (MoE)
Смесь экспертов — это модельная архитектура, которая разделяет нейронную сеть на множество небольших специализированных подсетей или «экспертов» и активирует только несколько из них для любой конкретной задачи. Вместо того, чтобы направлять каждый запрос по всей модели — например, звонить во весь офис для каждого вопроса — модель MoE имеет встроенный «маршрутизатор», который выбирает только правильных специалистов для работы. Это позволяет создавать огромные модели, которые остаются относительно быстрыми и дешевыми в эксплуатации, поскольку только часть сети работает в любое время. Модель Mistral AI Mixtral является хорошо известным примером; считается, что новые модели GPT от OpenAI также используют некоторые версии этого подхода, хотя компания никогда официально не подтверждала его.
Нейронная сеть
Нейронная сеть относится к многослойной алгоритмической структуре, которая лежит в основе глубокого обучения — и, в более широком смысле, всего бума в генеративных инструментах ИИ после появления больших языковых моделей.
Хотя идея черпать вдохновение из плотно взаимосвязанных путей человеческого мозга в качестве структурной структуры для алгоритмов обработки данных восходит к 1940-м годам, гораздо более поздний рост графического процессорного оборудования (GPU) — через индустрию видеоигр — действительно раскрыл силу этой теории. Эти чипы оказались хорошо подходящими для обучения алгоритмов с гораздо большим количеством уровней, чем это было возможно в более ранние эпохи, что позволило системам ИИ на основе нейронных сетей достичь гораздо лучшей производительности во многих областях, включая распознавание голоса, автономную навигацию и обнаружение лекарств.
Гипотетический наихудший сценарий, при котором модель полностью обосновывает свои внутренние числовые представления, а не читаемый человеком язык, делая свое мышление полным черным ящиком. OpenAI заявила, что ее модель Astra (выпущенная в сентябре 2026 года и известная своим ранним использованием техники рассуждений «непрозрачного рецидива») сохраняет свою цепочку мышления разборчивой и отодвинула сравнение с невралгией. Но исследователи безопасности указывают на использование Astra непрозрачного повторения — его определение прямо ниже — в качестве реального первого шага в этом направлении, поэтому этот термин вырос с момента публикации отчета о запуске Astra.
Непрозрачное повторение
Непрозрачное повторение — это когда модель ИИ повторяет один и тот же запрос через свои внутренние слои несколько раз, вместо того, чтобы рассуждать шаг за шагом на простом языке. Это более эффективно — небольшие модели могут бить выше своего веса при использовании меньшего количества вычислений, но оставляют гораздо меньше читаемых следов, чем обычная цепочка мыслей (которая работает с комментариями, которые вы видите после того, как попросили чат-бота о помощи). Это беспокоит исследователей в области безопасности, поскольку эти журналы являются ключевым инструментом для выявления ненадлежащего поведения, и этот метод может значительно затруднить этот надзор.
Открытый исходный код относится к программному обеспечению или, во все большей степени, к моделям ИИ, где базовый код становится общедоступным для любого, кто может использовать, проверять или изменять. В мире искусственного интеллекта семейство моделей Meta Llama является ярким примером; Linux — известная историческая параллель в операционных системах. Подходы с открытым исходным кодом позволяют исследователям, разработчикам и компаниям по всему миру опираться на работу друг друга, ускоряя прогресс и позволяя проводить независимые аудиты безопасности, которые закрытые системы не могут легко обеспечить. Закрытый исходный код означает, что код является частным — вы можете использовать продукт, но не видеть, как он работает, как в случае с моделями GPT OpenAI — различие, которое стало одним из определяющих дебатов в индустрии ИИ.
Параллельность
Параллелизация означает делать много вещей одновременно, а не одно за другим, например, иметь 10 сотрудников, работающих над различными частями проекта одновременно, а не одного сотрудника, делающего все последовательно. В ИИ параллелизация имеет основополагающее значение как для обучения, так и для вывода: современные графические процессоры специально разработаны для параллельного выполнения тысяч вычислений, что является большой причиной того, что они стали аппаратной основой отрасли. По мере того, как системы ИИ становятся все более сложными, а модели становятся все больше, возможность параллелизации работы на многих чипах и многих машинах стала одним из наиболее важных факторов в определении того, как быстро и экономически эффективно модели могут быть построены и развернуты. Исследования по улучшению стратегий параллелизации в настоящее время являются самостоятельной областью исследований.
«Рамагеддон» — это забавный новый термин для не очень веселой тенденции, которая охватывает технологическую индустрию: постоянно растущий дефицит памяти с произвольным доступом или чипов оперативной памяти, которые питают почти все технические продукты, которые мы используем в нашей повседневной жизни. Поскольку индустрия искусственного интеллекта расцвела, крупнейшие технологические компании и лаборатории искусственного интеллекта — все соперничают за самый мощный и эффективный ИИ — покупают так много оперативной памяти для своих центров обработки данных, что для остальных из нас осталось не так много. И это узкое место в поставках означает, что то, что осталось, становится все более и более дорогим.
Это включает в себя такие отрасли, как игровые (где крупным компаниям приходилось повышать цены на консоли, потому что сложнее найти чипы памяти для своих устройств), потребительская электроника (где нехватка памяти может привести к крупнейшему падению поставок смартфонов за более чем десятилетие) и общие корпоративные вычисления (потому что эти компании не могут получить достаточно оперативной памяти для своих собственных центров обработки данных). Ожидается, что рост цен остановится только после того, как ужасный дефицит закончится, но, к сожалению, на самом деле нет никаких признаков того, что это произойдет в ближайшее время.
Повторяющаяся глубина
Это более «техническое» название для того же базового метода, что и непрозрачное повторение (многократное прослушивание запроса через слои модели, а не последовательное рассуждение на языке). Средства массовой информации используют эти два термина почти взаимозаменяемо, поэтому мы включаем его здесь, хотя «повторяющаяся глубина» — это инженерный термин, а «непрозрачный рецидив» — это кадр, который подчеркивает проблему безопасности.
Рекурсивное самосовершенствование
Как и AGI, рекурсивное самосовершенствование является краеугольным камнем того, как умный ИИ может получить, и как мало он может полагаться на людей. В сценарии RSI модели ИИ начинают совершенствоваться без вмешательства человека, что приводит к огромному ускорению возможностей и автономии. В некоторых случаях это был бы катастрофический момент, сродни сингулярности, момент, когда модели ИИ становятся невосприимчивыми к внешнему вмешательству. Но RSI также описывает базовые возможности — может ли модель ИИ спроектировать своего преемника? — что значительно облегчает инженерам задачу по его созданию. Ряд недавних стартапов ИИ намеревались создавать рекурсивно самосовершенствование моделей, но большинство из них отвергают апокалипсические последствия, представляя RSI как просто следующий рубеж для исследований.
Усиление обучения
Усиление обучения — это способ обучения ИИ, когда система учится, пробуя вещи и получая вознаграждения за правильные ответы — например, обучение любимого питомца лакомствам, за исключением того, что «домашний питомец» в этом сценарии — это нейронная сеть, а «лечение» — математический сигнал, указывающий на успех. В отличие от контролируемого обучения, где модель обучается на фиксированном наборе данных помеченных примеров, обучение с подкреплением позволяет модели исследовать свою среду, предпринимать действия и постоянно обновлять свое поведение на основе обратной связи, которую она получает. Этот подход оказался особенно мощным для обучения ИИ играть в игры, управлять роботами и, в последнее время, оттачивать способность мышления больших языковых моделей. Такие методы, как обучение с подкреплением на основе обратной связи с человеком или RLHF, теперь играют центральную роль в том, как ведущие лаборатории ИИ настраивают свои модели, чтобы они были более полезными, точными и безопасными.
Когда дело доходит до человеко-машинной коммуникации, есть некоторые очевидные проблемы — люди общаются с использованием человеческого языка, в то время как программы ИИ выполняют задачи с помощью сложных алгоритмических процессов, основанных на данных. Токены преодолевают этот разрыв: они являются основными строительными блоками связи между человеком и ИИ, представляющими собой дискретные сегменты данных, которые были обработаны или произведены LLM. Они создаются с помощью процесса, называемого токенизацией, который разбивает сырой текст на единицы размером с укус, которые может переварить языковая модель, подобно тому, как компилятор переводит человеческий язык в двоичный код, который может понять компьютер. В корпоративных настройках токены также определяют стоимость — большинство компаний ИИ взимают плату за использование LLM на основе одного токена, что означает, что чем больше бизнес использует, тем больше он платит.
Пропускная способность маркера
Опять же, токены — это небольшие фрагменты текста — часто части слов, а не целые, — которые модели языка ИИ разбивают язык перед его обработкой; они примерно аналогичны «словам» для целей понимания рабочих нагрузок ИИ. Пропускная способность относится к тому, сколько может быть обработано за определенный период времени, поэтому пропускная способность токена по существу является мерой того, сколько ИИ может обрабатывать система одновременно. Высокая пропускная способность токенов является ключевой целью для команд инфраструктуры ИИ, поскольку она определяет, сколько пользователей может обслуживать модель одновременно и как быстро каждый из них получает ответ. Исследователь ИИ Андрей Карпаты описал чувство тревоги, когда его подписки на ИИ простаивают — повторяя чувство, которое он испытывал, будучи аспирантом, когда дорогое компьютерное оборудование не использовалось полностью — чувство, которое отражает, почему максимизация пропускной способности токенов стала чем-то вроде одержимости в этой области.
Разработка ИИ машинного обучения включает в себя процесс, известный как обучение. Проще говоря, это относится к данным, подаваемым для того, чтобы модель могла учиться на шаблонах и генерировать полезные результаты. По сути, это процесс, в котором система реагирует на характеристики данных, что позволяет ей адаптировать результаты к желаемой цели — будь то идентификация изображений кошек или производство хайку по требованию.
Обучение может быть дорогостоящим, потому что оно требует большого количества входных данных, и требуемые объемы растут, поэтому гибридные подходы, такие как точная настройка ИИ на основе правил с целевыми данными, могут помочь управлять затратами, не начиная полностью с нуля.
Трансферное обучение
Техника, в которой ранее обученная модель ИИ используется в качестве отправной точки для разработки новой модели для другой, но обычно связанной с ней задачи, что позволяет повторно применять знания, полученные в предыдущих циклах обучения.
Трансфертное обучение может обеспечить экономию эффективности за счет сокращения разработки моделей. Это также может быть полезно, когда данные для задачи, для которой разрабатывается модель, несколько ограничены. Но важно отметить, что этот подход имеет ограничения. Модели, которые полагаются на передачу обучения для получения обобщенных возможностей, вероятно, потребуют обучения дополнительным данным, чтобы хорошо работать в своей области фокуса.
Потеря валидации
Потеря валидации — это число, которое говорит вам, насколько хорошо модель ИИ учится во время обучения, а ниже — лучше. Исследователи отслеживают его как своего рода отчетную карту в режиме реального времени, используя ее, чтобы решить, когда прекратить обучение, когда корректировать гиперпараметры или исследовать потенциальную проблему. Одна из ключевых проблем, которая помогает флагу, — это переобучение, состояние, при котором модель запоминает свои тренировочные данные, а не по-настоящему изучает шаблоны, которые она может обобщать в новых ситуациях. Подумайте об этом как о разнице между студентом, который действительно понимает материал, и тем, кто просто запомнил прошлогодний экзамен — потеря валидации помогает выявить, какой из них становится вашей моделью.
Весы являются основой обучения ИИ, поскольку они определяют, насколько важна (или вес) для различных функций (или входных переменных) в данных, используемых для обучения системы, тем самым формируя выход модели ИИ.
Другими словами, веса — это числовые параметры, которые определяют то, что наиболее заметно в наборе данных для данной учебной задачи. Они достигают своей функции, применяя умножение к входам. Обучение модели обычно начинается с весов, которые распределяются случайным образом, но по мере развития процесса весы корректируются по мере того, как модель стремится достичь результата, который более точно соответствует цели.
Например, модель искусственного интеллекта для прогнозирования цен на жилье, которая обучена на исторических данных о недвижимости для целевого местоположения, может включать веса для таких функций, как количество спален и ванных комнат, независимо от того, является ли недвижимость отдельной или полуотдельной, есть ли у нее парковка, гараж и так далее.
В конечном счете, весы, которые модель прикрепляет к каждому из этих входов, отражают, насколько они влияют на стоимость свойства, на основе данного набора данных.
Эта статья регулярно обновляется новой информацией.
Вопросы и ответы
Что такое AGI и как его определяют разные компании?
AGI — это искусственный общий интеллект, который обычно означает ИИ, способный выполнять многие задачи лучше среднего человека. Однако определения различаются: Сэм Альтман из OpenAI описывает его как «эквивалент среднего человека, которого можно нанять», устав OpenAI — как «системы, превосходящие людей в самой экономически ценной работе», а Google DeepMind — как «ИИ, по крайней мере так же способный, как люди в большинстве когнитивных задач».
Чем кодирующий агент отличается от обычного агента ИИ?
Кодирующий агент — это специализированный тип агента ИИ, который применяется для разработки программного обеспечения. Вместо простого предложения кода, он может самостоятельно писать, тестировать и отлаживать код, выполняя итеративную работу с пробами и ошибками. Он работает по кодовым базам, обнаруживает ошибки и проталкивает исправления с минимальным человеческим надзором, как очень быстрый стажер.
Что такое цепь мысли в контексте ИИ?
Цепь мысли относится к методу рассуждения для больших языковых моделей, при котором проблема разбивается на более мелкие промежуточные шаги. Это улучшает качество конечного результата, особенно в логических или кодировочных контекстах. Хотя ответ занимает больше времени, он с большей вероятностью будет правильным. Модели рассуждения оптимизированы для этого через усиленное обучение.
