Перейти к основному содержимому

Агенты искусственного интеллекта

Агенты искусственного интеллекта

ОБЯЗАТЕЛЬНО
Разработчику

Play ITЗагрузка интерактивного демо…

Агент ИИ — система, где языковая модель не только отвечает текстом, но и выбирает действия — вызвать API, выполнить запрос к БД, открыть тикет, сгенерировать файл. Отличие от обычного чата — замкнутый цикл "мысль → действие → результат → следующий шаг".

Основа: генеративный ИИ, модели и API. Агент здесь — слой исполнения; знания из документов даёт RAG, стандартизированные tools — MCP — см. три слоя архитектуры. Правила в .cursor/rules и AGENTS.md — продолжение библиотеки промптов. Классическая таксономия (рефлекс, модель среды, цели, полезность, обучение) — в Типах интеллектуальных агентов.

Архитектура LLM-агента​

Компоненты:

КомпонентНазначение
ОркестраторУправляет шагами, лимитом итераций, таймаутами
Инструменты (tools)Контракты: имя, параметры, описание для модели
ПамятьКраткая (в контексте) и долгая (векторное хранилище, профиль пользователя)
ПолитикиЧто агенту запрещено (удаление данных, внешние платежи)

В IDE и десктопах с LLM набор tools часто подключают через MCP — единый протокол вместо отдельной интеграции под каждый GitHub, БД или файловый каталог. Отличие MCP от продуктового REST — в сравнении с классическим API.

Память агента​

Три уровня памяти путают чаще всего — у каждого своя зона ответственности:

УровеньЧто хранитСрок жизниПример
Контекстное окноТекущий диалог, результаты toolsОдна сессия / один запросПоследние 20 сообщений в messages
RAGФакты из документов организацииПока актуален индексЦитата из wiki, PDF, тикета
Память агента (profile)Факты о пользователе и прошлых сессияхМежду визитами"Предпочитает доставку курьером", "заказ #1042 в работе"

RAG отвечает на вопрос "что написано в базе знаний". Память агента — "что мы уже знаем об этом человеке и что делали в прошлый раз". Без второго поддержка каждый раз начинается с нуля, даже если RAG идеален.

Типичная реализация долгой памяти:

  1. После диалога — извлечь атомарные факты (имя, предпочтения, статус заказа).
  2. Сохранить в vector store или key-value с привязкой к user_id.
  3. При новом запросе — retrieve релевантные воспоминания и добавить в system prompt или tool context.

Библиотека Mem0 автоматизирует extract → store → recall поверх любой LLM. Альтернатива — свой слой на векторной БД с явной политикой TTL и удаления по запросу пользователя (GDPR, 152-ФЗ).

Не кладите секреты в долгую память

Пароли, токены и платёжные данные не должны попадать в эмбеддинги и логи памяти. Храните только то, что пользователь осознанно разрешил запомнить, с возможностью просмотра и удаления.

Практика: CartMate — support agent с Mem0 — в Практикуме — проекты по ИИ.

Паттерны проектирования​

ReAct (Reason + Act) — модель чередует рассуждение вслух и вызов инструмента. Удобно отлаживать: в логах видно, почему агент пошёл в SQL.

План-and-execute — сначала полный план, потом выполнение шагов. Стабильнее на длинных задачах, хуже адаптируется к неожиданной ошибке на шаге 3.

Мультиагент — несколько ролей ("аналитик", "кодер", "рецензент"). Дороже по токенам и латентности; оправдано в сложных pipeline, не в простом FAQ-боте. Паттерны потока (конвейер, параллель, router, debate) и стек инструментов — Оркестрация AI-агентов.

Мультиагентные системы​

Мультиагентная система (МАС) объединяет несколько ИИ-агентов в одну рабочую схему. Каждый агент отвечает за свой этап, а вместе они решают общую задачу бизнеса или продукта.

Для новичка полезно держать в голове простую модель:

  • агент в этом контексте — программа на базе LLM, которая получает цель, вызывает инструменты и возвращает результат;
  • мультиагентность — распределение одной большой задачи между несколькими агентами;
  • общий контур — единые правила, память и контроль действий через оркестратор.

Как устроена МАС​

Архитектура строится на разделении труда.

  • Большая задача делится на подзадачи.
  • Подзадачи получают агенты с разной специализацией.
  • Промежуточные результаты складываются в общий артефакт.
  • Финальный ответ проходит проверку перед отправкой пользователю.

Ключевые свойства МАС

  • Автономия — каждый агент использует собственную логику, память и набор инструментов. Обычно это API, базы данных, поиск и файловые операции.
  • Взаимодействие — агенты обмениваются сообщениями и координируют шаги через стандартизированные интерфейсы, включая MCP.
  • Оркестрация — агент-координатор назначает роли, маршрутизирует данные между участниками и собирает итоговый ответ.
  • Наблюдаемость — команда видит логи и трассировку шагов, поэтому сбои легче диагностировать. Практики эксплуатации подробно разобраны в AgentOps и MLOps — о разделе.

Почему МАС дают выигрыш​

МАС повышают качество и устойчивость за счёт архитектуры.

  • Снижение галлюцинаций — один агент формирует решение, второй проверяет факты или тесты, третий делает критический разбор.
  • Параллелизм гипотез — несколько агентов решают задачу с разных подходов, а система выбирает лучший вариант или объединяет сильные части. Этот подход часто называют Mixture-of-Agents.
  • Устойчивость — ошибка в одном шаге не ломает весь процесс. Оркестратор повторяет шаг, меняет стратегию или передаёт задачу другому агенту.
  • Масштабируемость — новые роли добавляются как отдельные агенты без полной переделки всей системы.

Где применяют МАС​

Корпоративный Service Desk

Один агент классифицирует тикет, второй подбирает решение через RAG, третий проверяет корректность и закрывает обращение по политике SLA.

  • RAG (Retrieval-Augmented Generation) добавляет в ответ факты из базы знаний компании.
  • SLA (Service Level Agreement) задаёт целевое время реакции и закрытия обращений.

Разработка ПО

Агент-исследователь собирает контекст по репозиторию, агент-разработчик готовит патч, агент-критик запускает тесты и проводит ревью перед merge.

  • Поток "исследование → реализация → проверка" снижает число пропущенных ошибок.
  • Подход особенно полезен в больших кодовых базах и в задачах с множеством зависимостей.
  • Про практическую оркестрацию ролей можно читать в Оркестрация AI-агентов.

Аналитика и логистика

Группа агентов моделирует поставки, проверяет ограничения и предлагает сценарии с учётом рисков по срокам и стоимости.

  • Один агент строит прогноз спроса.
  • Второй проверяет ограничения склада и транспорта.
  • Третий предлагает оптимальный план с пояснением рисков.

Для старта по теме рядом полезны:

Безопасность​

Агент наследует риски LLM и умножает их:

  • Prompt injection — вредоносный текст в документе заставляет агент выполнить лишний tool call.
  • Over-permission — агент с правами администратора БД при ошибке модели.
  • Бесконечный цикл — без max_iterations и бюджета токенов.

Митигации — минимальные права (least privilege), allow-list инструментов, human-in-the-loop на деструктивных операциях, изоляция песочницы для кода.

В мультиагентной среде риск умножается — модель, спокойная в одиночном чате, может подхватить деструктивные стратегии соседей при дефиците ресурсов и слабых санкциях. Публичный разбор на длинном горизонте — эксперимент Emergence World (Season 1, Emergence AI) — сравнение Claude, Gemini, Grok и GPT-5-mini в виртуальном городе с общей энергией и голосованиями.

Чеклист для tool call "shell" / "terminal"

Перед выполнением команды, которую предложил агент — путь, флаги Git (reset --hard, clean -fdx, push --force), отсутствие curl | bash.

Стоп-лист для разработчика — Опасные скрипты.

В корпоративной среде Microsoft стек часто строят на Azure AI Foundry / Agent Service — детали продукта меняются; принципы выше остаются.

Когда агент не нужен​

Обычный RAG-чат или классификатор дешевле и предсказуемее, если:

  • нет побочных эффектов от действий;
  • ответ всегда из фиксированной базы знаний;
  • SLA по задержке жёсткий (< 500 ms).

Агент оправдан для сценариев с инструментами: "создай отчёт по продажам за квартал и положи в SharePoint".

Практика​

Модуль Начало работы с агентами ИИ в Azure (~49 мин) — после генеративного введения. Каталог: /tools/documentation/6.

Итоги​

Агент = LLM + инструменты + контроль цикла. Проектируйте права, лимиты и наблюдаемость так же строго, как для микросервиса с доступом к продакшену. Угрозы (промпт-инъекции, sandbox, утечки) — Безопасность при работе с ИИ. Эксплуатация в проде — AgentOps; контекст через AGENTS.md и skills.

Теги:
Последнее обновление
Содержание