Никита Колганов, Илья Маршаков, Data Sapience: Чем выше цена ошибки ИИ-агента, тем важнее контроль человека

Опубликовано: 9 октября 2026 · Источник: TAdviser

Никита
Колганов Чем серьезнее последствия ошибки, тем важнее сохранять контроль за человеком.

Никита, для начала коротко расскажите о TALYS.AML. Какие задачи решает система и для каких организаций она предназначена?

Никита Колганов: TALYS.AML предназначен для автоматизации задач по противодействию отмыванию денег и финансированию терроризма (ПОД/ФТ) и связанного комплаенса. В основном наши заказчики — банки, но требования 115-ФЗ распространяются и на некредитные финансовые организации, поэтому пользователями могут быть страховые компании, профессиональные участники финансового рынка.

Система автоматизирует выявление подозрительных операций, требующих внимания комплаенс-офицера, дальнейшую работу с инцидентами и последующую отправку регуляторной отчетности. Сотрудник получает сигнал от TALYS.AML, проводит полноценное расследование, собирает необходимую информацию и принимает решение по кейсу. Сейчас в эти процессы мы встраиваем ИИ-агентов, которые помогают сократить объем ручной работы.

ПОД/ФТ — область с жестким регулированием и высокой ценой ошибки. Какие задачи здесь уже можно передавать ИИ-агентам, а какие должны оставаться за человеком?

Никита Колганов: ПОД/ФТ хорошо подходит для автоматизации, ведь значительная часть работы здесь строится по четким алгоритмам и процедурам: понятно, какие данные нужно собрать и сверить, какие документы проанализировать, какие проверки провести. В то же время это очень жестко регулируемая область с высокой ценой ошибки, поэтому внедрять ИИ нужно осторожно: галлюцинации больших языковых моделей (LLM) в комплаенсе недопустимы.

По опыту проектов Data Sapience, агентам можно передавать первичный анализ договоров, писем, выписок и других документов — для аналитика это существенная часть работы. ИИ также может собирать и сверять данные из разных источников. В некоторых случаях агенту можно поручить и промежуточные действия, например, автоматический запрос определенного набора документов.

Важно смотреть на последствия ошибки: если действие можно легко отменить или скорректировать, степень автоматизации с помощью ИИ может быть выше. Но окончательное решение, особенно в серой зоне, должно всегда оставаться за человеком.

Как в таком случае меняется повседневная работа комплаенс-офицера?

Никита Колганов: Сам процесс расследования принципиально не меняется. Система ПОД/ФТ по заданным правилам выявляет операции или поведение клиента, которые требуют дополнительной проверки. Дальше комплаенс-офицеру в любом случае нужно разобраться в ситуации: изучить информацию о клиенте, при необходимости запросить дополнительные документы, проверить их и принять решение. ИИ встраивается именно в эту работу и ускоряет практически каждый этап.

Например, вместо сухого набора признаков агент может подготовить более содержательную сводку по ситуации. Если одновременно сработало много сигналов, он может помочь расставить их по приоритету с учетом дополнительных признаков. Затем часто нужно запросить документы у клиента, проверить полученный ответ — здесь агент тоже может собрать информацию и провести предварительный анализ, например, подсветить, что присланный документ не соответствует запрошенному. То есть ИИ поддерживает специалиста на протяжении расследования, а финальное решение по-прежнему принимает человек.

В ПОД/ФТ решение должно быть объяснимым и воспроизводимым. Как контролировать работу агента на базе больших языковых моделей (LLM) и понимать, почему он пришел к тому или иному выводу?

Никита Колганов: Вы правы: любой вывод должен опираться на определенный источник, а пользователь должен иметь возможность посмотреть, на основании каких данных вывод был сделан, проверить их и самостоятельно оценить результат.

В TALYS.AML мы логируем действия системы, в том числе работу с промптами. При внедрении новых механизмов проводим регрессионное тестирование: смотрим на исторических данных, как система сработала бы, если бы этот механизм использовался раньше.

Кроме того, ИИ не должен самостоятельно выносить окончательный вердикт о клиенте. Результатом остается мотивированное заключение, за которым стоит человек. Это позволяет сохранить контроль и ответственность за решение.

Одна из хронических проблем ПОД/ФТ — большое количество срабатываний, которые приходится разбирать специалистам. Может ли ИИ уменьшить эту нагрузку, не увеличивая риск пропустить действительно подозрительную операцию?

Никита Колганов: ИИ может использоваться и как дополнение к алгоритмам. Есть обязательные алгоритмы выявления ОТ/ФТ, которые хорошо объяснимы, но могут давать большое количество кейсов для последующего рассмотрения. Если их становится слишком много, сами алгоритмы корректируют — это стандартная практика.

ИИ позволяет дополнительно анализировать уже выявленные кейсы. Например, агент может обнаружить дополнительные сведения о клиенте и помочь специалисту точнее определить приоритет расследований.

Есть и другой сценарий — поиск новых схем на исторических данных. С помощью методов машинного обучения можно находить аномалии или группы операций с похожими признаками и передавать их специалисту вместе с собранной информацией. Если эксперт подтверждает, что обнаруженная схема действительно значима, на ее основе можно сформировать новое правило и уже дальше использовать его в системе.

Так что да, ИИ действительно помогает сократить число кейсов, требующих внимания специалиста, не повышая риск пропустить подозрительную операцию.

Илья
Маршаков Каждый новый ИИ-агент должен обходиться дешевле и выходить в промышленную эксплуатацию быстрее.

Илья Маршаков: В целом эффект от ИИ сильно зависит от конкретной задачи и исходного уровня автоматизации процесса. В проектах Data Sapience по анализу документации мы наблюдали ускорение подготовки материалов в три раза у одного заказчика и на 70% – у другого. В другом сценарии, где оператору контакт-центра нужно было сопоставлять информацию от пользователя с внутренней базой, операция, занимавшая три-пять минут, с агентом выполнялась за секунды в зависимости от вычислительных ресурсов. Но если процесс уже хорошо автоматизирован классическими средствами, ожидать столь же заметного эффекта от ИИ не стоит.

Получается, чем меньше исходный процесс автоматизирован, тем заметнее может быть эффект от ИИ. Не возникает ли отсюда соблазн внедрять агентов прямо поверх невыстроенных процессов, вместо того чтобы сначала привести их в порядок?

Илья Маршаков: И да, и нет. Современные подходы позволяют дать ИИ задачу и предоставить ему возможность самостоятельно построить последовательность действий, а затем выполнить ее. Проблема в том, что для одного запроса агент может выбрать один план, а для следующего — другой. В результате снижаются предсказуемость и стабильность результата.

Поэтому при создании агентов мы в Data Sapience придерживаемся архитектурного подхода, при котором используем возможности ИИ, но сохраняем контроль над логикой процесса. Эту логику определяют принятые в организации алгоритмы и процедуры, а не сам ИИ. В случае ПОД/ФТ часть этих процедур дополнительно определяется законодательством и отраслевыми требованиями.

До сих пор мы говорили об ИИ-агентах на примере конкретного отраслевого продукта — TALYS.AML. Илья, вы представляете другое направление Data Sapience — платформу Kolmogorov AI, на которой компании могут создавать собственных агентов. Как эти два подхода связаны между собой?

Источник: TAdviser · Оригинал статьи: Никита Колганов, Илья Маршаков, Data Sapience: Чем выше цена ошибки ИИ-агента, тем важнее контроль человека

Назад к списку

Горячая линия
Предпродажное обслуживание: 13241121312
Послепродажное обслуживание: 010-84932407
WeChat
WeChat такой же, как: 13241121312
QR-код WeChat
Наверх