По словам представителей банков, использование больших языковых моделей (LLM) часто не дает значимых эффектов. При этом другие технологии на базе искусственного интеллекта (ИИ) приносят банкам миллиарды рублей.
Заместитель президента — председатель правления банка ВТБ Вадим Кулик рассказал, что большие языковые модели (LLM) пока не приносят осязаемых доходов, тогда как иные технологии искусственного интеллекта на базе нейросетей стали важным инструментом повышения эффективности бизнеса. Об этом Вадим Кулик заявил на встрече с представителями СМИ.
По его данным, ВТБ использует около 1800 различных ИИ-моделей, но с LLM связаны менее ста из них. По словам Вадима Кулика, модели с такими функциями как прогноз возврата кредита или вероятности отказа от предложения (не требующие LLM) приносят банку десятки миллиардов рублей. «Большие языковые модели только выходят на окупаемость, — отметил Вадим Кулик. — Пока с точки зрения заработка LLM очень скромны».
Он добавил, что создание языковой модели упирается в дороговизну (стартовый чек, по его оценке, — 50 млрд руб.) и наличие большого объема данных для обучения. ВТБ использует две LLM: в последние полгода — YandexGPT от «Яндекса» и Qwen от китайской Alibaba Cloud.
«Все большие языковые модели очень чувствительны к данным, которыми их «кормят», — сказал Вадим Кулик. — Для качественного обучения ИИ-модели требуются данные от большого количества пользователей. Поэтому Китай, с его полуторамиллиардным населением, будет быстро уходить вперед».
В декабре глава ПАО «Сбербанк» Герман Греф сообщил в ходе «Дня инвестора», что к 2026 г. совокупный финансовый эффект «Сбера» от внедрения ИИ по всем направлениям достигнет 550 млрд руб. При этом он отметил, что генеративный искусственный интеллект не приносит ожидаемой эффективности. «Отдача, которую мы ожидаем, будет связана со всем спектром искусственного интеллекта, который мы внедряем. В этом контексте текущие вложения в генеративный искусственный интеллект пока не приносят ожидаемой прибыли», — отметил Герман Греф.
Эксперты, опрошенные ComNews, согласились, что LLM в банках пока не всегда приносят ожидаемые эффекты. Коммерческий директор «Девелоники» FabricaONE.AI (акционер — ГК Softline) Роман Смирнов подтвердил: в финсекторе основную отдачу дают классические методы машинного обучения — скоринговые модели, прогнозирование дефолта, модели отклика и оттока. Эти решения имеют накопленную десятилетнюю экспертизу и в них у российских разработчиков и компаний выстроены стабильные процессы эксплуатации и внедрения.
При этом большие языковые модели пока редко дают прямой денежный эффект, потому что находятся в стадии накопления кейсов, инфраструктуры и компетенций. «Их внедрение сопровождается существенными капитальными и операционными затратами — далеко не все подрядчики выстроили методологии и стратегии в командах. Экономика здесь отложенная: бизнес только формирует воронку сценариев применения и сможет полноценно измерить совокупный эффект на горизонте 1-3 лет с учетом инвестиций, экспериментов, переобучения сотрудников и перестройки процессов», — считает Роман Смирнов.
Старший управляющий директор AppSec Solutions Антон Башарин также подтвердил, что внедрение LLM для банков затратно: «Нужны видеокарты, память, процессоры, которые надо охлаждать и менять. Это покупают за рубежом. Плюс переплачивать за обход ограничений на покупку подобных технологий. С другой стороны, обучить модель «с нуля» — тоже крайне трудозатратно. Сбор данных, нормализация и очистка, процесс обучения — это время и люди».
А руководитель по развитию бизнеса Postgres Professional Алексей Викулин отметил, что что LLM модели чаще «галлюциниуют», а в финансовом секторе цена такого глюка, даже единичного, может быть «непозволительно велика».
При этом эксперты отметили, что эффекты от внедрения LLM бывает сложно оценить. Директор по развитию ИИ «Группы Астра» Станислав Ежов объяснил, что LLM чаще всего не «зарабатывают напрямую», а решают задачи операционной эффективности. Эффект от таких внедрений сложно сразу отразить в выручке — он проявляется в виде экономии ресурсов, снижения издержек и улучшения качества сервиса.
Согласно исследованию консалтинговой компании «Яков и партнеры» и «Яндекса», 71% крупных российских компаний используют генеративный ИИ хотя бы в одной функции бизнеса. На генеративный ИИ компании в среднем тратят порядка 4% от ИТ-бюджета.
Банки активно внедряют искусственный интеллект. Заместитель председателя правления банка ДОМ.РФ Николай Козак рассказал ComNews, что ДОМ.РФ использует ИИ в бизнес-процессах. «ДОМ.РФ Технологии» (ИТ-компания ДОМ.РФ) запустила платформу DOM.IDP для интеллектуальной обработки документов. С помощью решения компании удалось повысить скорость рабочих процессов на 17%, увеличить производительность труда на 15%, сократить издержки на 11%, улучшить качество данных на 7%. Один из ее модулей применяется в работе банка ДОМ.РФ, помогая распознавать договоры долевого участия, что ускоряет выдачу ипотеки», — привел пример Николай Козак.
ДОМ.РФ также запустил платформу для создания ИИ-агентов. В рамках пилота первый ИИ-агент запущен для проверки качества процессов программирования. По прогнозам банка, такой инструмент поможет сэкономить 30% времени на рутинных проверках, повысить качество кода.
