В прошлой статье мы рассматривали этапы внедрения ИИ-решений и то, как на каждом этапе обеспечить их успешную работу в компании. Однако необходимо помнить, что итерационный подход, чувствительность к данным, необходимость большого объема данных для обучения модели, а также постоянное изменение данных требуют определенного подхода к работе с AI/ML-инструментам.
MLOPs и LLMOps — для чего они нужны
Первое, на что надо обратить внимание — это платформы MLOps и LLMOps. Методология работы с ними развита на западных ИТ-рынках. К сожалению, в нашей стране культура работы с AI/ML-решениями пока не сформировалась, хотя в последние пару лет спрос на подобного рода платформы стал расти.
Платформы MLOps и LLMOps значительно сокращают время от идеи до реализации. Вместо длительных «ручных» процессов разработки, тестирования и развертывания, платформы позволяют автоматизировать большую часть работы, предоставляя командам AI -проектов возможность экспериментировать, и быстрее внедрять новые модели. Это, в свою очередь, способствует быстрому внедрению инноваций и повышению конкурентоспособности бизнеса. Благодаря автоматизированному мониторингу, тестированию и управлению версиями моделей, платформы позволяют оперативно выявлять и устранять проблемы, дообучать модели, обеспечивая бесперебойную работу AI/ML приложений в реальных условиях.
Кроме того, MLOps и LLMOps обеспечивают полный жизненный цикл решений, автоматизируют развертывание и масштабировать решений в облачной среде, динамически распределяя ресурсы в зависимости от потребностей.
Платформы предоставляют общую среду для работы специалистов Data Science, дата-инженеров и аналитиков данных, обеспечивая единый «источник правды» (единый надежный источник, который содержит точные, полные и актуальные данные, используемые для принятия решений) и упрощая коммуникацию между командами. Автоматизированный аудит и трекинг изменений позволяют отслеживать весь процесс разработки, обеспечивая прозрачность и соответствие требованиям регуляторов. С помощью MLOps и LLMOps можно перейти от разработки отдельных точечных прототипов к созданию масштабируемых и управляемых AI/ML-решений.
Оптимальная команда Data Science для AI/ML-проектов
Второй важный момент при внедрении AI/ML-проектов — это команда. Подобные проекты требуют широкого спектра знаний и навыков от специалистов: глубокое понимание статистики и математики, умение применять различные методы на практике, экспертное владение языками программирования и фреймворками AI/ML, навыки работы с данными, знание современного технологического стека, понимание архитектур AI/ML-решений, компетенций в предметной области. И найти все эти качества в одном человеке невозможно — требуется именно командная работа.
Грамотное управление проектом позволяет разделить сложные задачи на более мелкие, которые могут быть выполнены специалистами в соответствующих областях на разных этапах жизненного цикла AI/ML-решений.
- На нулевом этапе идея только формируется и необходим человек, который трансформирует потребности бизнеса в конкретные бизнес-кейсы и методы оценки их эффективности. Тут на первое место выходит роль AI Product Owner (AI PO). В предподготовке к AI/ML-проекту и анализе бизнес-процессов эта роль является критически важной, так как именно AI PO формирует виденье и стратегию проекта, опираясь на бизнес-цели и возможности AI/ML. AI PO должен понимать, как работает каждый процесс, какие проблемы существуют и какие цели преследуются. Если предполагаемый проект достаточно сложен и кросс-функционален, то в команде может появится еще одна роль — бизнес-аналитик. Он проводит интервью с ключевыми заинтересованными сторонами, изучает документацию и бизнес-процессы. AI PO на основе проведенного анализа бизнес-аналитика выявляет болевые точки и идентифицирует области, где ИИ может принести наибольшую пользу.
- На этапе исследования и прототипирования, когда есть конкретная бизнес-цель, понятны бизнес-процессы, имеются данные для проверки гипотезы подключается специалист по анализу данных или Data Science специалист. Частой ошибкой, которая ведет к неудачам в проектах или затягиванию сроков, является использование Data Science специалиста с недостаточным уровнем знаний. Обычно младший/средний специалист по Data Science не обладает опытом практической разработки AI/ML-решений. Жизненный цикл AI/ML-решения от идеи до масштабирования в зависимости от сложности проекта длится не менее полутора лет и нужно понимать, что даже специалист среднего уровня не всегда может его успеть пройти. Использование недостаточно квалифицированного специалиста без технического руководителя может привести к типовым ошибкам и в итоге к провалу проекта.
- При успешной апробации прототипа на этапе MVP AI/ML-решение необходимо внедрить в производственный контур. Для этого необходимы проектные работы по инфраструктуре, дальнейшей автоматизации поставки новых данных для работы и дообучения модели и разработки интерфейса взаимодействия с пользователем. В зависимости от задач и специфики проекта за это отвечают: архитектор, аналитик, дата-инженер, инженер ИИ, разработчики, тестировщики, DevOps/MLOps-инженеры. Этот этап специфичен для каждого проекта и команда собирается под его потребности.
Взаимозаменяемость специалистов в AI/ML-команде — ценное качество, но, как и в любой команде, полная взаимозаменяемость не всегда возможна и не всегда оптимальна. Все зависит от размера команды, сложности проектов и уровня специализации. Не все задачи могут быть выполнены любым членом команды. Data Scientist может быть экспертом в разработке моделей, но не обладать навыками дата-инженера для построения ETL-пайплайнов. Выполнение задач, не соответствующих специализации, может привести к снижению эффективности, а для выполнения новых задач специалисту может потребоваться обучение, время на адаптацию и переем практического опыта старших специалистов.
В итоге необходимо собирать команду, в которой каждый специалист обладает глубокими знаниями в своей области и базовыми знаниями в смежных областях. Это позволяет команде быть гибкой и устойчивой, сохраняя при этом высокую эффективность.
Нехватка качественной экспертизы — основной фактор риска
Наверно, самая болезненная тема при разработке AI/ML-решений — это недостаток профессиональных специалистов. Спрос на AI/ML-специалистов значительно превышает предложение, что создает острую конкуренцию на квалифицированные кадры. Компании вынуждены переманивать специалистов, предлагая высокие зарплаты и привлекательные условия.
Особенно остро ощущается нехватка старших специалистов (senior) с реальным опытом работы над сложными AI/ML-проектами, способных решать нетривиальные задачи и руководить командами, а также (в отличие от многих других ИТ-направлений) молодых специалистов (junior), так как не все образовательные программы в российских вузах успевают за стремительным развитием технологий AI/ML. Большая часть выпускников не обладают достаточными практическими навыками и знаниями, необходимыми для успешной работы в этой сфере.
Область AI/ML стремительно развивается, поэтому специалистам необходимо постоянно учиться и повышать свою квалификацию, осваивать новые инструменты и методы, обладать широким спектром знаний и навыков. Сочетание многофункциональных знаний встречается редко, кроме того, отсутствуют четкие критерии оценки квалификации AI/ML специалистов, что затрудняет процесс найма и подбора персонала.
Рост зарплат сильно повышает затраты на внедрение AI/ML-решений. Спрос на AI/ML специалистов приводит к завышенным зарплатным ожиданиям, что может быть неподъемным для многих российских компаний, особенно для малого и среднего бизнеса. Поэтому итеративный подход и оценка этапов реализации может помочь оптимизировать затраты на проект.
AI/ML: переход к реальности без ошибок
Провал AI/ML-проекта часто определяется не столько сложностью алгоритмов, сколько пониманием ключевых факторов, влияющих на его жизнеспособность. Избежать участи большинства провалившихся проектов можно, если:
- Начать с четко сформулированной бизнес-проблемы.
- Понимать риски и преимущества, правильно оценить бизнес-эффект.
- Собрать команду с необходимыми компетенциями.
- Провести анализ и обеспечить доступ к качественным и достаточным данным.
- Использовать итеративный подход к разработке и оценке AI/ML решения.
- Уделить внимание инфраструктуре и решениям MLOps/LLMOps.
- Поддерживать непрерывное обучение решения на новых данных.
- Адаптация сотрудников к изменениям в бизнес-процессах.
Итеративный подход к разработке AI-решений — это не просто предпочтительный метод, а необходимость, продиктованная уникальными вызовами и возможностями, которые представляет собой область искусственного интеллекта. Отличительными чертами AI/ML-проектов являются высокая степень неопределенности, необходимость постоянной адаптации к новым данным и меняющимся бизнес-процессам. Вместо стремления к идеальному решению с самого начала, итерации дают возможность оценивать промежуточный результат на каждом этапе, направлять разработку в нужное русло и, в конечном счете, создавать более надежные, точные и полезные решения.
в Telegram