Развитие ИИ меняет инструменты разработки и структуру рисков на ИТ-рынке. Часть типовых задач программирования, тестирования, документирования и прототипирования постепенно передается инструментам генерации кода. Одновременно растет значение функций, связанных с управлением качеством, данными, безопасностью, поставщиками и ответственностью.
Эта логика согласуется с выводами OECD Employment Outlook 2023: ИИ меняет содержание задач внутри профессий и повышает спрос на навыки разработки, поддержки, использования и критической оценки ИИ-систем14. В докладе ILO Working Paper 140 генеративный ИИ также рассматривается прежде всего через воздействие на задачи внутри профессий15.
На этом фоне оппортунистическое поведение в ИИ-проектах становится отдельным фактором изменения спроса на труд. Чем сложнее заказчику проверить продукт, тем выше потребность в специалистах, которые способны снижать неопределенность, проверять качество и ограничивать возможности злоупотребления информационным преимуществом.
Институциональная основа
ИТ-рынок давно работает в условиях асимметрии экспертизы. Заказчик покупает систему, качество которой часто раскрывается после внедрения. Подрядчик лучше видит архитектуру, риски, технический долг, стоимость сопровождения и будущую зависимость клиента.
В институциональной экономике такие ситуации связывают с трансакционными издержками, специфичностью активов, неопределенностью и моральным риском. В российской литературе эти факторы рассматриваются, например, в работе Д.А. Буянова о модели принятия решения об использовании ИТ-аутсорсинга1. В зарубежной литературе связь аутсорсинга, трансакционных издержек и оппортунизма раскрывается в исследованиях Aubert, Rivard, Patry2, Lioliou, Willcocks, Liu3 и Lioliou, Zimmermann4.
В классическом ИТ оппортунизм проявляется через завышение сложности проекта, скрытый технический долг, размытые соглашения об уровне сервиса, дорогую поддержку после внедрения, зависимость от поставщика и демонстрацию прототипа вместо промышленного решения.
В ИИ-проектах эти практики получают дополнительные основания.
Почему ИИ усиливает оппортунизм
ИИ-система содержит элементы, которые трудно проверить снаружи: обучающие данные, веса модели, промпты, векторные представления, конвейер поиска и генерации, фильтры, постобработку, обратную связь от людей и внешние программные интерфейсы.
Проблема закрытости машинного обучения подробно описана в статье Jenna Burrell "How the machine 'thinks'"5. Исследования алгоритмической прозрачности и подотчетности также показывают, что проверяемость ИИ-систем требует специальных процедур и правовых механизмов; российский обзор этой проблемы представлен в статье Кутейникова, Ижаева, Зенина и Лебедева об алгоритмической прозрачности6 .
ИИ также усиливает маркетинговое преувеличение. Обычную автоматизацию можно представить как решение на базе ИИ, поиск по базе знаний как интеллектуального агента, набор правил как машинное обучение. В литературе такие практики обсуждаются как приукрашивание ИИ и этическое приукрашивание. Для этого блока полезны систематический обзор цифрового этического приукрашивания7 и статья Agnieszka Kozarkiewicz об искусственном обмане и приукрашивании ИИ8.
Зоны риска и новые трудовые функции
Первая зона риска связана с качеством. Удачные ответы модели легко показать на демонстрации. Слабые сценарии исключаются из демонстрационного набора. Бенчмарки дают неполную картину: исследование Li и Flanigan о загрязнении задач9 показывает, что результаты языковых моделей могут завышаться при пересечении обучающих данных и тестовых задач.
Эта зона риска формирует спрос на специалистов по оценке качества ИИ. Их задача состоит в создании контрольных наборов данных, проверке модели на реальных сценариях, мониторинге деградации качества и фиксации критериев приемки.
Вторая зона риска связана с зависимостью от поставщика. В облачных решениях зависимость от поставщика уже связана с программными интерфейсами, форматами данных, стандартами и стоимостью миграции. Это подробно рассматривается в статье Opara-Martins, Sahandi и Tian о зависимости от поставщика в облачных вычислениях10 .
В ИИ эта зависимость расширяется: появляются поставщик большой языковой модели, векторная база, среда разработки агентных сценариев, дообученная модель, формат журналов, конвейер оценки качества и история пользовательских диалогов. Это создает спрос на специалистов по управлению поставщиками ИИ, оценке стоимости выхода из решения и контролю условий использования данных.
Третья зона риска связана с данными. Клиентские документы, обращения пользователей, разметка, обратная связь и внутренние знания компании становятся ресурсом для работы и улучшения модели. Оппортунизм здесь выражается в расширенном использовании данных, слабом контроле хранения и неопределенных правах на производные артефакты: промпты, векторные представления, синтетические данные, дообученные модели.
Эта зона формирует спрос на менеджеров данных для ИИ, специалистов по правам на данные, контролю разметки, управлению доступом, хранению и удалению данных.
Четвертая зона риска связана с безопасностью. ИИ-система может раскрывать чувствительные данные через журналы, контекст запроса, подключенные источники, ошибки настройки доступа и инъекции промптов. Работа Greshake и соавторов о непрямой инъекции промптов11 показывает, что интегрированные с языковыми моделями приложения создают новые контуры атаки.
Эта зона формирует спрос на специалистов по безопасности ИИ, аудиту промптов, проверке внешних подключений, контролю журналов и тестированию устойчивости ИИ-приложений.
Пятая зона риска связана с ответственностью. Исследование Santoni de Sio и Mecacci о разрывах ответственности в ИИ12 показывает, что сложные ИИ-системы затрудняют распределение ответственности между людьми и организациями. Российский правовой контекст можно дополнить статьей Селивановой и Саркисян о моделях ответственности за вред от систем ИИ13.
Эта зона риска формирует спрос на владельцев ИИ-процессов, специалистов по правовому сопровождению, внутреннему контролю, регламентам использования ИИ и распределению ответственности между заказчиком, поставщиком, платформенным провайдером и пользователем.
Новая структура занятости
Рост оппортунизма в ИИ-проектах связан с перераспределением задач внутри ИТ-занятости. Типовые операции разработки частично автоматизируются. Функции проверки, контроля, аудита, настройки процессов и управления рисками получают больший вес.
В результате внутри ИТ-проектов усиливаются следующие роли:
Эти роли отражают переход от рынка, где ключевым результатом был программный код, к рынку, где значительная часть ценности создается через управляемость ИИ-системы. Код сохраняет значение, но становится одним из элементов более широкого контура: данные, модель, интеграции, безопасность, ответственность, мониторинг и стоимость выхода из решения.
Практический вывод
Зрелый ИИ-проект требует прозрачных критериев приемки, независимых тестовых наборов, правил использования данных, журналирования решений, плана выхода от поставщика, договоренностей о правах на артефакты, мониторинга качества и назначенных владельцев ответственности. Эта логика близка к подходу NIST AI Risk Management Framework, который выделяет управление, картирование, измерение и контроль рисков ИИ16 .
Вопрос к ИИ-системе должен звучать так:
Кто отвечает за результат, как проверяется качество, кому принадлежат данные и сколько стоит выход из решения?
Отсутствие таких договоренностей повышает риск зависимости от поставщика, роста трансакционных издержек и снижения проверяемости результата. Их наличие позволяет заказчику заранее определить механизмы контроля качества, стоимости, данных и ответственности до включения ИИ-системы в бизнес-процесс. Поэтому изменение структуры рынка труда в ИТ будет связано с автоматизацией разработки и с институциональным усложнением ИИ-проектов.
Литература
1 Буянов Д.А. Модель принятия решения об использовании ИТ-аутсорсинга. Вестник Южно-Уральского государственного университета. Серия: Экономика и менеджмент, 2015.
3 Lioliou E., Willcocks L., Liu X. Researching IT multi-sourcing and opportunistic behavior in conditions of uncertainty. Journal of Business Research.
5 Burrell J. How the machine "thinks": Understanding opacity in machine learning algorithms. Big Data & Society, 2016.
6 Кутейников Д.Л., Ижаев О.А., Зенин С.С., Лебедев В.А. Алгоритмическая прозрачность и подотчетность: правовые подходы к разрешению проблемы "черного ящика". Lex Russica, 2020.
7 Schultz M.D., Conti L.G., Seele P. Цифровое этическое приукрашивание: систематический обзор и рамка "процесс — восприятие — результат". AI and Ethics, 2025.
9Li C., Flanigan J. Task Contamination: Language Models May Not Be Few-Shot Anymore. AAAI, 2024.
11 Greshake K., Abdelnabi S., Mishra S., Endres C., Holz T., Fritz M. Компрометация реальных приложений, интегрированных с большими языковыми моделями, через непрямую инъекцию промпта. 2023.
12 Santoni de Sio F., Mecacci G. Four Responsibility Gaps with Artificial Intelligence. Philosophy & Technology, 2021.
14 OECD. OECD Employment Outlook 2023: Artificial Intelligence and the Labour Market. OECD Publishing, 2023.
15 Gmyrek P., Berg J., Kamiński K., Konopczyński F., Ładna A., Nafradi B., Rosłaniec K., Troszyński M. Generative AI and Jobs: A Refined Global Index of Occupational Exposure. ILO Working Paper 140, 2025.
