Развитие искусственного интеллекта (ИИ) меняет инструменты разработки и структуру рисков на ИТ-рынке. Часть типовых задач программирования, тестирования, документирования и прототипирования постепенно передаётся инструментам генерации кода. Одновременно растёт значение функций, связанных с управлением качеством, данными, безопасностью, поставщиками и ответственностью.
Эта логика согласуется с выводами OECD Employment Outlook 2023: ИИ меняет содержание задач внутри профессий и повышает спрос на навыки разработки, поддержки, использования и критической оценки ИИ-систем. В докладе ILO Working Paper 140 генеративный ИИ также рассматривается прежде всего через воздействие на задачи внутри профессий..
На этом фоне оппортунистическое поведение в ИИ-проектах становится отдельным фактором изменения спроса на труд. Чем сложнее заказчику проверить продукт, тем выше потребность в специалистах, которые способны снижать неопределённость, проверять качество и ограничивать возможности злоупотребления информационным преимуществом.
Институциональная основа: асимметрия экспертизы в ИТ
ИТ-рынок давно работает в условиях асимметрии экспертизы. Заказчик покупает систему, качество которой часто раскрывается после внедрения. Подрядчик лучше видит архитектуру, риски, технический долг, стоимость сопровождения и будущую зависимость клиента.
В институциональной экономике такие ситуации связывают с трансакционными издержками, специфичностью активов, неопределённостью и моральным риском. В российской литературе эти факторы рассматриваются, например, в работе Д. А. Буянова о модели принятия решения об использовании ИТ-аутсорсинга. В зарубежной литературе связь аутсорсинга, трансакционных издержек и оппортунизма раскрывается в исследованиях Aubert, Rivard, Patry, Lioliou, Willcocks, Liu и Lioliou, Zimmermann.
В классическом ИТ оппортунизм проявляется через завышение сложности проекта, скрытый технический долг, размытые соглашения об уровне сервиса, дорогую поддержку после внедрения, зависимость от поставщика и демонстрацию прототипа вместо промышленного решения.
В ИИ-проектах эти практики получают дополнительные основания.
Почему ИИ усиливает оппортунизм
ИИ-система содержит элементы, которые трудно проверить снаружи: обучающие данные, веса модели, промпты, векторные представления, конвейер поиска и генерации, фильтры, постобработку, обратную связь от людей и внешние программные интерфейсы.
Проблема закрытости машинного обучения подробно описана в статье Jenna Burrell «How the machine "thinks"». Исследования алгоритмической прозрачности и подотчётности также показывают, что проверяемость ИИ-систем требует специальных процедур и правовых механизмов; российский обзор этой проблемы представлен в статье Кутейникова, Ижаева, Зенина и Лебедева об алгоритмической прозрачности..
ИИ также усиливает маркетинговое преувеличение. Обычную автоматизацию можно представить как решение на базе ИИ, поиск по базе знаний — как интеллектуального агента, набор правил — как машинное обучение. В литературе такие практики обсуждаются как приукрашивание ИИ и этическое приукрашивание. Для этого блока полезны систематический обзор цифрового этического приукрашивания и статья Agnieszka Kozarkiewicz об искусственном обмане и приукрашивании ИИ.
Зоны риска и новые трудовые функции в ИИ
Первая зона риска связана с качеством. Удачные ответы модели легко показать на демонстрации. Слабые сценарии исключаются из демонстрационного набора. Бенчмарки дают неполную картину: исследование Li и Flanigan о загрязнении задач показывает, что результаты языковых моделей могут завышаться при пересечении обучающих данных и тестовых задач.
Эта зона риска формирует спрос на специалистов по оценке качества ИИ. Их задача — создание контрольных наборов данных, проверка модели на реальных сценариях, мониторинг деградации качества и фиксация критериев приёмки.
Вторая зона риска связана с зависимостью от поставщика. В облачных решениях зависимость от поставщика уже связана с программными интерфейсами, форматами данных, стандартами и стоимостью миграции. Это подробно рассматривается в статье Opara-Martins, Sahandi и Tian о зависимости от поставщика в облачных вычислениях.
В ИИ эта зависимость расширяется: появляются поставщик большой языковой модели, векторная база, среда разработки агентных сценариев, дообученная модель, формат журналов, конвейер оценки качества и история пользовательских диалогов. Это создаёт спрос на специалистов по управлению поставщиками ИИ, оценке стоимости выхода из решения и контролю условий использования данных.
Третья зона риска связана с данными. Клиентские документы, обращения пользователей, разметка, обратная связь и внутренние знания компании становятся ресурсом для работы и улучшения модели. Оппортунизм здесь выражается в расширенном использовании данных, слабом контроле хранения и неопределённых правах на производные артефакты: промпты, векторные представления, синтетические данные, дообученные модели.
Эта зона формирует спрос на менеджеров данных для ИИ, специалистов по правам на данные, контролю разметки, управлению доступом, хранению и удалению данных.
Четвертая зона риска связана с безопасностью. ИИ-система может раскрывать чувствительные данные через журналы, контекст запроса, подключённые источники, ошибки настройки доступа и инъекции промптов. Работа Greshake и соавторов о непрямой инъекции промптов показывает, что интегрированные с языковыми моделями приложения создают новые контуры атаки.
Эта зона формирует спрос на специалистов по безопасности ИИ, аудиту промптов, проверке внешних подключений, контролю журналов и тестированию устойчивости ИИ-приложений.
Пятая зона риска связана с ответственностью. Исследование Santoni de Sio и Mecacci о разрывах ответственности в ИИ показывает, что сложные ИИ-системы затрудняют распределение ответственности между людьми и организациями. Российский правовой контекст можно дополнить статьёй Селивановой и Саркисян о моделях ответственности за вред от систем ИИ.
Эта зона риска формирует спрос на владельцев ИИ-процессов, специалистов по правовому сопровождению, внутреннему контролю, регламентам использования ИИ и распределению ответственности между заказчиком, поставщиком, платформенным провайдером и пользователем.
Новая структура занятости в ИТ
Рост оппортунизма в ИИ-проектах связан с перераспределением задач внутри ИТ-занятости. Типовые операции разработки частично автоматизируются. Функции проверки, контроля, аудита, настройки процессов и управления рисками получают больший вес.
В результате внутри ИТ-проектов усиливаются следующие роли:
Эти роли отражают переход от рынка, где ключевым результатом был программный код, к рынку, где значительная часть ценности создаётся через управляемость ИИ-системы. Код сохраняет значение, но становится одним из элементов более широкого контура: данные, модель, интеграции, безопасность, ответственность, мониторинг и стоимость выхода из решения.
Практические выводы для бизнеса
Зрелый ИИ-проект требует прозрачных критериев приёмки, независимых тестовых наборов, правил использования данных, журналирования решений, плана выхода от поставщика, договорённостей о правах на артефакты, мониторинга качества и назначенных владельцев ответственности. Эта логика близка к подходу NIST AI Risk Management Framework, который выделяет управление, картирование, измерение и контроль рисков ИИ.
Главный вопрос к ИИ-системе должен звучать так:
Кто отвечает за результат, как проверяется качество, кому принадлежат данные и сколько стоит выход из решения?
Отсутствие таких договорённостей повышает риск зависимости от поставщика, роста трансакционных издержек и снижения проверяемости результата. Их наличие позволяет заказчику заранее определить механизмы контроля качества, стоимости, данных и ответственности до включения ИИ-системы в бизнес-процесс.
Поэтому изменение структуры рынка труда в ИТ будет связано и с автоматизацией разработки, и с институциональным усложнением ИИ-проектов.
