Искусственный интеллект снова атакует
.png "Искусственный интеллект снова атакует")
По данным опроса Высшей школы бизнеса НИУ ВШЭ, 80% компаний уже применяют или собираются применять инструменты искусственного интеллекта (ИИ) в своих бизнес-процессах. Напомним, что ИИ - это обширная и разнородная область Computer Science, включающая в себя такие направления, как нейросети, машинное обучение, глубинное обучение, обучение с подкреплением, компьютерное зрение и общение на естественном языке.
Задачи, с которыми должны справляться машины, чтобы их можно было считать «интеллектуальными», - умение распознавать изображения, решать задачи, понимать человеческий язык, анализировать данные и выдавать экспертные оценки - были определены более полувека назад.
Тогда же появился термин «искусственный интеллект». Удивительно, что ранние ИИ-разработки были сосредоточены в основном на классических играх, в первую очередь шахматах, а также на попытках алгоритмического машинного перевода, которые велись с конца 1950-х. Именно успехи в игровом поединке с человеком считались мерой разумности машины. В 1996 году весь мир следил за матчем компьютера Deep Blue с тогдашним чемпионом мира по шахматам Гарри Каспаровым (признан в России иноагентом). Победа Deep Blue принесла славу ее создателям и подняла акции компании ІВМ, вложившейся в этот проект.
Сейчас ИИ проник во все сферы человеческой деятельности: образование, науку, искусство, промышленность и транспорт. А когда вычислительные мощности перестали ограничивать объемы обработки данных, компании стали производить их в невиданных прежде масштабах, и бизнес вступил в эру ИИ.
У этого понятия есть разные определения. Они довольно сложные, поэтому мы воспользуемся объяснением «на пальцах», предложенным Рубеном Ениколоповым, научным руководителем Российской экономической школы.
Допустим, что у нас есть таблица Excel. В первой колонке число, во второй - тоже число, а в третьей - их произведение. Excel сама перемножит числа, если вы введете формулу умножения. А теперь представим себе, что формулы нет, но есть несколько строк из трех чисел: множитель, множитель, произведение и т. д. Вы хотите, чтобы машина сама догадалась, что в третьей колонке произведение чисел. Это и есть задача для ИИ, и сейчас он решает ее для огромных и многомерных массивов данных разного формата, а вместо простой формулы произведения выдает сложные интегральные метрики. Бизнес-применение ИИ опирается в первую очередь на его способность улавливать закономерности в массивах данных.
Экономика
Системы, которые относятся к классу ИИ, - многомиллиардная индустрия. По прогнозу IDC, в 2023 году мировой объем инвестиций в ИИ достигнет $154 млрд, а к 2026 году - $300 млрд (в оценку включены софт и «железо»). Как распределятся эти миллиарды? Из 36 сфер применения ИИ, выделенных IDC, самыми востребованными в 2023 году будут умные чат-боты для поддержки клиентов, системы анализа продаж и рынков и рекомендательные сервисы. В эти направления будут вкладываться компании всех отраслей, и в совокупности они принесут поставщикам решений примерно $40 млрд. Также значительными будут инвестиции бизнеса в технологии ИИ для оптимизации ИТ-инфраструктуры, расширенной аналитики киберрисков, анализа и расследований мошенничества и обмана. Отрасли с наибольшими инвестициями в ИИ - банковский сектор и ритейл (см. врез справа).
Исследовательские фирмы Precedence Research и Acumen тоже предсказывают бурный рост инвестиций в ИИ в 2023-м и последующие годы. Однако исследование Стэнфордского университета свидетельствует о том, что это будет не только рост, но и восстановление: в 2022 году корпоративные инвестиции в ИИ упали на 26,7% по сравнению с 2021 годом. Этому охлаждению, однако, предшествовал серьезный рост: с 2013 по 2020 год инвестиции корпоративного сектора в ИИ увеличились в 18 раз. Главным фактором роста был не утихающий вплоть до 2020 года оптимизм и даже хайп вокруг машинного обучения и ИИ в целом, подогреваемый бизнес-гуру. Откат начался в 2021 году, а в 2022 году снизилось как общее число сделок по приобретению решений с ИИ, так и число ИИ-стартапов. Вероятно, сказалось разочарование: лишь небольшая доля компаний смогла нарастить доход и прибыль благодаря ИИ-решениям. Доля американских компаний, которые внедрили их хотя бы в одном функциональном подразделении, перестала расти: согласно опросу McKinsey, в 2019 году таковых было 58%, а в 2022 году - лишь 50%. Сказались и неудачный опыт внедрения иИ в разные функции компаний, и общее разочарование в его возможностях, связанное с пандемией: роль ИИ в предиктивной аналитике была неубедительной. Автор статьи в HBR связывает это в первую очередь с качеством данных, которыми пользовались национальные системы здравоохранения.
В 2022 году бизнес не спешил внедрять разработки по ИИ в повседневную практику. «Многие компании, которые решили строить собственные приложения на основе ИИ и аналитики, сталкиваются с одной и той же проблемой. Они нанимают дата-сайентистов, те строят модели, но эти модели редко реализуются на практике. Недавний опрос дата-сайентистов показал, что лишь 20% моделей реально дошли до имплементации», пишет евангелист применения ИИ в бизнесе Томас Дэвенпорт.
Вектор снова повернул вверх с приходом ChatGPT. Бизнес опять поверил в то, что ИИ-решения способны обеспечить подьем эффективности в разных сферах. Инвестиции в стартапы, которые имели в своем описании генеративный ИИ (generative artificial intelligence), в 1 квартале 2023 года взлетели в разы - до $12 млрд. Даже без учета тех $10 млрд, которые компания Microsoft вложила в создателя ChatGPT OpenAI, рост год к году составил 58%. А уже летом 2023 года американский канал CNN заговорил о новом ИИ-пузыре с неясным будущим (в том числе из-за быстро меняющейся регуляторной среды).
По мнению доцента факультета компьютерных наук НИУ ВШЕ Евгения Соколова, сейчас технологии ИИ находятся на поворотном этапе: алгоритмы действительно работают и могут приносить пользу, но при этом мы мало понимаем их свойства, ограничения и потенциальные риски: «Грубо говоря, мы умеем получать гигантскую формулу, которая выдает очень неплохие решения задачи, но при этом не можем в этой формуле разобраться и гарантировать ее корректность. А без понимания устройства этих алгоритмов невозможно говорить об их надежности, стабильности и непредвзятости».
Российский рынок ИИ
Правительство России до 2030 года направит около 24,6 млрд руб. на развитие технологий ИИ, еще около 100 млрд руб. в это направление вложит «Сбер», следует из утвержден-ной властями дорожной карты. К 2024 году, согласно этому документу, обьем рынка технологий на базе ИИ в России составит 14 млрд руб. Это более чем в 10 раз меньше оценок, заложенных в аналогичную программу от 2019 года, отмечает «Коммерсанть». Но даже обновленные планы реализовать будет сложно, считают эксперты: для этого просто не хватит высокопроизводительного зарубежного оборудования вроде видеокарт Nvidia.
Лидеры финтех рынка в России инвестировали в ИИ около 600 млрд руб. за последние 10 лет, говорится в свежем исследовании ассоциации «ФинТех». По данным опроса, к середине 2023 года 80% финансовых компаний имеют подразделения по анализу данных, но только у 17% компаний есть централизованные структуры по работе с ИИ-решениями 95% компаний финансового сектора используют ИИ-технологии в основных процессах. Респонденты отметили, что главными барьерами внедрения ИИ являются дефицит профильных специалистов, а также отсутствие отечественных инструментов для работы с машинным обучением.
По словам Германа Грефа, в «Сбере» ИИ широко применяется в разных бизнес-функциях. В интервью РБК он сказал: «<...> На сегодняшний день в подавляющем большинстве наших сервисов мы локализовали собственные разработки на 100%. Это же касается искусственного интеллекта. Все, что касается <...> больших языковых моделей и трансформеров, это от начала до конца наша собственная разработка. И мы не зависим ни от каких вендоров». По словам Грефа, у «Сбера» достаточно собственных данных, чтобы обучить свои модели, а единственное узкое место - это «железо». «Для задач искусственного интеллекта нужны специализированные чипы, так называемые ASIC application-specific integrated circuit, интегральная схема для конкретного применения], и целый ряд других специализированных инструментов, которые производят несколько компаний в мире. Это сегодня вызов». Свои ИИ-решения, например по Deep Learning, «Сбер» использует в разных частях экосистемы, но не как коммерческий продукт.
Перспективы развития ИИ в банковском секторе видит и Банк России. В начале апреля регулятор заявил о собственных планах создания центра компетенций по ИИ.
В «Яндексе» ИИ интегрирован во множество сервисов: собственно поиск, YandexGo, Yandex Market. «Яндекс» разрабатывает свою версию генеративной сети ChatGPT на базе решений GPT-3 от компании OpenAI. Проект в итоге назвали Yande×GPT. YandexGPT умеет тезисно пересказывать текст (сервис 300.ya.ru), а также генерирует тексты в режиме реального времени и форматирует их. В августе 2023 года «Яндекс» объявила, что на технологической платформе «Яндекс.Учебник» будет построена образовательная нейросеть на базе YandexGPT для помощи в изучении программирования. Ожидается, что бесплатный обучающий сервис для детей и подростков появится в открытом доступе в 2024 году.
По данным CNews, российский рынок ИИ быстро растет, суммарная выручка топ-10 участников третьего рейтинга крупнейших игроков увеличилась на две трети. С 2022 года российский бизнес активно внедряет распознавание и синтез речи, чат-боты и голосовых виртуальных ассистентов.
Дмитрий Дырмовский, СЕО группы компаний ЦРТ (занимает второе место на рынке ИИ по версии CNews), основываясь на статистике заказчиков своей компании, отмечает повышение интереса к речевой аналитике и диалоговым ассистентам. «Направление диалоговых ассистентов - текстовых и голосовых роботов для банков, телекомкомпаний, госсектора - в 2022 году выросло на 90% по сравнению с 2021 годом; развивались проекты по голосовому заполнению медицинских протоколов», - говорит он. Второе по количеству проектов направление ИИ в российских компаниях и в госсекторе - распознавание изображений и компьютерное зрение, отмечает Дырмовский.
По оценке Александра Корнева, операционного директора Rubbles, доля собственной и заказной разработки на российском ИИ-рынке измеряется десятками процентов: «Это связано с тем, что для многих западных решений, ушедших с рынка, нет прямых российских аналогов. То есть у заказчиков нет другой возможности, кроме разработки с нуля - самостоятельно или с привлечением аутсорсера».
«Многие ведущие российские компании разных отраслей - металлурги, энергетики и даже РЖД - внедряют собственные разработки по ИИ для оптимизации ИТ-архитектуры и операций, - говорит профессор департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ Петр Панфилов. - И чаще всего они пользуются библиотеками из open source. Алгоритмы, на основе которых строятся ИИ-решения, универсальны - математика не делится на западную и отечественную. Российские математики сильные, и у разработчиков ПО есть очень продвинутые решения. Наша проблема в ИИ, как и во многом другом, - долгий, а зачастую и непреодолимый путь от разработки до промышленного внедрения».
«В России фундаментальными исследованиями в сфере ИИ занимаются не только университеты, но и ряд компаний. К примеру, исследователи из «Яндекса», «Сбера», «Тинькофф» регулярно публикуют свои результаты на ведущих конференциях по ИИ. Уверен, что если инвестиции в такую работу сохранятся, то скоро появятся прорывные методы, разработанные уже нашими учеными», - полагает Евгений Соколов.
Законы и этика
В 2022 году в мире было принято 37 законов, регулирующих разработку и применение систем ИИ. На диаграмме видно, как госрегулирование отрасли усиливается в последние годы. По оценке EY, совокупные затраты компаний списка Fortune 500 на комплаенс в сфере данных в 2022 году могли составить $8 млрд. «Сейчас более 100 юрисдикций - страны, штаты и города - вводят собственные законы о персональных данных. Это дополнительно отягощает прохождение лабиринта регуляторных требований, в котором может заблудиться практически любая глобальная компания, взаимодействующая с потребителем. Все это сравнимо с появлением нового налога: большие расходы, большие риски, сложность выполнения требований и невозможность от него уйти», - пишут эксперты EY.
Одной из главных вех в регулировании этой сферы стало появление в 2018 году общего регламента C о защите персональных данных, устанавливающего штрафы за нарушения в размере от €10 млн до €20 млн или от 2 до 4% от глобальной выручки для компаний. За прошедшие годы примеру ЕС последовали и другие страны. В США законодательство о защите данных постоянно ужесточается, неуклонно приближаясь к европейскому. Понятно, что всех беспокоит риск утечек персональных данных, но какой вред человеку и обществу могут нанести машинное обучение и ИИ?
Известно, однако, что с цифровым разумом сопряжены особые риски: нарушение авторских прав, дискриминация, высокие энергозатраты и пр. В сфере найма, напри-мер, иИ отличает предвзятость в отношении женщин, расовых меньшинств и людей с ограниченными возможностями - ведь у них, как правило, послужные списки хуже. Компания Amazon потратила несколько лет и миллионы долларов на разработку механизма найма с использованием ИИ, а затем выбросила этот алгоритм, поняв, что не может устранить в нем дискриминацию женщин.
14 июня 2023 года Европейский парламент принял проект закона об ИИ, который серьезно ограничит использование программного обеспечения с ИИ для распознавания лиц, а также потребует от создателей систем ИИ, таких как чат-бот ChatGPT, раскрывать больше информации о данных, используемых при разработке их решений. Другое положение запрещает компаниям собирать биометрические данные из социальных сетей для наполнения баз данных ИИ. Эта практика вызвала пристальное внимание после того, как ее использовала компания Clearview AI - лидер в системах распознавания лиц. Европарламентарии также добавили запрет на использование технологий определения эмоций правоохранительными органами, пограничными службами, на рабочих местах и в учебных заведениях. Ожидается, что окончательный вариант закона будет принят до конца 2023 года.
Проект закона предполагает запрет в ЕС разработок с неприемлемым уровнем ИИ-риска. Что касается разработок с ограниченным ИИ-риском, то главное требование к ним таково: пользователь должен быть осведомлен о том, что взаимодействует не с человеком, а с роботом. Компании с высоким уровнем риска по ИИ должны будут подчиняться правилам, среди которых, например, такие:
- внедрение системы управления рисками;
- контроль управления данными;
- техническая документация;
- надзор человека за работой ИИ;
- транспарентность и доступность информации для пользователей;
- кибербезопасность;
- аудит кибербезопасности;
- регистрация в одной из стран ЕС;
- контроль отдаленных последствий.
- Нарушения правил повлечет штрафы до €30 млн или 6% глобальной выручки.
Оценка комплаенса основных моделей ИИ с проектом закона ЕС об искусственном интеллекте
Ученые из Стэнфордского центра На (Human-Centered AI) проанализировали действующие модели ИИ с точки зрения их соответствия новым правилам ЕС. Почти половина из них не дотянула и до 24 баллов по 48-балльной шкале.
Исследовательская компания Gartner вы-делила в отдельный тренд 2023 года системы управления рисками в сфере ИИ (AI Trust, Risk and Security Management - AI TRiSM). B качестве примера этического контроля ИИ Gartner приводит Датское управление бизнеса (DBA), которое выработало специальные методы. DBA устанавливает системы мониторинга, а также конкретными действиями проверяет справедливость аналитики ИИ. С помощью этого подхода уже контролируется 16 моделей ИИ, которые применяются в финтехе с совокупным объемом транзакций в миллиарды долларов.
В России законодательства в сфере ИИ не существует. По мнению руководителя практики по авторскому праву компании DRC Владимира Ожерельева, в нашей стране регулирование ИИ, скорее всего, пойдет по пути централизации управления нейросетями в руках государства и крупных корпораций. «Мы наблюдаем это как минимум в последних изменениях норм об обработке биометрических данных. Примеры злоупотреблений в сфере распознавания лиц уже заметны», - говорит он".
В 2021 году в России был принят Кодекс этики в сфере искусственного интеллекта" который, правда, не является обязательным. Ряд компаний, например «Сбер», имеют собственные этические нормы для систем ИИ.
7 августа 2023 Конгресс США принял законопроект об ИИ, который обяжет компании бигтеха делиться датасетами с научными коллективами и стартапами, занимающимися созданием интеллектуальных систем. Законопроект исходит из того, что сейчас финансовые ресурсы, необходимые для сбора, хранения и управления массивами из петабайтов информации, есть только у ИТ-гигантов. Если доступ к этим массивам будет и у научного и предпринимательского сообщества, ИИ-разработки ускорятся.
В мае 2023 года HBR опубликовал подборку статьей ведущих профессоров разных дисциплин - от истории до computer science — на тему этичности систем ИИ. Их выводы пессимистичны: ИИ-приложения разрабатывают и используют без оглядки на такие моральные ценности, как справедливость и достоинство человека, достоверность информации, личная безопасность и неприкосновенность частной жизни.
«Разработчики в Кремниевой долине десятилетиями действовали по принципу «двигайся быстрее, сметая все на своем пути», — пишет Маргарет О'Мара, руководитель кафедры истории Университета Вашингтона. — Видеоигры в 1980-х, он-лайн-платформы шопинга в нулевые, затем социальные сети, а теперь вот разговорный ИИ». И пока не известно, сколько и чего наломают разработчики в сфере ИИ, если не поставить их в четкие рамки закона, заключает автор. В другой статье HBR Цедал Нили напоминает, что непрозрачность является оборотной стороной использования этих мощных систем. И поэтому лидеры бизнеса должны особенно ответственно подходить к инструменту ИИ, всякий раз оценивая его риски и документируя, в каких задачах и с какой целью он был задействован.
Полные версии вы можете приобрести в Издательском доме НИУ ВШЭ