AI без иллюзий: как бизнесу не потерять контроль над искусственным интеллектом

Каждый день мы создаем гигантские объемы данных, и искусственный интеллект учится обрабатывать их с невероятной скоростью. По оценкам экспертов, скорость обработки информации ИИ удваивается каждые семь месяцев. Это говорит не только о технологическом прорыве, но и о глубокой трансформации того, как мы общаемся, работаем и принимаем решения.

На мероприятии "AI-Driven, Human-Centered: новая эра бизнеса" Глобальный договор ООН в Украине провел небольшой эксперимент: мы предоставили участникам слайды с двумя изображениями животных, где одна картинка была взята из открытых источников, а другая – сгенерирована ИИ, и попросили определить, какая из них создана ИИ. Результат распознавания работы ИИ составил от 30 до 50%.

Это означает, что мы уже сейчас часто не способны отличить информацию, созданную ИИ, от реальной. Такая ситуация сама по себе не несет угрозы, но тот же подход может использоваться в целях пропаганды, терроризма или воздействия на молодежь.

ИИ уже сегодня пересекает границы этики: ИИ обучается на исторических данных, которые могут содержать предвзятость. Если такие модели не проверять и не корректировать, бизнес-решения, принятые на их основе, могут дискриминировать людей по расе, возрасту, полу или другим признакам. Например, алгоритмическая сортировка резюме уже сегодня иногда отсекает кандидатов из-за неточных или искаженных результатов оценки.

На что бизнесу стоит обратить внимание уже сегодня?

В этом году Глобальный договор ООН в Украине провел опрос среди украинского бизнеса о том, как именно компании используют искусственный интеллект в своей работе.

Опрос показал, что:

Менее половины респондентов проходили обучение по этическому использованию ИИ.

То есть значительная часть специалистов работает с ИИ без достаточных знаний о его потенциальном влиянии на права человека, предвзятость или дискриминацию. Это означает, что компании не имеют полной картины рисков и могут неосознанно допустить утечку конфиденциальной или чувствительной информации о своей компании и/или клиентах.

Лишь единичные компании проводят системную оценку влияния внедренных ИИ-решений на права человека.

Некоторые компании уже включают этические принципы ИИ в более широкие политики по правам человека или кибербезопасности.

Но большая часть респондентов отмечает, что у них нет никаких отдельных политик по использованию ИИ.

Хотя угроза ИИ может казаться неочевидной, она может стать реальностью в течение нескольких лет. Если не начать разрабатывать и соблюдать четкие правила, стандарты и механизмы контроля уже сейчас, возможности ИИ могут быть использованы против нас.

А есть ли стандарты и правила использования ИИ?

В 2024 году принят EU AI Act – акт, регулирующий безопасность, прозрачность и права человека в сфере ИИ в ЕС. Его требования касаются всех разработчиков ИИ, работающих на европейских рынках, независимо от страны происхождения.

Акт классифицирует системы искусственного интеллекта по разным категориям в зависимости от потенциальных рисков:

● Недопустимый риск. Использование таких систем запрещено согласно AI Act. К ним относятся системы, которые могут существенно нарушать права и свободы человека. Например, социальный скоринг – оценка людей на основе их социального поведения или личных качеств.

● Системы высокого уровня риска, которые согласно AI Act обязательно должны регулироваться и контролироваться человеком.

● Системы с ограниченным риском, на которые распространяются менее строгие нормы регулирования.

● Системы с минимальным риском.

Какие наказания? Достаточно строгие и дорогостоящие. Вот некоторые из них:

● За запрещенные практики ИИ (системы с недопустимым риском) предусмотрен штраф до 7% мирового годового оборота компании или до 35 млн евро (в зависимости от того, какая сумма больше).

● За нарушение других требований – штраф до 3% мирового годового оборота или до 15 млн евро.

Регулируется ли ИИ в Украине?

Летом 2024 года Минцифры представило "Белую книгу" – дорожную карту для будущего регулирования искусственного интеллекта в Украине. Документ предусматривает внедрение методологии оценки влияния ИИ на права человека, создание регуляторной песочницы для тестирования продуктов, запуск платформы юридической поддержки бизнеса, этического кодекса (который уже подписали 14 IT-компаний), а также Центра ответственного ИИ – онлайн-ресурса с инструментами, рекомендациями и новостями в сфере регулирования.

В то же время бизнес-среда отреагировала на документ негативно: ряд украинских CEO отметили, что в нем слишком мало конкретики.

Также топ-менеджеры IT-компаний подчеркнули, что брать в пример только опыт ЕС – односторонний подход. В то время как законодательство ЕС вводит многочисленные регуляции и высокие штрафы, недемократические страны ставят в приоритет развитие ИИ-технологий, а не защиту прав потребителей.

В перспективе AI-инструменты европейского рынка могут проиграть неконтролируемым и хорошо финансируемым разработкам в недемократических странах.

В "Белой книге" указано, что документ открыт для широкого обсуждения, а после сбора обратной связи от украинского бизнеса он будет доработан. Представители бизнеса, в свою очередь, выступают за сбалансированное регулирование ИИ, которое не убьет новые разработки, а поможет контролировать риски.

Что можно делать уже сегодня:

● Регулировать ИИ внутри команды

Также не менее важный этап – качественная коммуникация с командой обо всех возможных рисках: ваши сотрудники должны быть в курсе возможных последствий несоблюдения правил использования ИИ на рабочем месте.

● Анализировать, а не слепо следовать трендам

Не каждому бизнесу нужны AI-специалисты. По словам Игоря Филипенко из RBC Group, минимальная ИИ-команда может обходиться бизнесу в 100 000 евро в год. Прежде чем публиковать вакансии, подумайте, целесообразно ли на данном этапе привлекать AI-специалистов в вашу команду, или эти задачи может закрыть уже существующий отдел и сотрудники.

● Инвестировать в обучение

Одной переписки с ChatGPT недостаточно, чтобы быть в курсе последних новостей во вселенной искусственного интеллекта. Если вы планируете игру в долгую – имплементировать AI-решения в свои бизнес-процессы так, чтобы они приносили пользу, а не риски – инвестируйте в обучение себя и своей команды.

Таких возможностей на рынке много: недавно бесплатный курс по основам ИИ для украинцев провели в Google Украина – принять участие могли даже те, у кого нет технического образования и специальных навыков. В рамках ESG Academy от Глобального договора ООН в Украине можно будет ознакомиться с возможностями ИИ в оценке этих компонентов.