01.04.2018
human hand robot

Почему искусственный интеллект - одновременно и риск, и способ управления риском

Автор

EY Global

Оказание профессиональных услуг

01.04.2018

Ключевые вопросы, которые советы директоров должны учитывать при внедрении технологии искусственного интеллекта (ИИ).

Ии может улучшить сложные процессы принятия решений, поэтому он является стимулом для преобразований в каждой отрасли. Технология эффективно выполняет сложные рутинные задачи и предоставляет руководству данные, которые раньше нельзя было собрать.

Машинное обучение - форма ИИ, в которой компьютерные алгоритмы со временем совершенствуются благодаря опыту использования данных, - играет все более заметную роль в управлении рисками предприятия. ИИ можно использовать для создания сложных инструментов анализа поведения и деятельности в режиме реального времени. Технология может приспосабливаться к изменениям в среде, поэтому она расширяет мониторинговый потенциал организации в таких сферах, как соблюдение регуляторных норм и корпоративное управление. Она может быть не только системой раннего предупреждения, но и системой раннего обучения, предотвращает воплощение угроз.

Снижение рисков

Хотя ИИ все еще развивается, его уже можно использовать для уменьшения рисков в некоторых ключевых сферах. Например, машинное обучение может прогнозировать вероятность неуплаты займа или платежа физическим лицом или организацией. Это можно использовать для построения моделей прогнозирования дохода с переменными.

В течение многих лет с помощью машинного обучения успешно выявляли мошенничество с кредитными карточками. Банки используют системы, которые ознакомлены с данным платежного баланса за прошлые годы, чтобы мониторить платежи на предмет потенциальной мошеннической деятельности и блокировать подозрительные транзакции. Финансовые учреждения также используют автоматизированные системы для своих специалистов, связывая информацию о торговле с другой информацией о поведении, такой как трафик электронной почты, записи в календаре, время прибытия и выхода из офиса и даже телефонные звонки.

Аналитические платформы на основе ИИ могут управлять рисками, связанными с поставщиками. Они обобщают разнообразную информацию о поставщиках, начиная с их географической и геополитической среды, заканчивая финансовыми рискам, оценки уровня устойчивости и социальной ответственности предприятий.

И наконец, системы ИИ можно научить выявлять, отслеживать и отражать кибератаки. Они идентифицируют программное обеспечение по определенным критериями - например, высокая процессорная мощность или передача больших массивов данных - и затем прекращают эту атаку.

Риски, связанные с внедрением ИИ

Несмотря на все преимущества искусственный интеллект также является источником новых рисков, которыми надо управлять. Поэтому важно определить риски, которые относятся к каждой отдельной программе ИИ и каждому бизнес-подразделению, использующему данную технологию.

Некоторые из рисков, связанных с ИИ:

  • Предвзятость алгоритмов: алгоритмы на основе машинного обучения определяют закономерности данных и кодируют их в прогнозах, правилах и решениях. Если эти закономерности отражают некоторые существующие предубеждения, алгоритмы, вероятно, усилят это предубеждение, что может привести к усилению дискриминации.
  • Преувеличение возможностей: поскольку системы ИИ не понимают задач, которые они выполняют, и полагаются на свои учебные данные, они далеко не безошибочны. Достоверность их результатов может быть под угрозой, если входные данные будут предвзятыми, неполными или низкого качества.
  • Программные ошибки: ошибка в алгоритмах приводит к ошибочным результатам, что может иметь серьезные негативные последствия.
  • Риск кибератак: хакеры, которые хотят похитить личные данные или конфиденциальную информацию о компании, все чаще атакуют системы ИИ.
  • Правовые риски и обязательства: в настоящее время существует мало законов, регулирующих сферу ИИ, но это может измениться. Системы, анализирующие большие объемы данных о потребителях, могут не соответствовать действующим и будущим регламентам о конфиденциальности данных, особенно Общему регламенту о защите данных ЕС (GDPR).
  • Репутационные риски: Системы ИИ обрабатывают большие объемы конфиденциальных данных и принимают критические решения о лицах в целом ряде областей, включая кредитование, образование, занятость и здравоохранение. Таким образом, любая система, которая подверглась атаке или используется для неэтичных целей, создает существенные репутационные риски для организации.

Понимает совет директоров потенциальное воздействие ИИ на бизнес-модель, культуру и стратегию организации?

Что следует знать совету директоров?

Советы директоров должны понимать, как ИИ применяется внутри организации и за ее пределами. Они должны обеспечить организацию соответствующими структурами для решения вопросов, связанных с этикой, и понять, как она преодолевает алгоритмические предубеждения.

Они также должны знать о новых структурах, политиках и законодательстве, чтобы обеспечить правильный баланс между прозрачностью алгоритмов и подотчетностью. В конце концов советы директоров должны быть уверенными в надежности своей «черного ящика» - термин, используемый для описания системы машинного обучения. Этого можно достичь с помощью тщательного осмотра. Он определяет, являются ли результаты такими, как ожидалось, и существуют ли соответствующие средства контроля для мониторинга этих систем в процессе их развития.

Основные вопросы для рассмотрения:

  • Понимает совет директоров потенциальное воздействие ИИ на бизнес-модель, культуру и стратегию организации?
  • Как совет директоров побуждают руководство компании стратегически реагировать как на возможности, предоставляемые ИИ, так и на риски, связанные с ним?
  • Как организация использует технологию ИИ и новые наборы данных для руководства и управления рисками? Как меняются панели управления совета директоров и комитета по аудиту?
  • Существует ли в организации стратегия поиска и приема на работу талантливых людей с необходимыми навыками для управления и набора персонала на проекты, связанные с ИИ?
  • Просил ли совет директоров руководство оценить, как применение ИИ влияет на целостность его финансовой функции или его финансовой отчетности?

Цифровой аудит EY

Как цифровой аудит поможет раскрыть ваш стратегический потенциал в эпоху перемен?

Подробнее

Изложенные в настоящей статье мнения третьих лиц могут не совпадать с мнением глобальной организации EY и входящих в нее фирм. Кроме того, их следует рассматривать в том временном контексте, в котором они были выражены.

Краткое содержание

Искусственный интеллект (ИИ) создает возможности при его правильном использовании и риски при неправильном внедрении. В этой статье мы рассматриваем две стороны медали и выделяем те аспекты ИИ, на которые советы директоров компаний должны обратить пристальное внимание.

Об этой статье

Автор

EY Global

Оказание профессиональных услуг