1 апр. 2018
human hand robot

Почему искусственный интеллект (ИИ) - одновременно и риск, и способ управления риском

Ключевые вопросы, которые советы директоров должны учитывать при внедрении технологии искусственного интеллекта.

Ии может улучшить сложные процессы принятия решений, поэтому он является стимулом для преобразований в каждой отрасли. Технология эффективно выполняет сложные рутинные задачи и предоставляет руководству данные, которые раньше нельзя было собрать.

Машинное обучение - форма ИИ, в которой компьютерные алгоритмы со временем совершенствуются благодаря опыту использования данных, - играет все более заметную роль в управлении рисками предприятия. ИИ можно использовать для создания сложных инструментов анализа поведения и деятельности в режиме реального времени. Технология может приспосабливаться к изменениям в среде, поэтому она расширяет мониторинговый потенциал организации в таких сферах, как соблюдение регуляторных норм и корпоративное управление. Она может быть не только системой раннего предупреждения, но и системой раннего обучения, предотвращает воплощение угроз.

Снижение рисков

Хотя ИИ все еще развивается, его уже можно использовать для уменьшения рисков в некоторых ключевых сферах. Например, машинное обучение может прогнозировать вероятность неуплаты займа или платежа физическим лицом или организацией. Это можно использовать для построения моделей прогнозирования дохода с переменными.

В течение многих лет с помощью машинного обучения успешно выявляли мошенничество с кредитными карточками. Банки используют системы, которые ознакомлены с данным платежного баланса за прошлые годы, чтобы мониторить платежи на предмет потенциальной мошеннической деятельности и блокировать подозрительные транзакции. Финансовые учреждения также используют автоматизированные системы для своих специалистов, связывая информацию о торговле с другой информацией о поведении, такой как трафик электронной почты, записи в календаре, время прибытия и выхода из офиса и даже телефонные звонки.

Аналитические платформы на основе ИИ могут управлять рисками, связанными с поставщиками. Они обобщают разнообразную информацию о поставщиках, начиная с их географической и геополитической среды, заканчивая финансовыми рискам, оценки уровня устойчивости и социальной ответственности предприятий.

И наконец, системы ИИ можно научить выявлять, отслеживать и отражать кибератаки. Они идентифицируют программное обеспечение по определенным критериями - например, высокая процессорная мощность или передача больших массивов данных - и затем прекращают эту атаку.

Риски, связанные с внедрением ИИ

Несмотря на все преимущества искусственный интеллект также является источником новых рисков, которыми надо управлять. Поэтому важно определить риски, которые относятся к каждой отдельной программе ИИ и каждому бизнес-подразделению, использующему данную технологию.

Некоторые из рисков, связанных с ИИ:

  • Предвзятость алгоритмов: алгоритмы на основе машинного обучения определяют закономерности данных и кодируют их в прогнозах, правилах и решениях. Если эти закономерности отражают некоторые существующие предубеждения, алгоритмы, вероятно, усилят это предубеждение, что может привести к усилению дискриминации.
  • Преувеличение возможностей: поскольку системы ИИ не понимают задач, которые они выполняют, и полагаются на свои учебные данные, они далеко не безошибочны. Достоверность их результатов может быть под угрозой, если входные данные будут предвзятыми, неполными или низкого качества.
  • Программные ошибки: ошибка в алгоритмах приводит к ошибочным результатам, что может иметь серьезные негативные последствия.
  • Риск кибератак: хакеры, которые хотят похитить личные данные или конфиденциальную информацию о компании, все чаще атакуют системы ИИ.
  • Правовые риски и обязательства: в настоящее время существует мало законов, регулирующих сферу ИИ, но это может измениться. Системы, анализирующие большие объемы данных о потребителях, могут не соответствовать действующим и будущим регламентам о конфиденциальности данных, особенно Общему регламенту о защите данных ЕС (GDPR).
  • Репутационные риски: Системы ИИ обрабатывают большие объемы конфиденциальных данных и принимают критические решения о лицах в целом ряде областей, включая кредитование, образование, занятость и здравоохранение. Таким образом, любая система, которая подверглась атаке или используется для неэтичных целей, создает существенные репутационные риски для организации.

Понимает совет директоров потенциальное воздействие ИИ на бизнес-модель, культуру и стратегию организации?

Что следует знать совету директоров?

Советы директоров должны понимать, как ИИ применяется внутри организации и за ее пределами. Они должны обеспечить организацию соответствующими структурами для решения вопросов, связанных с этикой, и понять, как она преодолевает алгоритмические предубеждения.

Они также должны знать о новых структурах, политиках и законодательстве, чтобы обеспечить правильный баланс между прозрачностью алгоритмов и подотчетностью. В конце концов советы директоров должны быть уверенными в надежности своей «черного ящика» - термин, используемый для описания системы машинного обучения. Этого можно достичь с помощью тщательного осмотра. Он определяет, являются ли результаты такими, как ожидалось, и существуют ли соответствующие средства контроля для мониторинга этих систем в процессе их развития.

Основные вопросы для рассмотрения:

  • Понимает совет директоров потенциальное воздействие ИИ на бизнес-модель, культуру и стратегию организации?
  • Как совет директоров побуждают руководство компании стратегически реагировать как на возможности, предоставляемые ИИ, так и на риски, связанные с ним?
  • Как организация использует технологию ИИ и новые наборы данных для руководства и управления рисками? Как меняются панели управления совета директоров и комитета по аудиту?
  • Существует ли в организации стратегия поиска и приема на работу талантливых людей с необходимыми навыками для управления и набора персонала на проекты, связанные с ИИ?
  • Просил ли совет директоров руководство оценить, как применение ИИ влияет на целостность его финансовой функции или его финансовой отчетности?

Краткое содержание

Искусственный интеллект (ИИ) создает возможности при его правильном использовании и риски при неправильном внедрении. В этой статье мы рассматриваем две стороны медали и выделяем те аспекты ИИ, на которые советы директоров компаний должны обратить пристальное внимание.

Об этой статье

Автор EY Global

Оказание профессиональных услуг