5 хвилин читання 1 квіт. 2018
human hand robot

Чому штучний інтелект (AI) — водночас ризик і спосіб управління ризиком

Автор

Jeanne Boillet

EY Global Assurance Innovation Leader

Innovation driver in audit services. Client-centric. Strong advocate for diversity and the advancement of women in business.

5 хвилин читання 1 квіт. 2018

Основні питання, які слід розглянути радам директорів, коли вони запроваджують штучний інтелект.

Штучний інтелект (AI) може вдосконалити процеси прийняття рішень. Він є стимулом для перетворень у кожній галузі. Технологія ефективно виконує складні рутинні завдання й надає керівництву дані, які раніше не можна було зібрати.

Машинне навчання — форма AI, у якій комп’ютерні алгоритми з часом вдосконалюються завдяки досвіду використання даних — відіграє дедалі більш помітну роль в управлінні ризиками підприємства. AI можна використовувати для створення складних інструментів аналізу поведінки й діяльності в режимі реального часу. Технологія може пристосовуватися до змін у середовищі, тому вона розширює моніторинговий потенціал організації в таких сферах, як дотримання регуляторних норм і корпоративне управління. Вона може бути не тільки системою раннього попередження, але й системою раннього навчання, що запобігає втіленню загроз.

Послаблення ризиків

Хоча AI все ще розвивається, його вже можна використовувати для зменшення ризиків у деяких ключових сферах. Наприклад, машинне навчання може прогнозувати ймовірність несплати позики чи платежу фізичною особою чи організацією. Це можна використати для побудови моделей прогнозування доходу зі змінними.

Протягом багатьох років за допомогою машинного навчання успішно виявляли шахрайство з кредитними картками. Банки використовують системи, що ознайомлені з даними платіжного балансу за минулі роки, щоб моніторити платежі на предмет потенційної шахрайської діяльності й блокувати підозрілі транзакції. Фінансові установи також використовують автоматизовані системи для контролю своїх фахівців, пов'язуючи інформацію про торгівлю з іншою інформацією щодо поведінки, такою як трафік електронної пошти, записи в календарі, час прибуття та виходу з офісу та навіть телефонні дзвінки.

Аналітичні платформи на основі AI можуть управляти ризиками, пов’язаними з постачальниками. Вони узагальнюють різноманітну інформацію про постачальників, починаючи з їхнього географічного та геополітичного середовища, до фінансових ризиків, стійкості й оцінки соціальної відповідальності підприємств.

Системи AI можна навчити виявляти, відстежувати та відбивати кібератаки. Вони ідентифікують програмне забезпечення з певними відмінностями — наприклад, висока процесорна потужність або передача великих масивів даних — і потім припиняють цю атаку.

Ризики, пов’язані з впровадженням штучного інтелекту

Попри всі переваги штучний інтелект також є джерелом нових ризиків, якими треба управляти. Тому важливо визначати ці ризики, що стосуються кожної окремої програми й кожного бізнес-підрозділу, що використовує технологію.

Деякі з ризиків, що пов’язані з AI:

  • Упередженість алгоритмів: алгоритми на основі машинного навчання визначають закономірності даних та кодифікують їх у прогнозах, правилах та рішеннях. Якщо ці закономірності відображають деякі існуючі упередження, алгоритми, ймовірно, посилять це упередження, що може призвести до посилення дискримінації.
  • Перебільшення можливостей AI: оскільки системи AI не розуміють завдань, що вони виконують, і покладаються на свої навчальні дані, вони далеко не безпомилкові. Достовірність їхніх результатів може бути під загрозою, якщо вхідні дані будуть упередженими, неповними або низької якості.
  • Програмні помилки: помилка в алгоритмах призводить до помилкових результатів, що може мати серйозні негативні наслідки.
  • Ризик кібератак: хакери, які хочуть викрасти особисті дані або конфіденційну інформацію про компанію, дедалі частіше обирають своєю ціллю системи AI.
  • Юридичні ризики та зобов'язання наразі існує невелика кількість законів, що регулюють сферу AІ, але це може змінитися. Системи, що аналізують великі обсяги даних про споживачів, можуть не відповідати чинним та майбутнім регламентам із конфіденційності даних, особливо Загальному регламенту про захист даних ЄС (GDPR).
  • Репутаційні ризики: системи на основі AI обробляють велику кількість конфіденційних даних та приймають критично важливі рішення щодо окремих людей у різних сферах, включаючи кредити, освіту, зайнятість та охорону здоров'я. Таким чином, будь-яка система, що зазнала атаки або використовується для неетичних цілей, створює суттєві репутаційні ризики для організації.

Чи розуміє рада директорів потенційний вплив AI на бізнес-модель, культуру та стратегію організації?

Що варто знати раді директорів

Ради директорів повинні розуміти, як AI застосовується всередині організації та за її межами. Вони повинні забезпечити організацію відповідними структурами для вирішення питань, пов’язаних з етикою, та зрозуміти, як вона долає алгоритмічні упередження.

Вони також повинні знати про нові структури, політику та законодавство, щоб забезпечити правильний баланс між прозорістю алгоритмів та підзвітністю. Зрештою ради директорів повинні бути впевненими в надійності своєї «чорної скриньки» — термін, що використовується для опису системи машинного навчання. Цього можна досягти за допомогою ретельного огляду. Він визначає, чи є результати системи такими, як очікувалося, і чи існують належні засоби контролю для моніторингу цих систем у процесі їхнього розвитку.

Основні запитання для розгляду:

  • Чи розуміє рада директорів потенційний вплив AI на бізнес-модель, культуру та стратегію організації?
  • Як керівництво має реагувати на можливості, що створює AI, так і на пов'язані з цим ризики?
  • Як організація використовує технологію AI та нові набори даних для керівництва й управління ризиками? Як змінюються панелі управління ради директорів та комітету з аудиту?
  • Чи існує в організації стратегія пошуку та прийому на роботу талановитих людей із необхідними навичками для управління та набору персоналу на проекти, пов'язані з AI?
  • Чи просила рада директорів керівництво оцінити, як застосування AI впливає на цілісність його фінансової функції чи його фінансової звітності?

Цифровий аудит EY

Як цифровий аудит збільшує свою стратегічну цінність в епоху трансформації?

Дізнайтеся більше

Погляди третіх сторін, викладені в цій статті, не обов'язково відповідають поглядам глобальної організації EY або її фірм-членів. Більше того, їх слід розглядати з урахуванням часу, коли вони були зроблені.

Підсумок

Штучний інтелект (AI) створює можливості за умови його правильного використання та ризики при неправильному впровадженні. Жанна Бойлет з EY розглядає дві сторони медалі та виділяє ті аспекти AI, на які ради директорів компаній мають звернути пильну увагу.

Про цю статтю

Автор

Jeanne Boillet

EY Global Assurance Innovation Leader

Innovation driver in audit services. Client-centric. Strong advocate for diversity and the advancement of women in business.