Добровільне і відмінне від європейського: Олександр Борняков про те, яким буде регулювання ШІ в Україні
На початку жовтня Мінцифри опублікувало дорожню карту регулювання штучного інтелекту в Україні. У ній йшлося про впровадження правил для розвитку бізнесу та захисту прав користувачів у взаємодії зі ШІ.
DOU поспілкувався детальніше про цей проєкт з Олександром Борняковим, заступником міністра цифрової трансформації з питань розвитку ІТ-сфери. Чому наше регулювання буде відрізнятися від європейського, як воно буде розгортатися і чи будуть винятки для військової галузі — читайте в матеріалі.
— Які найважливіші причини для регулювання штучного інтелекту в Україні? Що спонукало Мінцифри розпочати цей проєкт?
Насамперед ми рухаємося у Європейський Союз, де вже схвалили план регулювання ШІ, а нині на етапі погодження нормативний акт АІ Act. Він має встановити загальні правила щодо розробки, використання, випуску на ринок технологій штучного інтелекту. Уряди більшості країн працюють над законодавчою базою у сфері штучного інтелекту. Тому про це треба думати.
У нас немає зобов’язань вже ухвалити законодавство, але ми дивимось трошки наперед. Хочемо почути насамперед тих, хто працює в цій галузі, тому й розвиваємо ініціативу разом з бізнесом, з нашим комітетом з питань розвитку штучного інтелекту при Мінцифри. До нього входять представники більшості відомих ІТ-компаній.
— Коли взагалі розпочалася ця ініціатива і як була створена робоча група? Як фінансується проєкт?
Сама ініціатива зайнятись дорожньою картою зʼявилася цього літа. Але ми протягом трьох років відстежували процес розробки регулювання в Європі, зокрема брали участь в обговореннях комітету Ради Європи зі штучного інтелекту, досліджували європейські напрацювання.
Сам комітет почав працювати у січні 2020 року. Одним з основних продуктів була концепція розвитку штучного інтелекту, затверджена Кабінетом міністрів. Також ми відпрацьовували, скажімо так, підняття українських позицій у світових рейтингах зі штучного інтелекту. Розповідали й показували, який в нас «ландшафт».
Фінансується комітет на громадських засадах. Знаю, що був грант від USAID на підготовку аналітики про те, що відбувається в Україні. Зараз також є грант, який допоможе залучити експертів, щоби розібратися в нюансах цього законодавства. Та ані бюджетних грошей, ані державних муніципальних ми не витрачали. Єдине, що була одна людина від Мінцифри, яка займалась штучним інтелектом.
Дорожня карта створена цілком силами Мінцифри, самого комітету і представників бізнесу. Всі були залучені на волонтерських засадах.
«Ми не бачимо зараз необхідності щось обмежувати»
— На що саме буде спрямоване регулювання ШІ — на дотримання конфіденційності користувачів, захист інтересів бізнесу, збереження робочих місць абощо?
У дорожній карті написано, що ми будемо рухатись знизу вгору, використовуючи bottom-up підхід. Спочатку подивимось, як буде розвиватись галузь. Якщо будуть проблеми, які треба буде регулювати законодавчо, будемо це робити. Якщо можна регулювати ШІ на рівні домовленостей чи підзаконних актів, оберемо цей шлях. Я не бачу зараз потреби створювати суворе законодавство чи копіювати АІ Act.
Регулювання штучного інтелекту — це про захист інтересів компаній і прав людей, та водночас ми не бачимо зараз необхідності щось обмежувати. Ви згадали про робочі місця, у нас зараз немає причин вважати, що на це треба реагувати. Фактів того, що ШІ змінює ринок праці — немає. Є розмова, що ШІ потенційно може вплинути на найм, але насправді це не є фактом. Ми бачимо, що ця галузь, навпаки, створює робочі місця. З’являються компанії й запити на те, щоб розвивати ШІ-продукти.
— Чи є вже визначено, на кого буде спрямоване це регулювання, на які саме галузі?
Навряд чи можна розділити регулювання за секторами. Але загалом першим етапом має бути формування культури саморегулювання. Тобто бізнес добровільно впроваджуватиме вимоги майбутньому закону, використовуючи інструменти від держави.
Звісно, насамперед це будуть компанії, які займаються штучним інтелектом. По-друге, це буде стосуватись міжнародних компаній, які надають ШІ-продукт на український ринок. Адже ми вже бачимо, що на ринку є і локальні ШІ-рішення, і глобальні на кшталт ChatGPT.
— Тобто регулювання буде на початку на добровільних засадах для тих, хто хоче приєднатись?
Так, хочете приєднатись до етичних зобовʼязань — приєднуйтеся, це добровільно.
— А якщо приєднатися і порушити кодекс?
У нас є досвід роботи з ІТ-індустрією та деякими іншими екосистемами. Коли великий гравець щось схоже робить, то, як правило, бувають наслідки. І це не тільки законодавство, репутація теж важлива. У нас зараз працює 63 компанії у сфері ШІ, згідно з Ukrainian Tech Ecosystem Overview. Якщо ці компанії підписались, а потім виявилось, що вони не дотримуються принципів, то в них будуть інші проблеми, не на рівні закону. Я думаю: якщо ви приєдналися до зобовʼязань, то розумієте відповідальність за свої слова, для початку цього достатньо.
— Теоретично, чи можуть бути повʼязані в майбутньому цей добровільний кодекс регулювання ШІ з компаніями, які є резидентами Дія City?
Я думаю, що це не повʼязані речі.
— Розкажіть детальніше про bottom-up підхід і саморегулювання. Як саме компанії можуть впливати на регуляційну політику?
Саме для цього і створювали комітет зі штучного інтелекту, щоб ми могли чути тих, хто цим займається. У ньому є представники академічної спільноти: викладачі, професори, а також представники бізнесу. Є змога долучатися, комітет самостійно голосує за членів, які туди входять. Існує форма, де можна описати свій досвід, податись, і члени комітету розглянуть заявку. Якщо людина має рекомендації та досвід, думаю, що це не проблема.
Ми з комітетом на постійному звʼязку і довіряємо їм. Усередині Мінцифри немає такої експертизи, як я вже казав, є тільки одна людина, яка не може покрити всі потреби. Тому це для нас той інструмент, який вважаємо функціональним, щоб почути всіх, хто хоче донести свої міркування.
— А якщо говорити не про приєднання до комітету, а про те, щоб компанії могли просто надсилали свій фідбек? Чи це буде реалізовано?
Нині ми на етапі дорожньої карти, і, якщо хтось хоче запропонувати ідею, може звернутися до мене чи до комітету. У нас є проєктний офіс штучного інтелекту, є люди, які винесуть пропозицію на обговорення, і ми її розглянемо. Це вирішуємо в розмовах.
Якщо це буде законодавство чи пропозиція закону, то із законодавчою ініціативою може виступати депутат чи Кабінет міністрів. Якщо це закон, який йде від Кабінету міністрів, то його обговорюють у парламенті. Є механізми створення робочих груп всередині парламенту і при Кабміні. Існує звичний процес, який не буде змінено для штучного інтелекту. Будь-яке законодавство, навіть найменші зміни проходять через обговорення.
— У дорожній карті є фрагмент, що регулювання надаватиме інструменти для підготовки виходу бізнесу на міжнародні ринки. Можете розповісти, про які саме інструменти йдеться і про який вихід на міжнародні ринки?
Формулювання «інструменти для підготовки бізнесу до виходу на міжнародні ринки» варто розуміти як такі інструменти, які допоможуть українським компаніям створювати і тестувати свої продукти з урахуванням майбутніх вимог законодавства.
Маємо ланцюжок: держава дає інструменти для підготовки і супроводжує компанії у їх використанні — компанії готуються, посилюють конкурентоспроможність і розробляють свої продукти відповідно до вимог, аналогічних до європейських — компанії готові виходити на глобальний ринок, бо у них все гаразд з дотриманням міжнародних стандартів.
Серед інструментів, які плануємо використовувати для підготовки компаній — гайди, добровільні кодекси поведінки, Біла книга, регуляторний сендбокс.
— Якщо говорити про штучний інтелект для військової галузі чи інших чутливих секторів — чи будуть окремі правила?
Залежить, про що саме ми говоримо. Згідно з дорожньою картою, ми будемо дивитись на етичність використання ШІ. Думаю, що точно дійдемо до створення кодексу, що визначатиме принципи застосування ШІ (як у ситуації з білими й чорними хакерами). Можливо, це буде домовленість між представниками держави, бізнесу, можливо, асоціація. Потім будемо переходити до складніших обмежень чи перевірок.
Щодо ШІ-продуктів військового призначення, вони є вже сьогодні. Тут варто нагадати, що штучний інтелект — це програмне забезпечення. І воно підпадає під ті самі правила, що стосуються будь-якого програмного забезпечення, які використовують військові.
Загальний підхід у світі такий, що регулювання ШІ не поширюється на військові технології. Так це працює що в Європі, що в США, що на рівні Конвенції Ради Європи. Справді, діють певні ініціативи на рівні міжнародних організацій, які говорять про регулювання ШІ в контексті військових цілей. Але поки що про це мовити рано, зважаючи на наш контекст.
В умовах повномасштабної війни, коли ворог хоче знищити нас як націю, регулювання ШІ для військових цілей не передбачено. Тому що наш пріоритет — національна безпека та захист життя кожної людини.
Ми тільки сприяємо використанню ШІ в defense-tech розробках. Ви знаєте про «Армію дронів», про державний кластер Brave1. У межах цих проєктів вже є передові українські розробки, які базуються на ШІ.
— Повернімось до європейського досвіду та AI Act. У серпні ви зауважували: «Я вважаю, що копіювання європейського законодавства поки не потрібно. Ми ще не в Європейському Союзі. В інноваційних сферах це може мати негативний ефект. У ЄС є своя специфіка, своя архітектура державного управління. У нас — інша. Можливо, ухвалювати європейське законодавство, що враховує інтереси 27 країн, буде обтяжливо». Який ефект ви мали на увазі і чи змінили свою думку?
Там є норми, які нагадують GDPR і передбачають великі штрафи. Інституції в ЄС працюють по-іншому. Будь-яке законодавство, яке поширюється на всі країни Євросоюзу, враховує інтереси всіх 27 країн, з усіма нюансами. Копіювання будь-чого з ЄС погано працюватиме в Україні, тому що в нас нема 27 країн всередині.
У нас інша структура і по-іншому побудована країна, тому це буде обтяжливо. У ЄС інакше дивляться на санкції, і в них більш зрілі інституції. По-перше, вони більше контролюють і водночас там більш зріле суспільство. Вони пропонують великі штрафи, перевірки проводять не дуже часто, але якщо порушників знайшли, то їх карають. У нас, якщо впровадити великі штрафи, буде багато перевірок, і, найімовірніше, це використовуватимуть для тиску на бізнес.
У нас немає зобовʼязань впровадити законодавство на момент входу в Європейський Союз. Ба більше, ми вважаємо, що в усіх інноваційних сферах регулювання — це, найімовірніше, гальма. Важко регулювати те, що ще не сформувалось, тому, як на мене, треба зачекати.
Скриншот з дорожньої карти регулювання ШІ
— Чи можете окреслити найближчі кроки комітету, скажімо, на рік? Що зараз плануєте?
Нині комітет готує кодекс добровільної поведінки, білу книгу — це документ щодо ознайомлення стейкхолдерів з підходом держави до регулювання штучного інтелекту. Перший етап — це культура саморегулювання. Також є плани з регуляторного сендбоксу, тобто контрольованого середовища, де компанії зможуть тестувати, розробляти застосунки на відповідність майбутньому законодавству.
Я думаю, що буде багато роботи й співпраці з різними ініціативами з Євросоюзу, наприклад, з HUDERIA (Human Rights, Democracy, and the Rule of Law) — це методологія оцінки впливу штучного інтелекту на права людини. Є ще окремий defence-напрям і освітні ініціативи зі штучного інтелекту, курси на «Дія Освіта». На рік цього точно вистачить.
— А є вже висновки, до яких ви дійшли на етапі публікації дорожньої карти. Чи є якісь засадничі речі, що найімовірніше будуть реалізовані?
Я був один з тих, хто працював над дорожньою картою, але цей проєкт об’єднує багатьох людей. Некоректно було б говорити за всіх, озвучу лише своє бачення: ми дуже скоро дійдемо до того, щоб на законодавчому рівні врегульовувати питання шахрайства із залученням штучного інтелекту. Наприклад, коли йдеться про використання digital identity іншої людини.
Але знову ж, якщо це робити на законодавчому рівні, то піде певний час, щоб підготувати текст, обговорити зі спільнотою та ухвалити рішення. Ту ж Дія City впроваджували два роки. Також можливо, що певні моменти й не треба врегульовувати окремо. Адже вже є стаття про шахрайство з використанням програмного забезпечення, тоді потрібно лише внести маленькі зміни до КПК, це зовсім інша річ.
— Коли споживачі зможуть побачити перші результати регулювання? І якими вони будуть, на вашу думку?
Тут концепція як з «Дією», все має працювати непомітно, людяно і не заважати. Користувач має бачити інструменти, рішення, які використовує штучний інтелект, але сприймати це як частину сервісу. Водночас треба уникати проблем, які б шкодили користувачам.
Візьмемо для прикладу електронні магазини: в цій ніші є багато шахрайства, в Україні зокрема. Відповідно, нам хочеться користуватись цими магазинами, бо це зручно, але треба бути обережними.
Можливо, компанії мають використовувати дисклеймери на позначення штучного інтелекту, як-от є попередження в рекламі сигарет. Наприклад, вказівки про те, що ви спілкуєтеся не з реальною людиною. На мій погляд, ефективна політика полягає в тому, щоб користувачі не боялися взаємодіяти зі штучним інтелектом, а нормально почувалися.
