листопад

ІТ право: проблеми і перспективи розвитку в Україні (четверта міжнародна щорічна конференція)

Приполова Л. Автономні системи зброї – новий виклик для міжнародного гуманітарного прав

Приполова Людмила

кандидат юридичних наук,

старший науковий співробітник

науково-дослідного відділу проблем військового законодавства

Центру воєнно-стратегічних досліджень

Національного університету оборони України імені Івана Черняховського

Глобальні зміни в технологічному розвитку не пройшли повз військової сфери, де сьогодні технології штучного інтелекту (далі – ШІ), спостерігаються в управлінні військовим будівництвом, підтриманні бойової готовності, розвитку систем озброєння, управлінні військовою технікою тощо (роботи-сапери, роботи-розвідники, різні платформи, здатні вести вогонь, безпілотні літальні апарати, наземні роботизовані комплекси тощо). У багатьох сучасних збройних конфліктах, військових операціях використовуються різні види зброї зі ШІ, що водночас актуалізувало питання щодо інтерпретації й застосування норм міжнародного гуманітарного права (далі – МГП).

МГП безпосередньо не регулює питання автономних систем зброї (далі – АСЗ), але у разі наближення існуючих норм МГП до правовідносин за участі АСЗ, слід звернутись до положення Додаткового протоколу № 1 до Женевських конвенцій від 12.09.1949 р. [1]. В статті 35 цього протоколу передбачено, що у разі будь-якого збройного конфлікту право сторін, що перебувають у конфлікті, обирати методи або засоби ведення війни не є необмеженим. Також цією статтею передбачена заборона застосовувати зброю, снаряди, речовини й методи ведення воєнних дій, здатні завдати надмірних пошкоджень або надмірних страждань (ч. 2) й застосовувати методи або засоби ведення воєнних дій, які мають на меті завдати або завдадуть широкої, довгочасної і серйозної шкоди природному середовищу (ч. 3).В статті 36 згаданого протоколу зазначено, що при вивченні, розробці, придбанні чи прийнятті на озброєння нових видів зброї, засобів або методів ведення війни Висока Договірна Сторона повинна визначити, чи підпадає їх застосування, за деяких або за всіх обставин, під заборони, що містяться в цьому Протоколі або в яких-небудь інших нормах міжнародного права, застосовуваних до Високої Договірної Сторони. Іншими словами, перед прийняттям на озброєння АСЗ, будь-яка держава повинна забезпечити відповідність процесу їх виробництва, використання й застосування нормам МГП.

Загалом, у вищезазначеному Протоколі передбачено два принципових попередження для інтелектуальної зброї (заперечено право сторін вибирати зброю, застосування якої є необмеженим; заперечено зброю, яка може завдати надмірного болю або страждання. Огляд положень Женевських конвенцій вказує, що при використанні й застосуванні АСЗ необхідно зважати на максимальне застосування мір безпеки, розрізнення цілей, пропорційності балансу цілі використання (застосування) до наслідків, тощо. В той же час, сьогодні викликає сумнів у можливості наближення статті 41 Протоколу до зброї зі ШІ, оскільки доволі сумнівною являється здатність такої зброї самостійно розрізняти комбатантів від не комбатантів (для цього необхідна здатність розрізняти жести, міміку, оцінювати емоції людини).

Неодноразово спеціалістами та експертами наголошувалось і про необхідність врахування застереження відомого юриста Мартенса про те, що “навіть якщо те чи інше положення прямо не передбачено статтями чинного міжнародного права, в ситуаціях збройних конфліктів сторонам необхідно в першу чергу керуватися принципами гуманності та вимог суспільної свідомості”.

Представники МКЧХ у 2019 році заявили, що саме Чотири Женевські конвенції і Додаткові протоколи до них, учасниками яких є всі держави, – основа МГП. Вони їх охарактеризували як вираз загальної людяності, яка повинна зберігатись навіть в умовах сучасного збройного конфлікту [2]. До того ж вважають, що основоположні норми МГП можуть застосовуватися щодо кібервійни та інших випадків використання нових технологій як засобів ведення війни, проте в деяких сферах потрібно розробити більш жорсткі і цільові норми, які б забезпечили захист цивільного населення в конфліктах майбутнього [3, с. 70].

Позитивно слід відзначити намагання європейської спільноти врегулювати сучасні досягнення технічного прогресу. Так, Європейським Парламентом 16 лютого 2017 року було прийнято Резолюцію для Комісії ЄС “Норми цивільного права про робототехніку” (2015/2103(INL) [4]. Загалом, прийняття названого документу можна сміливо назвати одним з перших кроків на шляху до глобального законодавчого врегулювання питання правового статусу робототехніки зі ШІ. Цей документ містить ряд пропозицій щодо охоплення законодавством ЄС поняття “розумний робот”, розробки системи реєстрації таких роботів, а також визначення правового статусу роботів як електронної особистості (електронної особи).

Зміст Резолюції мітить ряд наступних ключових пропозицій до правового врегулювання робототехніки, а саме:

включено ряд положень, що стосуються “відповідальності”. Зауважено, про недостатність стандартних правил настання відповідальності у випадку завдання шкоди роботом (у випадку прийняття ним самостійного рішення, відповідно виникне проблема щодо компенсації заподіяних збитків);
зазначено про необхідність дотримання законів робототехніки Азімова розробниками, виробниками, операторами роботів (1. робот не може заподіяти шкоду людині, або своєю бездіяльністю дозволити, щоб людині була заподіяна шкода; 2. робот повинен підкорятися наказам людини, за винятком тих, котрі суперечать першому пункту; 3. робот повинен захищати самого себе, якщо тільки його дії не суперечать першому і другому пунктам; 4. робот не може завдати шкоду людству або своєю бездіяльністю допустити, аби людству була завдана шкода);
запропоновано прийняти загальноприйняті універсальні визначення термінів “кіберфізичні системи”, “автономні системи”, “розумні автономні роботи” та їх підкатегорії;
зауважено, що робототехніка повинна розроблятися для доповнення можливостей людини, а не її заміни. Запропоновано що тестування, сертифікація та випуск товару в обіг початково повинні проводитися лише в одній з країн-членів ЄС;
планується створення Агентства з питань робототехніки та ШІ як спеціалізованого органу;
зазначено про необхідність здійснення нормативно-правового регулювання питань, які пов’язані з виробництвом та використанням зброї із ШІ з перспективою на 10-15 років та вимоги до таких нормативно-правових актів;
підтримується та схвалюється міжнародне співробітництво у вивченні етичних, правових, соціальних питань у сфері ШІ з перспективою прийняття нормативів й стандартів під егідою ООН.

Досвід успішних на сьогодні країн показує, що для розвитку робототехніки, на рівні національних законодавств, прийнято низку відповідних законів, концепцій, програм, стратегій, планів. Проблематика правового врегулювання робототехніки та зброї зі ШІ неодноразово слугувала предметом жвавої дискусії на офіційних міжнародних зустрічах.

Актуальність та небезпечність розвитку роботизованих автономних бойових систем свого часу було зазначено багатьма провідними експертами в галузі робототехніки та ШІ (Artificial intelligence - AI) у відкритому листі. Їхні намагання спрямовані на запобігання виникненню гонці озброєнь, яка полягає в розробці роботів-убивць. Зокрема, у листі зазначалось, що це може бути зброя терору, зброя, яку деспоти і терористи використовують проти ні в чому не винних людей, а також зброя, зламана хакерами. Запропоновано розширити список забороненої зброї, який був прийнятий Конвенцією ООН 1983 року (хімічна та біологічна зброя, засліплююча лазерна зброя, розривні боєприпаси, осколки яких неможливо виявити рентгенівським променем, протипіхотні міни). Загалом за превентивний мораторій на автономні системи озброєння виступають 26 держав (включаючи Австралію, Бразилію, Китай), 230 організацій (серед них 137 займаються ШІ та робототехнікою), близько 3000 підприємців і вчених (серед них Tesla і Space X (Ілон Маск), Deep Mind (Google). В той же час, проти заборони висловились активні інвестори ШІ (США, Ізраїль, Росія, Велика Британія) [5, с. 9].

Брак загальновизнаних міжнародною спільнотою норм щодо основ виробництва, розповсюдження, використання й застосування зброї зі ШІ обумовив інтенсифікацію нормотворчого процесу у межах національних законодавств багатьох провідних держав. Безумовно, що для успішної інтеграції інтелектуальної зброї у міжнародний правовий простір світова спільнота має віднайти загальновизнані інтеграційні правила для функціонування зброї зі ШІ, закріплених в нормативно-правових актах як міжнародного рівня, так і національних актах окремих держав. Держави повинні нормативно виокремити чіткі обставини, за яких застосування АСЗ неприпустимо. Суспільство повинно убезпечити себе від можливого виникнення так званого “змагання” з виробництва й використання зброї зі ШІ і загалом використання абсолютно автономної АСЗ, особливо терористами. МГП на сьогодні має ряд невирішених задач: розробка загальноприйнятого визначення АСЗ та їх класифікації; виокремлення конкретних параметрів контролю використання АСЗ згідно вимог МПГ та етичних норм; процес створення АСЗ повинен виключити можливість неконтрольованої поведінки чи самокорекції з боку АСЗ; встановлення категоричного правила щодо абсолютної заборони для АСЗ приймати рішення на ураження.

Список використаних джерел:

Додатковий протокол, який стосується захисту жертв міжнародних збройних конфліктів від 8 червня 1977 р.: Протокол I до Женевських конвенцій від 12 серпня 1949 р. URL: https: // zakon3.rada.gov.ua/laws/show/995_199.
Як змусити терористів і роботів дотримуватися правил ведення війни - нові виклики сучасних конфліктів. URL: http: //ukrainepravo. com/international_law/public_international_law/yak-zmusyty-terorystiv-i-robotiv-dotrymuvatysya-pravyl-vedennya-viyny-novi-vyklyky-suchasnykh-konfli/.
Кушлейко А.С. Современные вызовы для гуманитарной деятельности. Пути к миру и безопасности. 2018. № 1(54). С. 67-76.
Civil Law Rules on Robotics (P8_TA(2017)0051) : European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL). URL: https://www.europarl. europa.eu/doceo/document/A-8-2017-0005_EN.html.
Мосов С.П., Гурак С.П. На горизонті війни 4.0. Оборонний вісник. 2020. № 6. С. 5-9.