Штучний інтелект і права людини: виклики для Європейської конвенції з прав людини

Анотація

Берназюк І.М.,

доктор юридичних наук,

Заслужений юрист України,

Професор кафедри «право»

Приватного вищого навчального закладу

«Європейський університет»

ORCID: 0000-0002-8460-2687

e-mail: bernazi@ukr.net

Берназюк І.М. Штучний інтелект і права людини: виклики для Європейської конвенції з прав людини.

У статті висвітлено окремі питання зростаючого впливу технологій штучного інтелекту (ШІ) на права людини та визначення можливих напрямків удосконалення положень Європейської конвенції з прав людини (ЄКПЛ) з метою підвищення ефективності механізмів захисту прав людини в нових суспільно-правових умовах. Автором досліджено виклики, що виникають у зв’язку із застосуванням технологій ШІ в контексті дотримання та захисту прав людини, гарантованих ЄКПЛ. У статті проаналізовано ключові аспекти взаємодії технологій ШІ з правами на приватність, забороною дискримінації, правом на справедливий судовий розгляд та свободою вираження поглядів.

Особливу увагу в статті приділено таким технологіям, як розпізнавання обличчя, предиктивна поліція, алгоритмічна модерація контенту та автоматизоване прийняття рішень. На підставі проведеного аналізу узагальнено релевантну практику Європейського суду з прав людини (ЄСПЛ), яка поступово адаптується до цифрових реалій, зберігаючи при цьому засадничі принципи ЄКПЛ. Обґрунтовано, що існуючі правові механізми, зокрема, й міжнародні є недостатньо ефективними в умовах існування нових ризиків, зумовлених автономністю, непрозорістю та потенційною упередженістю технологій ШІ. Підкреслено необхідність поєднання технічних стандартів із етичними вимогами та юридичними зобов’язаннями. У підсумку обґрунтовано потребу в гармонізації нормативного регулювання з урахуванням динаміки розвитку технологій ШІ та пріоритетності захисту прав людини. З цією метою розроблено конкретні пропозиції щодо внесення доповнень до окремих статей ЄКПЛ в аспекті удосконалення правових механізмів захисту прав людини в умовах масового застосування технологій ШІ.

Ключові слова: права людини, штучний інтелект, Європейська конвенція з прав людини, верховенство права, недопущення дискримінації, приватність, право на справедливий суд, автоматизоване ухвалення рішень, етичні принципи.

Bernaziuk I.M. Artificial Intelligence and Human Rights: Challenges for the European Convention on Human Rights.

The article highlights some issues of the growing impact of artificial intelligence technologies on human rights and identifies possible directions for improving the provisions of the European Convention on Human Rights in order to enhance the mechanism for protecting human rights in new socio-legal conditions. The author examines the challenges arising from the use of artificial intelligence technologies in the context of observing and protecting human rights guaranteed by the European Convention on Human Rights. The article analyzes key aspects of the interaction of artificial intelligence technologies with the rights to privacy, non-discrimination, the right to a fair trial and freedom of expression.

The article pays special attention to such technologies as facial recognition, predictive policing, algorithmic content moderation and automated decision-making. Based on the analysis, the author summarizes the relevant practice of the European Court of Human Rights, which is gradually adapting to digital realities, while preserving the fundamental principles of the Convention. It is substantiated that existing legal mechanisms, including international ones, are not sufficiently effective in the context of new risks caused by the autonomy, opacity, and potential bias of artificial intelligence technologies. The need to combine technical standards with ethical requirements and legal obligations is emphasized. As a result, the need for harmonization of regulatory and legal framework is substantiated, taking into account the dynamics of the development of artificial intelligence technologies and the priority of protecting human dignity and rights. To this end, the author has developed specific proposals for amendments to individual articles of the European Convention on Human Rights in terms of improving legal mechanisms for protecting human rights in the context of the widespread use of artificial intelligence technologies.

Keywords: human rights, artificial intelligence, European Convention on Human Rights, rule of law, non-discrimination, privacy, fair trial, automated decisionmaking, ethical standards.

Постановка проблеми. В умовах сучасності технології ШІ вже не є лише науковою абстракцією — вони стали щоденною реальністю. Це змінює функціонування суспільства, держави та взаємодії між людьми. З одного боку, ШІ відкриває нові можливості для підвищення ефективності управлінських процесів, оптимізації державних послуг та розвитку інновацій, проте, з іншого – постають серйозні ризики, пов’язані з порушенням права на приватність, дискримінацією, непрозорістю прийняття управлінських рішень, непропорційним наглядом та скороченням можливостей для оскарження таких рішень.

Розкриття питання таких викликів набуває особливого значення в аспекті дії положень ЄКПЛ як основного міжнародного акта, що встановлює стандарти захисту прав людини в європейському просторі. Поява систем, які здатні самостійно приймати рішення або істотно впливати на їх ухвалення, вимагає ретельного переосмислення того, як традиційні правові принципи – справедливість, прозорість, неупередженість, відповідальність, можуть бути реалізовані в умовах цифрової епохи. Відтак, актуальність дослідження полягає у необхідності системного аналізу правових наслідків застосування ШІ з точки зору дотримання ЄКПЛ, а також у розробці відповідних підходів до нормативного регулювання, що забезпечуватимуть баланс між технологічним прогресом і фундаментальними правами людини.

Мета дослідження. Метою цієї статті є комплексне дослідження викликів, які може обумовлювати застосування технологій ШІ для системи захисту прав людини в межах ЄКПЛ, а також обґрунтування підходів до їх ефективного нормативного врегулювання. Для досягнення поставленої мети у статті поставлені такі завдання: 1) визначити основні поняття, пов’язані з технологіями ШІ та їх нормативно-правовим визначенням в аспекті ЄКПЛ; 2) провести аналіз основоположних прав людини, гарантованих ЄКПЛ, які зазнають впливу з огляду на використання технологій ШІ; 3) дослідити практику ЄСПЛ щодо застосування ЄКПЛ у справах, пов’язаних із технологіями, що дозволяє оцінити потенціал адаптації існуючих стандартів до цифрової епохи; 4) виявити основні прогалини та ризики у нормативному регулюванні ШІ, що можуть перешкоджати ефективному захисту прав людини; 5) сформулювати пропозиції щодо доповнення ЄКПЛ з метою удосконалення регулювання окремих прав людини.

Стан опрацювання проблематики. Проблемні аспекти впливу технологій ШІ на права людини та адаптацію механізму захисту прав людини до викликів повсюдної цифровізації були предметом дослідження багатьох науковців. Серед вчених, які присвятили свої дослідження вказаній проблематиці, можна виокремити таких, як Ю. Вишневська, Ю. Волкова, А. Гачкевич, Ю. Камардіна, С. Корнєєва, О. Котуха та ін. Також слід звернути увагу на окремі дослідження зарубіжних науковців, зокрема таких, як П. Беккерс, Х. Віртс, Р. Ксенидіс, Л. Стефані та ін. Деякі питання цієї проблематики вивчалися й автором цієї статті [1; 2].

Аналіз наявних наукових робіт у сфері впливу технологій ШІ на права людини показує, що більшість вчених одностайні в тому, що механізми захисту прав людини в умовах широкого впровадження технологій ШІ до сфери державного управління, а також інших галузей суспільних відносин, потребують переосмислення та удосконалення.

Зокрема, Ю. Коваленко та М. Войнов досліджували взаємозв'язок між ШІ, правами людини та національною безпекою, пропонуючи орієнтири та обмеження для використання ШІ в оборонній сфері, з урахуванням дотримання прав людини [3]. О. В. Турута та О. П. Турута обґрунтовували думку про те, що стрімкий розвиток технологій може негативно позначитись на правах людини, вбачаючи ризики для основних прав людини у неможливості передбачити наслідки застосування такої нової технології [4]. Так само А. Є. Шевченко, С. В. Кудін та О. І. Косілова, досліджуючи вплив технологій ШІ на реалізацію прав і свобод громадян в Україні, дійшли висновку, що такий вплив є особливо відчутним щодо права на приватність, свободу вираження поглядів та справедливий суд [5].

Деякі зарубіжні науковці, зокрема M. Хо-Дак також ставлять під сумнів ефективність існуючих на сьогодні підходів до регулювання використання технологій ШІ в європейських державах та пропонує стратегічні альянси для забезпечення прав людини в процесі стандартизації новітніх технологій [6]. Подібного підходу дотримуються Ю. Ф. Волкова та І. С. Пирога, які у своїй статті, присвяченій праву на використання технологій ШІ та пов’язаним з цим викликам і загрозам для людини, акцентують увагу на необхідності правового регулювання для забезпечення безпеки та прав людини [7].

В аспекті захисту права на приватність у процесі впровадження технологій ШІ необхідно звернути увагу на дослідження деяких зарубіжних науковців. Зокрема, Х. Віртс, Р. Ксенидіс та ін. проводили аналіз співвідношення концепцій алгоритмічної несправедливості з правовими нормами Європейського Союзу (ЄС) щодо недискримінації. Автори дійшли висновку про існування розбіжності між технічними метриками справедливості та юридичними стандартами [8]. Міжнародно-правовому регулюванню використання технологій ШІ та його відповідності стандартам прав людини, зокрема нової конвенції Ради Європи 2024 року та її впливу на національне законодавство України, присвячено наукову статтю Ю. В. Камардіної, С. О. Поляруш-Сафроненко та Ю. В. Вишневської [9]. Так само Л. Стефані та Ю. Разметаєва аналізували виклики, які технології ШІ створюють для основоположних прав людини в Європі, підкреслюючи при цьому необхідність формування цифрового правопорядку, що поєднує принципи верховенства права та європейські цінності [10].

Інші науковці, вивчали більш загальні питання впливу технологій ШІ на права людини. Наприклад, С. Кравчук на підставі аналізу такого впливу розробила загальні рекомендації для сталого впровадження відповідних технологій, зосереджуючи увагу на балансі між інноваціями та необхідністю захисту прав людини [11].

Деякі зарубіжні науковці присвятили свої дослідження використанню автоматизованих систем прийняття рішень у європейських державах та їхні потенційні ризики для прав людини, зокрема щодо права на приватність та недискримінацію [12].

В аспекті захисту прав людини у процесі використання технологій ШІ під час прийняття управлінських рішень А. Гачкевич пропонує запровадити в обіг таке поняття, як право на безпечний ШІ, зокрема шляхом аналізу етичних принципів, та вбачає, що результатом від впровадження цього права стане зведення до прийнятного мінімуму рівня ризиків при розробці та використанні систем ШІ [13].

Досить прогресивну думку висловив О. С. Котуха, зазначивши, що законодавець має приділити увагу нормативному регулюванню правового статусу системи ШІ, внести відповідні доповнення до Цивільного кодексу України в частині правового статусу ШІ та притягнення його до юридичної відповідальності [14, с. 25].

Своєю чергою С. Р. Корнєєва з метою мінімізації випадків порушення прав людини внаслідок використання технологій ШІ розробила пропозиції, зокрема щодо впровадження в національному законодавстві трирівневу систему оцінки впливу ШІ на права людини, яка включає аналіз якості даних, які використовуються для «навчання» системи ШІ, аналіз ризиків на етапі проектування системи ШІ та дослідження алгоритмів взаємодій системи ШІ з навколишнім середовищем [15, с. 394].

В аспекті нормативного регулювання питання використання технологій ШІ в юриспруденції досліджували С. Вахтер та ін. Науковці дійшли висновку, що справедливість не може бути повністю автоматизована, оскільки, зокрема спостерігається розрив між статистичними метриками справедливості в технологіях ШІ та юридичними стандартами, усунення яких, на думку вчених, є завданням сучасного права ЄС [16].

Отже, огляд наукових досліджень щодо впливу технологій ШІ на права людини показує, що більшість наукових робіт у цій сфері зосереджені на вивченні ролі держави у питаннях захисту прав людини, що можуть зазнавати порушень під час використання технологій ШІ у процесі прийняття управлінських рішень, та стані нормативного регулювання вказаної галузі. Однак залишаються мало вивченими питання про те, як саме національні уряди мають забезпечити дотримання ЄКПЛ у випадку, коли права порушуються приватними компаніями, соціальними мережами чи розробниками алгоритмів ШІ, а також питання впливу ШІ на ефективність реалізації деяких конвенційних прав. Зокрема, фрагментарно висвітленими є питання про те, як особа може ефективно оскаржити рішення, ухвалене за допомогою технологій ШІ або рекомендоване такою технологією.

Виклад основного матеріалу. Для окреслення шляхів зниження негативного впливу технологій ШІ на основоположні права людини, зокрема закріплені у ЄКПЛ, важливим є визначення основних понять, пов’язаних з технологіями ШІ. Передусім, важливо розуміти значення поняття «штучний інтелект», що може бути покладено в основу нормативного регулювання використання відповідної технології. Наразі це поняття визначено у декількох міжнародних актах.

В Акті ЄС про штучний інтелект (EU AI Act, 2024) застосовується поняття «система штучного інтелекту», що визначається як машинна система, яка розроблена для функціонування з різним рівнем автономності, може демонструвати адаптивність після розгортання та яка для явних або неявних цілей виводить з отриманих вхідних даних, як генерувати вихідні дані, такі як прогнози, контент, рекомендації або рішення, що можуть впливати на фізичне або віртуальне середовище [17].

У Рекомендаціях ЮНЕСКО щодо етики ШІ (Recommendation on the Ethics of Artificial Intelligence, 2021) це поняття розглядається в якості інженерних систем, які генерують результати такі, як прогнози, рекомендації або рішення, що впливають на реальні або віртуальні середовища, для досягнення визначених цілей, використовуючи машинне сприйняття, розуміння, планування, навчання та дії [18].

Також поняття «штучний інтелект» згадується у Принципах Організації економічного співробітництва та розвитку (ОЕСР) щодо штучного інтелекту (Principles on AI, 2019), де зазначено, що це машинні системи, які здатні впливати на середовище шляхом прийняття автономних рішень, аналізу даних або взаємодії з людьми/іншими системами [19].

В Україні поняття «штучний інтелект» визначено у Концепції розвитку штучного інтелекту в Україні, схваленій розпорядженням Кабінету Міністрів України від 2 грудня 2020 р. № 1556-р, як організована сукупність інформаційних технологій, із застосуванням якої можливо виконувати складні комплексні завдання шляхом використання системи наукових методів досліджень і алгоритмів обробки інформації, отриманої або самостійно створеної під час роботи, а також створювати та використовувати власні бази знань, моделі прийняття рішень, алгоритми роботи з інформацією та визначати способи досягнення поставлених завдань [20].

Порівняльний аналіз наведених визначень поняття «штучний інтелект» дає підстави дійти висновку, що у нормативному аспекті ШІ характеризується такими критеріями, як автономність – визначається як система, що може діяти самостійно (у різних формах: від часткової до повної); цілеспрямованість – усі визначення згадують, що ШІ має мету або завдання, які реалізуються через генерування рішень, прогнозів, дій тощо; здатність до аналізу й прийняття рішень – основна функція, що імітує когнітивні можливості людини; вплив на середовище – як реальне (фізичне), так і віртуальне.

Однак, незважаючи на існування деяких уніфікованих характеристик, юридичне визначення поняття ШІ залишається предметом наукових дискусій, оскільки варіюється від вузького до широкого розуміння, створюючи таким чином певну правову невизначеність.

Між тим, попри таку невизначеність, технології ШІ знаходять все ширше застосування у сферах, що безпосередньо стосуються прав людини, гарантованих ЄКПЛ [21], що може справляти негативний вплив на основоположні права людини, вимагаючи при цьому вжиття необхідних заходів зі сторони держав та міждержавних об’єднань.

Досліджуючи можливі способи впливу технологій ШІ на права людини, можна вказати, що найбільш вразливим в цьому аспекті є право на повагу до приватного життя (ст. 8 ЄКПЛ). Оскільки ст. 8 ЄКПЛ досить широко тлумачить поняття «приватне життя», включаючи до його змісту не тільки фізичну та психологічну цілісність особи, її ідентичність, право на зображення, встановлення та розвиток стосунків, але й професійну діяльність, захист персональних даних.

Зокрема, однією з таких загроз є неконтрольоване й нормативно неврегульоване використання технології розпізнавання обличчя (Facial Recognition Technologies – FRT), що заснована на аналізі біометричних даних для ідентифікації, верифікації або категоризації осіб [22]. Такі технології можуть становити серйозне втручання у право особи на повагу до приватного життя, що підтверджується практикою ЄСПЛ.

Наприклад, у рішенні у справі «Glukhin v. Russia» (заява № 11519/20) ЄСПЛ визнав, що особа має законне очікування на приватність, навіть під час перебування у публічних місцях, посилаючись на право такої особи на приватне соціальне життя. Суд назвав технологію FRT в контексті мирної акції протесту без належного правового регулювання та контролю «високоінтрузивним» втручанням у приватне життя, що є порушенням ст. 8 Конвенції (п. п. 73, 86, 88, 89) [23].

Окрім того, оскільки технології ШІ нерозривно пов’язані з обробкою великих обсягів даних, то використання деяких з цих технологій може становити загрозу загальновизнаним у європейському співтоваристві принципам захисту даних, зокрема під час їх автоматизованої обробки. Вказані принципи, що включають законність, справедливість, прозорість, обмеження конкретною метою обробки, мінімізація даних, точність, обмеження зберігання, цілісність, конфіденційність та підзвітність, слідують зі змісту ст. 8 ЄКПЛ та деталізовані у Конвенції про захист осіб у зв’язку з автоматизованою обробкою персональних даних (Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data, 1981) [24] і Загальному регламенті ЄС про захист даних (General Data Protection Regulation, GDPR, 2016) [25]. Деякі питання цієї проблематики вивчалися й автором цієї статті [36-38].

Між тим, природа багатьох систем ШІ, особливо тих, що базуються на машинному навчанні, можуть вступати у протиріччя із вищенаведеними принципами, оскільки: 1) ці системи часто потребують залучення величезних наборів даних для ефективного навчання, що не узгоджується із принципом мінімізації збору даних (збирати лише дані, необхідні для заявленої мети); 2) складність алгоритмів ШІ та їхня здатність виявляти неочевидні кореляції створює ризик повторного використання даних для цілей, несумісних з початковою метою збору (порушення принципу обмеження мети); 3) дотримання принципу прозорості під час обробки даних за допомогою систем ШІ також ускладнено через деяку закритість та недоступність алгоритмів роботи ШІ.

Практика ЄСПЛ щодо масового спостереження та збереження даних особи (наприклад, рішення у справах «S. and Marper v. the United Kingdom» (заяви № 30562/04 та № 30566/04, п.п. 66-70) [26], «Big Brother Watch and others v. the United Kingdom» (заяви № 58170/13, № 62322/14 та № 24960/15, п.п. 325, 345-347) [27], «Roman Zakharov v. Russia» (заява № 47143/06, п.п. 329-333) [28] та ін.) підтверджує, що без дотримання засади щодо «якості закону» у питаннях регулювання використання технологій масового спостереження та меж такого використання, останнє не може вважатися законним. Суд неодноразово підкреслював, що закон має бути чітким, передбачуваним та містити достатні гарантії захисту від зловживань, включаючи незалежний нагляд та ефективні засоби правового захисту. Ці принципи є безпосередньо застосовними до систем ШІ, що використовуються для спостереження або аналізу великих масивів даних, навіть якщо ці системи розроблені приватними компаніями, але використовуються державою або на її вимогу.

Іншим правом, гарантованим ЄКПЛ, що може зазнавати порушення під час використання технологій ШІ, є право на рівність та заборону дискримінації (ст. 14 та протокол № 12). Одним із найбільших ризиків для реалізації цього права є алгоритмічна упередженість (algorithmic bias), яка може призводити до дискримінаційних результатів у процесі використання технологій ШІ. При цьому, джерелами такої упередженості визначаються:

1) упереджені дані для навчання: якщо дані, на яких навчається ШІ, відображають існуючі в суспільстві стереотипи, нерівності або історичну дискримінацію (наприклад, у даних про працевлаштування, кредитування чи діяльність правоохоронних органів), алгоритм може «вивчити» ці упередження та відтворювати їх у своїх рішеннях;

2) помилки у проєктуванні: вибір змінних (features), визначення цільової змінної (target variable) або спосіб маркування даних можуть містити приховані упередження;

3) використання проксі-змінних: алгоритми можуть використовувати нейтральні на перший погляд дані (наприклад, поштовий індекс, історія покупок), які сильно корелюють із захищеними ознаками (раса, соціально-економічний статус), що призводить до опосередкованої дискримінації [29].

ЄСПЛ неодноразово розглядав справи щодо непрямої дискримінації, зокрема: справи «D.H. and others v. Czech Republic» (заява № 57325/00, п.п. 110-115) [30] (дискримінація ромських дітей у доступі до освіти) та «Biao v. Denmark» (заява № 38590/10, п.п. 96-101) [31] (дискримінація за ознакою походження при возз’єднанні сім’ї). У рішеннях у цих справах Суд зазначав, що будь-яке різне ставлення до осіб, які перебувають у схожому становищі, вимагає об’єктивного та розумного виправдання, а заходи мають бути пропорційними та відповідати легітимній меті. Такий підхід є цілком застосовним до алгоритмічної дискримінації під час використання технологій ШІ.

Досить чутливими в аспекті застосування технологій ШІ, зокрема у правосудді, є право на справедливий суд, гарантоване ст. 6 ЄКПЛ, яке включає право на розгляд справи незалежним і безстороннім судом, встановленим законом, презумпцію невинуватості, право на захист, рівність, змагальність сторін та право бути поінформованим про обвинувачення, а також право на ефективний захист (ст. 13). Застосування ШІ у сфері правосуддя та правоохоронній діяльності створює серйозні виклики для гарантій, закріплених у ст. 6 та ст. 13 ЄКПЛ.

Так, однією з причин виникнення ризиків порушення права на справедливий суд, є непрозорість деяких алгоритмів систем ШІ, що можуть використовуватися в правосудді. Тому, якщо рішення (наприклад, про взяття під варту, визначення виду покарання) або докази базуються на висновках ШІ, логіку роботи якого неможливо зрозуміти та перевірити, це підриває право на ефективний захист, а обвинувачений позбавляється можливості адекватно заперечувати проти таких висновків [32].

Хоча у більшості рекомендацій щодо використання технологій ШІ в правосудді (зокрема, в Етичній хартії щодо використання ШІ в судочинстві [33]) вказується на допустимість застосування технологій ШІ виключно як допоміжного інструменту, однак, навіть у цьому випадку існує ризик «автоматизованої упередженості» (automation bias) – схильності людей надмірно довіряти результатам, згенерованим машиною, навіть за наявності суперечливої інформації. Також може спрацьовувати «якірний ефект» (anchoring effect), коли початкова оцінка, надана ШІ (наприклад, оцінка ризику рецидиву), непропорційно впливає на остаточне рішення людини [34]. Це ставить під сумнів реальну незалежність та безсторонність судді чи іншого органу, що приймає рішення, навіть за формальної наявності «у процесі прийняття рішення» (human-in-the-loop). З огляду на це, Акт ЄС про ШІ вимагає забезпечення можливості ефективного людського нагляду за системами високого ризику.

Зокрема, Акт ЄС щодо ШІ містить пряму вказівку на заборону деякої практики використання ШІ (ст. 5), яка вважається такою, що суперечать цінностям ЄС та становлять явну загрозу для фундаментальних прав людини: системи, що використовують підсвідомі, маніпулятивні або обманні техніки для суттєвого викривлення поведінки людини, завдаючи значної шкоди; системи, що експлуатують вразливості певних груп осіб (через вік, інвалідність, соціально-економічне становище) для викривлення їхньої поведінки, завдаючи значної шкоди; системи, які оцінюють або класифікують осіб на основі їхньої соціальної поведінки або особистісних характеристик, що призводить до невигідного чи несправедливого ставлення тощо.

Хоча у практиці ЄСПЛ відсутні рішення, безпосередньо пов’язані з порушеннями конвенційних прав у зв’язку з алгоритмічною упередженістю систем, заснованих на технологіях ШІ, однак, аналіз потенційних ризиків порушень ст. 6 (право на справедливий суд) та ст. 13 (право на ефективний засіб правового захисту) показує на необхідність екстраполювати принципи, сформульовані Судом у попередній практиці застосування Конвенції..

У цьому аспекті важливим прецедентом, хоч і на національному рівні, є рішення суду Нідерландів у справа SyRI (System Risk Indication), яке стосувалося використання нідерландським урядом автоматизованої системи для виявлення ризику шахрайства у сфері соціального забезпечення. 5 лютого 2020 року Окружний суд Гааги визнав, що законодавство, яке регулює застосування SyRI, порушує статтю 8 ЄКПЛ, яка гарантує право на повагу до приватного життя [35].

Також певні ризики у процесі використання технологій ШІ виникають щодо права, гарантованого ст. 10 ЄКПЛ, яка захищає свободу вираження поглядів та включає свободу дотримуватися своїх поглядів, одержувати і поширювати інформацію та ідеї без втручання органів державної влади. Зокрема, технології ШІ можуть впливати на свободу вираження поглядів у кількох аспектах.

По-перше, оскільки соціальні медіа-платформи все частіше використовують технології ШІ для автоматичного виявлення та видалення контенту, який вважається незаконним (наприклад, мова ворожнечі) або таким, що порушує правила платформи, поряд з позитивним ефектом, існує також значний ризик надмірного блокування (over-blocking) та помилкового видалення легітимних висловлювань, включаючи політичну критику, сатиру, мистецтво чи журналістські матеріали. Алгоритми ШІ можуть бути неточними, упередженими або нездатними врахувати контекст висловлювання.

Крім того, застосування технологій ШІ в медіа-просторі може нести ризики поширення дезінформації та маніпуляції, оскільки ШІ іноді використовується для створення та поширення дезінформації, пропаганди та маніпулятивного контенту, зокрема за допомогою deepfakes (реалістичних підробок фото, аудіо та відео).

Проведений вище аналіз можливих ризиків та потенційних загроз для основоположних прав людини, гарантованих ЄКПЛ, що пов’язані з використанням технологій ШІ, показує, що ефективність та безпечність такого використання неможливо досягти виключно за допомогою технологічних рішень. Вирішення вказаної проблеми вимагає комплексного підходу, що включає, крім іншого, адекватне вимогам сучасності нормативне регулювання у цій сфері. У такому аспекті зростає значимість позитивних зобов’язань держав, які виражаються у тому, що держави повинні не лише утримуватися від порушень прав за допомогою технологій ШІ, але й активно вживати заходів для захисту осіб від ризиків, що походять від таких технологій, у тому числі від дій приватних компаній, які розробляють та впроваджують такі системи.

При цьому аналіз практики ЄСПЛ у рішеннях, прямо чи опосередковано пов’язаних із застосуванням новітніх технологій у сфері, пов’язаній з реалізацією прав людини, демонструє поступову, хоча й обережну, адаптацію принципів ЄКПЛ до викликів, зумовлених розвитком систем ШІ. Суд послідовно тлумачить зміст існуючих прав, таких як право на приватність (ст. 8) та свободу вираження поглядів (ст. 10), відповідно до нових контекстів, включаючи онлайн-середовище, збір цифрових даних, використання систем спостереження тощо.

Водночас, практика ЄСПЛ має переважно реактивний характер – Суд реагує на конкретні скарги, що надходять до нього, а це означає певне відставання від темпів технологічного розвитку. З огляду на це та з урахуванням існуючих напрацювань у сфері регулювання використання технологій ШІ в публічно-управлінській діяльності, виникає необхідність у перегляді способів закріплення в ЄКПЛ деяких фундаментальних прав людини.

З цією метою можна запропонувати наступні зміни та доповнення до положень ЄКПЛ.

Статтю 1 Конвенції (Зобов’язання поважати права людини) доповнити новим абзацом такого змісту: «Держави-учасниці зобов’язуються забезпечити, щоб жодна цифрова технологія, включаючи системи штучного інтелекту, не призводить до порушення прав, гарантованих цією Конвенцією. Усі впровадження таких технологій мають передбачати попередню оцінку їхнього впливу на права людини та дотримання принципу технологічної нейтральності».

На обґрунтування цієї пропозиції можна зазначити, що оскільки цифрові технології, зокрема, засновані на ШІ, все частіше впливають на реалізацію основоположних прав, важливо покласти на держави зобов’язання гарантувати права людини у цифровому середовищі. Разом з тим, варто врахувати, що надмірне втручання у технологічну сферу може спричинити стримування інновацій та розвиток бюрократії.

Частину 1 ст. 6 Конвенції (Право на справедливий суд) доповнити новим абзацом такого змісту: «У процесах, де застосовуються автоматизовані або алгоритмічні системи ухвалення рішень, остаточне рішення має прийматися уповноваженою людиною, що несе повну відповідальність. Сторони процесу мають бути поінформовані про використання таких систем і мати право на їх оскарження».

Необхідність таких доповнень обумовлена тим, що автоматизація ухвалення деяких рішень не може гарантувати врахування певних соціальних, моральних, культурних норм, контекстуальність чи правову інтуїцію. З огляду на це наявність уповноваженої людини у процесі прийняття судових або адміністративних рішень гарантує відповідальність і прозорість.

Між тим, важливо утриматися від повної заборони автономного ухвалення рішень на певних етапах судового або адміністративного розгляду, оскільки це може уповільнити відповідні процеси.

У статті 7 Конвенції (Ніякого покарання без закону) доцільно в окремій частині уточнити, що: «Жодна особа не може бути покарана виключно на основі оцінки, здійсненої за допомогою алгоритмів ШІ. Такі оцінки не можуть слугувати єдиною або визначальною підставою для кримінальної відповідальності».

Таке доповнення гарантує презумпцію невинуватості та запобігає створенню безпідставного «профілю злочинця» для конкретної особи. Водночас, повне виключення таких прогнозів з правозастосування може зашкодити превентивним заходам у сфері безпеки, наприклад, ризик-менеджменту у пенітенціарних установах.

З метою усунення ризиків надмірного втручання технологій ШІ в приватні сфери життя людини, включаючи неконтрольоване стеження (зокрема, за допомогою технології розпізнавання обличчя) можна запропонувати ч. 1 ст. 8 Конвенції (Право на повагу до приватного і сімейного життя) доповнити новим абзацом такого змісту: «Кожен має право на захист від обробки своїх персональних і біометричних даних алгоритмічними системами без наявності достатніх правових, технічних і процедурних гарантій, які забезпечують законність, прозорість, мінімізацію даних».

Для захисту права на свободу слова в умовах автоматизованої модерації, зокрема на онлайн-платформах, ч. 2 ст. 10 Конвенції (Свобода вираження поглядів) доцільно доповнити положенням такого змісту: «Не допускається використання систем штучного інтелекту для проведення систематичного, непропорційного або непрозорого моніторингу чи цензурування висловлювань. Будь-яке обмеження має відбуватись на підставі закону, із забезпеченням людського нагляду та можливості оскарження».

Водночас, повністю виключати використання технологій ШІ у процесі модерації контенту в мережі недоцільно, оскільки у деяких випадках таке використання може бути виправдано необхідністю виявлення дезінформації або мови ворожнечі.

З метою забезпечення права на ефективний спосіб захисту в умовах використання технологій ШІ, необхідно забезпечити особі розуміння логіки рішень, на яких ґрунтується система ШІ. Статтю 13 Конвенції (Право на ефективний засіб правового захисту) доцільно доповнити таким положенням: «Кожен має право на зрозуміле пояснення та ефективний перегляд рішень, ухвалених із застосуванням систем штучного інтелекту, з можливістю звернення до незалежного органу для перевірки таких рішень».

Водночас, в аспекті запропонованих змін важливо врахувати, що деякі системи через непрозорість деяких систем ШІ (зокрема, нейронних мереж), пояснення їхніх рішень є або неповними, або надто складними для сприйняття користувачем.

Для усунення алгоритмічної упередженості, що може виникати під час автоматичного відтворювання за допомогою технологій ШІ деяких закономірностей на основі широкого аналізу даних, зокрема упередженості щодо раси, статі, віку чи місця проживання, можна запропонувати доповнити ст. 14 Конвенції (Заборона дискримінації) новим абзацом такого змісту: «Забороняється будь-яка форма дискримінації, включаючи такі, що виникають унаслідок упередженості алгоритмів або застосування систем штучного інтелекту. Держави-учасниці зобов’язані забезпечувати проведення аудиту таких систем і гарантувати процесуальні механізми оскарження».

Статтю 17 Конвенції (Заборона зловживання правами) доцільно доповнити положенням про те, що: «Забороняється використання технологій штучного інтелекту для обходу правових гарантій або добросовісного здійснення прав, гарантованих Конвенцією».

Упровадження цього положення до ст. 17 Конвенції знижує ризик маніпуляцій за допомогою технологій ШІ в сфері захисту прав людини. Водночас, виникне необхідність у належному тлумаченні ЄСПЛ поняття «обхід гарантій» або додатковому правовому уточненні й деталізації цієї категорії.

Окрім запропонованих вище змін та доповнень до ЄКПЛ також потребують трансформації деякі протоколи до Конвенції.

Зокрема, з метою розширення поняття «власність» та з огляд на те, що цифрові активи мають економічну цінність, відповідно встановлення контролю над ними є запорукою інформаційної безпеки та захищеності приватної власності.

Тому ст. 1 Протоколу № 1 Конвенції (про захист права власності) можливо доповнити положеннями такого змісту: «Кожен має право на захист цифрових активів, включаючи персональні дані та результати алгоритмічної обробки, згідно з режимами нормативного регулювання, що враховують їхню специфіку, економічну цінність та відмінність від традиційної власності».

При цьому важливо узгодити застосування категорії «власність на дані», що застосовуватиметься у Конвенції, з існуючим режимом інтелектуальної власності.

В аспекті розвитку технологій ШІ та їхнього впливу на права людини може виникнути потреба в ухваленні окремого Протоколу до Конвенції щодо захисту прав людини в умовах використання штучного інтелекту. У цьому додатковому Протоколі доцільно передбачити: 1) загальні принципи та гарантії прав людини у цифровому середовищі, зокрема принципи етичного використання технологій ШІ у сферах, які можуть впливати на права людини; 2) нові права людини в умовах використання технологій ШІ, а саме: право на пояснення і перегляд рішень, ухвалених за допомогою ШІ; право на участь людини в прийнятті або перегляді адміністративних чи судових рішень; заборона алгоритмічної дискримінації; особливості ухвалення автоматизованих рішень в публічному секторі; 3) інституційні зобов’язання держав щодо прийняття нормативно-правових актів, що забезпечують дотримання прав людини в сфері ШІ, створення незалежних органів для нагляду, аудиту та розслідувань в цій сфері; 4) засади міжнародного співробітництва і гармонізації стандартів у сфері використання технологій ШІ.

Висновки

Вплив ШІ на право на приватне життя (ст. 8 ЄКПЛ) характеризується викликами, пов’язаними з автоматизованим спостереженням, біометричною ідентифікацією та автоматизованим прогнозуванням поведінки. Застосування технологій ШІ також впливає на свободу вираження поглядів (ст. 10 ЄКПЛ), особливо при використанні технології розпізнавання обличчя без належного регулювання та контролю. У контексті права на справедливий суд (ст. 6 ЄКПЛ) існують виклики, зумовлені використанням алгоритмів для прийняття рішень у судовому чи адміністративному провадженні. Крім того, ШІ створює ризики для заборони дискримінації (ст. 14 ЄКПЛ) через можливість алгоритмічної упередженості.

Наявна практика ЄСПЛ у справах, пов’язаних із застосуванням цифрових технологій, демонструє адаптивність тлумачення положень ЄКПЛ, однак підтверджує, що існуючі правові механізми є частково обмеженими перед новими викликами ШІ. Суд діє обережно, залишаючи простір для національного регулювання. Найбільш значущими у цій сфері є такі висновки, викладені у рішеннях ЄСПЛ: будь-яке втручання у приватне життя шляхом таємного спостереження має: бути чітко врегульоване; передбачати належні запобіжники; бути підконтрольним незалежним органам; бути пропорційним поставленій меті (рішення у справі «Roman Zakharov v. Russia»); високі стандарти законності, пропорційності та прозорості для масового нагляду в цифрову епоху потребують спеціального національного регулювання (рішення у справі «Big Brother Watch v. UK»); технологія розпізнавання обличчя без належного правового регулювання є високоінтрузивним втручанням у приватність особи (рішення у справі «Glukhin v. Russia»).

Аналіз положень ЄКПЛ та практика її застосування в аспекті розвитку технологій ШІ та їхнього впровадження у сфери, пов’язані з правами людини, дозволяє виявити такі основні прогалини і ризики у частині використання ШІ та, відповідно, ефективному захисті конвенційних прав: 1) відсутність спеціалізованих норм у ЄКПЛ, які прямо стосуються ШІ, що обумовлює необхідність ЄСПЛ розширено тлумачити наявні статті; 2) недостатній рівень прозорості та підзвітності алгоритмів ШІ; 3) недостатність контролю за застосуванням ШІ в публічному секторі, особливо у правоохоронній і судовій сферах, а також сфері соціального захисту; 4) нерівність у цифровому доступі та ризики алгоритмічної дискримінації; 5) відсутність ефективної державної політики у сфері цифрової освіти.

Для усунення виявлених недоліків ЄКПЛ пропонується: 1) внести зміни до статей Конвенції для забезпечення поваги до прав людини у цифровому середовищі та запровадження права на отримання зрозумілого пояснення рішень, ухвалених за допомогою ШІ, і права на їхнє оскарження; 2) передбачити заборону алгоритмічної дискримінації та встановити вимогу обов’язкового людського контролю за автоматизованими рішеннями в публічному секторі; 3) розробити окремий Протокол до Конвенції, який покладе на держави зобов’язання щодо нормативного регулювання використання ШІ, забезпечення ефективного нагляду, аудиту та правового захисту, а також сприяння цифровій грамотності населення.

Новизною цього дослідження є комплексний аналіз викликів, які ШІ створює для системи захисту прав людини ЄКПЛ, та розробка конкретних пропозицій щодо внесення змін до Конвенції з метою адаптації її до цифрової епохи. Особливу увагу приділено необхідності поєднання технічних стандартів з етичними вимогами та юридичними зобов’язаннями для забезпечення ефективного захисту прав людини в умовах розвитку технологій ШІ.

СПИСOК ВИКOРИСТАНИХ ДЖЕРЕЛ

Берназюк І. М. Конституційно-правовий статус та механізми реалізації стратегічних (програмних) актів: дис. … д-ра юрид. наук: 12.00.02. ДВНЗ «Ужгород. нац. ун-т». Ужгород, 2017. 528 с.

Берназюк І. М. Штучний інтелект як нова реальність та його потенційний вплив на конституційно-правове регулювання в Україні. Електронне наукове видання «Аналітично-порівняльне правознавство». 2025. Вип. 1. С. 76-82.

Коваленко Ю., Войнов М. Штучний інтелект та права людини: орієнтири та обмеження у контексті національної безпеки та оборони. Українська Гельсінська спілка з прав людини. 2024. URL : https://www.helsinki.org.ua/wp-content/uploads/2024/05/Preview_AI_human_right_A4-1.pdf (дата звернення: 05.05.2025).

Турута О. В., Турута О. П. Штучний інтелект крізь призму фундаментальних прав людини. Науковий вісник Ужгородського Національного Університету. 2022. Серія Право. Вип. 71. С. 49-54.

Шевченко А. Є., Кудін С. В., Косілова О. І. Вплив штучного інтелекту на реалізацію прав і свобод людини і громадянина в Україні. Legal Bulletin. 2023. № 8. С. 65-74.

Ho-Dac M. Considering Fundamental Rights in the European Standardisation of Artificial Intelligence: Nonsense or Strategic Alliance? Joint Proceedings EURAS & SIIT 2023: (Responsible) Standardisation for Smart Systems. Р. 131-150.

Волкова Ю. Ф., Пирога І. С. Право на використання технологій штучного інтелекту: нові виклики та загрози для людини. Науковий вісник Ужгородського національного університету. Серія: Право. 2024. Вип. 84(1). С. 138-144.

Weerts H., Xenidis R., Tarissan F., Olsen H. P., Pechenizkiy M. Algorithmic Unfairness through the Lens of EU Non-Discrimination Law: Or Why the Law is not a Decision Tree. Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency. Р. 805-816.

Камардіна Ю. В., Поляруш-Сафроненко С. О., Вишневська Ю. В. Права людини в епоху розвитку штучного інтелекту. Вісник Маріупольського державного університету. Серія: Право. 2023. Вип. 14(27). С. 71-78.

Laulhé Shaelou S., Razmetaeva Y. Challenges to Fundamental Human Rights in the Age of Artificial Intelligence Systems: Shaping the Digital Legal Order While Upholding Rule of Law Principles and European Values. ERA Forum. 2024. Vol. 24. P. 567-587.

Кравчук С. Вплив штучного інтелекту на права людини та загальні рекомендації для сталого втілення. Вісник Національного університету “Львівська політехніка”. Серія: Юридичні науки. 2024. № 3(43). С. 101-109.

Yang Y., Zuiderveen Borgesius F., Beckers P., Brouwer E. Automated Decision-Making and Artificial Intelligence at European Borders and Their Risks for Human Rights. SSRN Electronic Journal. 2024. URL : https://doi.org/10.2139/ssrn.4790619 (дата звернення: 05.05.2025).

Гачкевич А. Виникнення права людини на безпечне використання штучного інтелекту. Право та інноваційне суспільство. 2024. № 2 (23). С. 32-40.

Котуха О. С., Попов Д. І. Штучний інтелект та права людини: проблеми цифровізації права на сучасному етапі розвитку електронної держави. Herald of Lviv University of Trade and Economics. Law Sciences. 2024. № 15. С. 19-27.

Корнєєва С. Р. Вплив застосування технологій штучного інтелекту на реалізацію та захист прав людини. Електронне наукове видання «Аналітично-порівняльне правознавство». 2022. № 3. С. 392-394.

Wachter S., Mittelstadt B., Russell C. Why Fairness Cannot Be Automated: Bridging the Gap Between EU Non-Discrimination Law and AI. SSRN Electronic Journal. 2022. URL : https://doi.org/10.2139/ssrn.3547922 (дата звернення: 05.05.2025).

Artificial intelligence, human rights, democracy, and the rule of law (2024). URL : http://rm.coe.int/1680afae3c (дата звернення: 05.05.2025).

Recommendation on the Ethics of Artificial Intelligence, adopted in 2021, is applicable to all 194 member states of UNESCO. URL : https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence (дата звернення: 05.05.2025).

The OECD AI Principles were initially adopted in 2019 and updated in May 2024. URL : https://oecd.ai/en/ai-principles (дата звернення: 05.05.2025).

Про схвалення Концепції розвитку штучного інтелекту в Україні: розпорядження Кабінету Міністрів України від 02.12.2020 № 1556-р. URL : https://zakon.rada.gov.ua/laws/show/1556-2020-%D1%80#Text (дата звернення: 05.05.2025).

European Convention on Human Rights (ECHR) as amended by Protocols Nos. 11, 14 and 15 supplemented by Protocols Nos. 1, 4, 6, 7, 12, 13 and 16. URL : https://www.echr.coe.int/documents/d/echr/convention_ENG (дата звернення: 05.05.2025).

Madiega T., Mildebrath H. Facial Recognition And Human Rights In Europe. September 2021. URL : https://www.europarl.europa.eu/RegData/etudes/IDAN/2021/698021/EPRS_IDA(2021)698021_EN.pdf (дата звернення: 05.05.2025).

Case of Glukhin v. Russia: decision of the European Court of Human Rights, 04.07.2023, № 11519/20. URL : https://hudoc.echr.coe.int/#{%22itemid%22:[%22002-14142%22]} (дата звернення: 05.05.2025).

Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data. Strasbourg, 28.I.1981. URL : https://rm.coe.int/1680078b37 (дата звернення: 05.05.2025).

General Data Protection Regulation 2016/679. OJ L 119, 04.05.2016. URL : https://gdpr-info.eu/ (дата звернення: 05.05.2025).

Case of S. and Marper v. the United Kingdom: decision of the European Court of Human Rights, 04.12.2008, № 30562/04 and № 30566/04). URL : https://hudoc.echr.coe.int/fre#{%22itemid%22:[%22001-117631%22]} (дата звернення: 05.05.2025).

Case of Big Brother Watch and others v. the United Kingdom: decision of the European Court of Human Rights, 25.05.2021, № 58170/13, № 62322/14 and № 24960/15. URL : https://hudoc.echr.coe.int/eng#{%22appno%22:[%2258170/13%22],%22itemid%22:[%22001-210077%22]} (дата звернення: 05.05.2025).

Case of Roman Zakharov v. Russia: decision of the European Court of Human Rights, 04.12.2015, № 47143/06. URL : https://hudoc.echr.coe.int/fre#{%22itemid%22:[%22001-159324%22]} (дата звернення: 05.05.2025).

Borgesius F.Z. Discrimination, artificial intelligence, and algorithmic decision-making. Council of Europe, 2018. URL : https://rm.coe.int/discrimination-artificial-intelligence-and-algorithmic-decision-making/1680925d73 (дата звернення: 05.05.2025).

Case of D.H. and others v. Czech Republic: decision of the European Court of Human Rights, 13.11.2007, № 57325/00. URL : https://hudoc.echr.coe.int/fre#{%22itemid%22:[%22001-83256%22]} (дата звернення: 05.05.2025).

Case of Biao v. Denmark: decision of the European Court of Human Rights, 24.05.2016, № 38590/10. URL : https://hudoc.echr.coe.int/fre#{%22itemid%22:[%22001-163115%22]} (дата звернення: 05.05.2025).

Desara Dushi Human Rights in the Era of Automated Decision Making and Predictive Technologies. https://www.gchumanrights.org/preparedness/human-rights-in-the-era-of-automated-decision-making-and-predictive-technologies/ (дата звернення: 05.05.2025).

European Commission for the Efficiency of Justice (2019). European Ethical Charter on the use of AI in the judicial systems and their environment. Adopted at the 31st plenary meeting of the CEPEJ (Strasbourg, 3-4 December 2018). URL: https://rm.coe.int/ethical-charter-en-forpublication-4-december-2018/16808f699c (дата звернення: 05.05.2025).

Muraszkiewicz J. Disputing the Independence and Impartiality of an AI-assisted Judiciary. 2021. URL: https://trilateralresearch.com/emerging-technology/disputing-the-independence-and-impartiality-of-an-ai-assisted-judiciary (дата звернення: 05.05.2025).

Human Rights Implications of the Use of AI in the Digital Welfare State: Lessons Learned from the Dutch SyRI Case – Oxford Academic. URL : https://academic.oup.com/hrlr/article/22/2/ngac010/6568079 (дата звернення: 05.05.2025).

Берназюк І.М. Окремі аспекти реалізації конституційного права особи на доступ до публічної інформації // Право і суспільство. – 2020. - № 1 – С. 9-14

Берназюк І.М. Захист права на повагу до приватного й сімейного життя у практиці Європейського суду з прав людини // Вчені записки ТНУ імені В.І. Вернадського. Серія: юридичні науки Том 31 (70) № 4 2020. С. 104-110.

Берназюк І.М. Інституалізація державного контролю за додержанням законодавства України про захист персональних даних // Вісник Луганського державного університету внутрішніх справ імені Е. О. Дідоренка. – 2020. - № 3. – С. 15-26