Штучний інтелект та право на приватність: баланс між інноваціями та захистом персональних даних

Пов'язані поняття

• Право на приватність
• Цифрова компетентність
• Принцип процесуальної економії
• Принцип заборони зловживання процесуальними правами
• Принцип правової визначеності
• Єдність судової практики
• Мотивованість судового рішення
• Національна безпека
• Академічна доброчесність та авторські права
• Довіра до суду

КОНСТИТУЦІЯ УКРАЇНИ

• Стаття 28 – Забезпечує право кожного на повагу до його гідності, що також пов’язане з приватністю, оскільки включає захист особистих даних.
• Стаття 30 – Забезпечує право на недоторканність житла. У статті зазначено, що проникнення до житла або іншого володіння особи, проведення в них огляду чи обшуку допускається лише за вмотивованим рішенням суду.
• Стаття 31 – Гарантує таємницю листування, телефонних розмов, телеграфної та іншої кореспонденції. Винятки допускаються тільки на підставі судового рішення в передбачених законом випадках.
• Стаття 32 – Прямо визначає право на невтручання в особисте та сімейне життя. Також заборонено збір, зберігання, використання та поширення конфіденційної інформації про особу без її згоди. Гарантує особі право знайомитися з інформацією про себе.

Рішення КСУ (щодо особових даних у судовому рішенні) від 19 квітня 2023 року № 4-р(II)/2023

• Суд визнав конституційними положення КАС, що передбачають зазначення у судових рішеннях місця проживання фізичних осіб та їхнього податкового номера.
• Суд дійшов висновку, що такі вимоги є правомірним обмеженням права на приватність, оскільки сприяють належній ідентифікації сторін та ефективному виконанню судових рішень.
• Використання персональних даних у судочинстві має відповідати принципу домірності та забезпечувати баланс між захистом приватності та інтересами правосуддя. І
• Існуючі правові механізми, зокрема щодо анонімізації відкритих судових рішень, є достатніми для захисту персональних даних осіб.
• Це рішення є важливим у контексті регулювання використання штучного інтелекту в судових процесах, оскільки підкреслює значення належних гарантій при обробці особистої інформації.

Запитання для обговорення

• Які головні проблеми приватності через ШІ та які перші кроки для їх вирішення?
• Як суди можуть допомогти у захисті приватності в епоху ШІ, особливо коли даних стає все більше?
• Які критерії суди повинні використовувати, щоб оцінити, чи законно використовують ШІ, особливо там, де ШІ впливає на долі людей?
• Як контролювати тих, хто створює та використовує ШІ, щоб не порушувати приватність, але й не заважати розвитку ШІ?
• Як навчити юристів (суддів, прокурорів, адвокатів) розумітися на приватності та ШІ, щоб вони могли добре працювати з такими справами в майбутньому?

Технологічні можливості ШІ та ризики для приватності

• Збір та обробка персональних даних:
• ШІ-системи аналізують великі масиви даних, що може призводити до порушення права на приватність.
• Використання алгоритмів для прогнозування поведінки особи (predictive analytics).
• Біометричні дані та технології розпізнавання обличчя:
• Проблеми використання відеоспостереження та біометричних систем без згоди громадян.
• Вплив автоматизованого прийняття рішень на приватність (наприклад, кредитний скоринг).

Законодавство України

• Закон України «Про захист персональних даних» (№ 2297-VI від 1 червня 2010 року)
• Визначає принципи збору, обробки та зберігання персональних даних.
• Закріплює право громадян на доступ до своїх даних.
• Закон України «Про інформацію» (№ 2657-XII від 2 жовтня 1992 року)
• Визначає правовий режим доступу до персональної інформації.
• Закон України «Про електронні комунікації» (№ 1089-IX від 16 грудня 2020 року)
• Регламентує захист даних у сфері електронних комунікацій.

Нормативно-правове регулювання в ЄС

• Регламент (ЄС) 2016/679 «Загальний регламент про захист даних» (General Data Protection Regulation, GDPR)
• Принципи обробки персональних даних (ст. 5).
• Права суб'єктів персональних даних (ст. 12–23).
• Обов’язки контролерів та операторів даних.
• Регламент (ЄС) 2022/868 «Акт про управління даними» (Data Governance Act - DGA)
• Запроваджує механізми обміну даними у ЄС.
• Вплив на обробку персональних та анонімізованих даних.
• Проєкт (пропозиція) Регламенту (ЄС) «Акт про штучний інтелект» (AI Act)
• Визначає рівні ризику використання ШІ.
• Обмежує використання певних технологій (наприклад, біометричної ідентифікації в режимі реального часу).

Практика ЄСПЛ

• Big Brother Watch та інші проти Великої Британії (справи № 58170/13, 62322/14, 24960/15): ЄСПЛ визнав незаконним масове перехоплення комунікацій британськими спецслужбами через недостатність гарантій від зловживань: масовий нагляд потребує надзвичайно суворих гарантій для захисту приватності.
• López Ribalda та інші проти Іспанії (справи № 1874/13, 8567/13): ЄСПЛ визнав незаконним приховане відеоспостереження за працівниками супермаркету без належного інформування: приховане спостереження на робочому місці є непропорційним втручанням у приватність, працівників потрібно інформувати.
• Gaughran проти Сполученого Королівства (справа № 45245/15): ЄСПЛ визнав незаконним безстрокове зберігання біометричних даних виправданої особи: зберігання біометричних даних має бути обмеженим у часі та пропорційним, особливо для невинуватих осіб.

Найважливіші події 2024 року

• Висловлення позиції Верховного Суду стосовно використання ШІ учасниками судового процесу (ухвала Судової палати для розгляду справ щодо корпоративних спорів, корпоративних прав та цінних паперів Касаційного господарського суду від 08.02.2024 у справі № 925/200/22 (посилання).
• Висловлення позиції З’їзду суддів України стосовно використання ШІ суддями (Кодекс суддівської етики від 18.09.2024 (посилання).
• Затвердження Всеукраїнською громадською організацією «Асоціація правників України» та внесення 26.12.2024 Національним агентством кваліфікації Професійного стандарту «Суддя» до Реєстру кваліфікацій (посилання).

Джерела: [1] [2] [3]

Кодекс суддівської етики (стаття 16)

• Використання суддею технологій штучного інтелекту є допустимим, якщо це:
• не впливає на незалежність та неупередженість судді,
• не стосується оцінки доказів,
• не стосується процесу ухвалення рішень,
• не порушує вимог законодавства.

Професійний стандарт «Суддя»

• Окремою вимогою до судді визначено «Цифрову компетентність», яка охоплює шість окремих складових такої компетентності та вимагає від судді наступних навичок:
• ідентифікувати та використовувати комп'ютерні й мобільні пристрої для вирішення робочих завдань, змінювати налаштування застосунків;
• адмініструвати онлайн сервіси; шукати, фільтрувати та перевіряти дані;
• аналізувати, інтерпретувати та оцінювати дані, інформацію та цифровий контент; застосовувати відповідні формати для створення певного цифрового контенту;
• застосовувати засоби цифрового зв'язку; поширювати та обмінюватись даними;
• відображати та використовувати цифрову ідентичність;
• дотримуватись визначених заходів кібергігієни, захисту та безпеки, у т. ч. розпізнавати неліцензійні застосунки.

Фільм "Штучне правосуддя" ("Artificial Justice")

• У фільмі розглядається впровадження штучного інтелекту в судову систему Іспанії.
• Сюжет розгортається у недалекому майбутньому, де уряд планує замінити суддів програмним забезпеченням на основі ШІ шляхом змін до Конституції, обіцяючи автоматизувати та деполітизувати судову систему.
• Фільм досліджує етичні дилеми та ризики, пов'язані з впровадженням ШІ в судову систему, піднімаючи питання про межі технологій у сфері правосуддя.
• https://www.youtube.com/watch?v=bdPVFeTcZ88

Джерела: [4]

Integrating Artificial Intelligence in Ukraine’s Courts.

• Юлія Москвитин та Агне Ліманте у своєму дослідженні «Інтеграція штучного інтелекту в судову систему України: стан і перспективи» звертають увагу на такі проблеми щодо ШІ у системі правосуддя:
• безпека та конфіденційність даних,
• надійність,
• прозорість,
• можливість пояснення,
• стратегічна спрямованість,
• підзвітність,
• справедливість
• неупередженість.
• Щоб ШІ справді приносив користь українській судовій системі, впровадження має бути зосередженим на зміцненні, а не на заміні, ролі людського судження.

Джерела: [5]

Protecting human rights in a world of Artificial Intelligence, algorithms and big data

• 31 січня 2025 з нагоди початку року у роботі ЄСПЛ відбувся семінар на тему «Захист прав людини у світі штучного інтелекту, алгоритмів і великих даних».
• Темами першої сесії були «Рада Європи/Європейські стандарти штучного інтелекту: створення ситуації та свобода слова в епоху штучного інтелекту».
• На другій сесії розглядалися теми: «Штучний інтелект і право на справедливий суд» та «Вирішення проблеми потенційної дискримінації у сфері штучного інтелекту».
• Програма: https://www.echr.coe.int/documents/d/echr/programme-seminar-jy-20250131-eng
• Аналітична довідка: https://www.echr.coe.int/documents/d/echr/seminar-background-paper-2025-eng
• Відео заходу: https://vodmanager.coe.int/cedh/webcast/cedh/2025-01-31-1/en

Джерела: [6] [7] [8]

РИЗИКИ ВПРОВАДЖЕННЯ ШІ В СИСТЕМУ ПРАВОСУДДЯ

• Проблеми з алгоритмами:
• 1. Упередженість алгоритмів та дискримінація: Системи ШІ можуть закріплювати та навіть посилювати існуючі соціальні упередження, що призводить до дискримінаційних результатів. ШІ може спричиняти дискримінацію та нерівність у доступі до правосуддя.
• 2. Потенціал для помилок: Системи ШІ не є досконалими і можуть помилятися, особливо при роботі зі складними або новими ситуаціями.

РИЗИКИ ВПРОВАДЖЕННЯ ШІ В СИСТЕМУ ПРАВОСУДДЯ

• Проблеми з прозорістю та контролем:
• Відсутність прозорості та пояснюваності: Процеси прийняття рішень ШІ можуть бути непрозорими, що ускладнює розуміння того, як було досягнуто певного результату. Системи ШІ повинні бути розроблені таким чином, щоб люди могли зрозуміти, як вони працюють і як вони приймають рішення.
• Зменшення людського контролю: Надмірна залежність від ШІ може призвести до зниження людського контролю та критичного мислення в судових процесах.
• Відсутність перегляду рішень ШІ: Важливо забезпечити людський контроль та можливість перегляду судових рішень, ухвалених автоматизованими системами.
• Прозорість алгоритмів: Судові процеси із застосуванням ШІ мають бути зрозумілими для учасників.
• Контроль і відповідальність: Необхідні механізми нагляду за ШІ та можливість оскарження його рішень.

РИЗИКИ ВПРОВАДЖЕННЯ ШІ В СИСТЕМУ ПРАВОСУДДЯ

• Проблеми з конфіденційністю та правами людини:
• Загрози конфіденційності: Використання ШІ для аналізу даних та розпізнавання обличчя може порушувати право на приватність.
• Дотримання прав людини: Потрібні незалежні органи контролю, щоб гарантувати захист прав людини при використанні ШІ.
• Інформованість громадськості: Громадськість повинна бути проінформована про те, як ШІ використовується в системі правосуддя, і мати право голосу в його розробці та впровадженні.

РИЗИКИ ВПРОВАДЖЕННЯ ШІ В СИСТЕМУ ПРАВОСУДДЯ

• Правове регулювання та відповідальність:
• Нестача правового регулювання: перші обов’язкові правові акти ЄС і Ради Європи щодо ШІ ухвалено лише у 2024 році; судова практика ще не забезпечує передбачуваності у використанні ШІ в судах.
• Юридична відповідальність: Має бути чітко визначено, хто несе відповідальність за помилки ШІ — суд, розробник чи держава.
• Незалежний нагляд: Повинні існувати незалежні механізми нагляду за використанням ШІ в системі правосуддя, щоб гарантувати його справедливе та відповідальне використання.

Judicial Systems in Transition: Reforms, Innovations and Justice

• 11-13 червня 2025 року в Університеті Ліможа Франція JAR-Association (Justice Administration Research Association, Асоціація з дослідження у сфері юстиції) планує провести конференцію на тему «Судові системи в перехідний період: реформи, інновації та правосуддя».
• Судові системи відіграють ключову роль не лише у вирішенні правових питань, а й у розв’язанні важливих економічних та соціальних проблем. Однак багато судових систем стикаються з труднощами:
• Політики у всьому світі ставлять під сумнів принцип розподілу повноважень, що забезпечує незалежність суду
• Судові органи критикують за неефективність та відірваність від реальності.
• Громадянське суспільство не завжди має доступ до інформації про механізми отримання незалежного та ефективного правосуддя.
• Реформи адміністративних судів часто не дають очікуваних результатів.

Джерела: [9]

Закон України “Про адміністративну процедуру“

• Стаття 69. Прийняття рішення у справі
• 1. За результатами розгляду справи адміністративний орган у межах своїх повноважень приймає адміністративний акт.
• 2. Якщо рішення у справі може бути прийнято на підставі електронних документів у машинозчитувальному форматі та/або даних національних електронних інформаційних ресурсів, адміністративний акт може бути прийнято в автоматичному режимі у випадках, передбачених законом.

Загальний регламент про захист даних (GDPR)

• Стаття 22. “Автоматизоване індивідуальне вироблення й ухвалення рішень, у тому числі, профайлінг”
• Профайлінг – це метод аналізу поведінки, психологічних характеристик або інших даних про людину для прогнозування її дій, особистісних особливостей або ризиків.
• Кримінальний профайлінг – використовується правоохоронними органами для аналізу злочинців на основі поведінкових, психологічних та соціальних характеристик.
• Цифровий профайлінг – аналіз інформації з інтернету, соцмереж і великих даних для створення портрета людини.

Джерела: [10]

Приклади практичного застосування ШІ

• Пошук інформації у великих текстах документів (іноземна мова)
• Підготовка релізів судових рішень
• Підготовка проєктів окремих думок
• Пошук критичних зауважень до оформлення проєктів документів
• Пошук критичних зауважень до тексту проєктів документів
• Підбір практики КСУ, ВП ВС, ЄСПЛ тощо
• Підбір наукових підходів до теоретичних питань права

Застосунки, які створені на базі ШІ та можуть бути використані у процесі реалізації особою права на доступ до суду та у процесі діяльності судової гілки влади

• https://openai.com/chatgpt
• https://chatgpt.com/?ref=dotcom
• cghzvhttps://copilot.microsoft.com
• https://claude.ai/new
• https://felo.ai/search
• https://www.perplexity.ai
• https://poe.com/

Джерела: [11] [12] [13] [14] [15] [16] [17] [18] [19]

Матеріал 25

• ВИКОРИСТАНІ ДЖЕРЕЛА
• 1. Берназюк Ян. Штучний інтелект як основа цифрового судочинства: помічник чи майбутній конкурент судді?
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/artificial_intelligence_bernaziuk.pdf
• 2. Берназюк Ян. Штучний інтелект (artificial intelligence) сьогоднішній погляд на перспективи майбутнього
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/artificial_intelligence_bernaziuk%20(1).pdf
• 3. Берназюк Ян. Сучасні можливості штучного інтелекту (artificial intelligence) процесуальна економія чи загроза незалежності судді?
• https://nsj.gov.ua/ua/pidgotovka-pratsivnikiv-aparativ-sudiv/programi-pidgotovki-pratsivnikiv-aparativ-sudiv-2021-rik/20-23-travnya-2024-r-programa-pidgotovki-ta-pidvishennya-rivnya-kvalifikatsii-za-standartizovanou-programou-pomichnikiv-suddiv-mistsevih-ta-apelyatsiynih-gospodarskih-sudiv
• 4. Берназюк Ян. Інтеграція штучного інтелекту (artificial intelligence) в систему правосуддя: поспішай повільно
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_festina_lente_bernaziuk.pdf
• 5. Берназюк Ян. Правосуддя та штучний інтелект: перші правила
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_first_rules_bernaziuk.pdf
• 6. Берназюк Ян. Штучний інтелект та питання етики під час здійснення правосуддя
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_ethics_bernaziuk.pdf
• 7. Берназюк Ян. Інструменти штучного інтелекту та неприпустимість зловживання процесуальними правами
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_abuse_of_procedural_rights.pdf
• 8. Берназюк Ян. Нові принципи здійснення правосуддя
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/101-%20new_principles_court_bernaziuk.pdf
• 9. Берназюк Ян. Технології штучного інтелекту та принцип правової визначеності
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_principal_of_legal_certainly_bernaziuk.pdf
• 10. Берназюк Ян. Штучний інтелект: застосувати недозволено ігнорувати
• https://court.gov.ua/storage/portal/supreme/prezentacii_2024/Prezent_AI_prohibition_or_permission_bernaziuk.pdf
• 11. Берназюк Ян. Сучасні можливості штучного інтелекту та питання приватності https://court.gov.ua/storage/portal/supreme/prezentacii_2024/104_AI_privacy_bernaziuk.pdf
• 12. Берназюк Ян Технології штучного інтелекту в правосудді: міжнародні стандарти регулювання
• https://court.gov.ua/storage/portal/supreme/prezentacii_2024/105_AI_internation_standarts_bernaziuk.pdf
• 13. Берназюк Ян. Практичні аспекти використання технології штучного інтелекту в юридичній сфері
• https://court.gov.ua/storage/portal/supreme/prezentacii_2024/108_AI_practice_bernaziuk.pdf
• 14. Берназюк Ян. Технології штучного інтелекту та life hacks для юристів https://court.gov.ua/storage/portal/supreme/prezentacii_2024/109_%20AI_life_hacks_bernaziuk.pdf

Джерела: [20] [21] [22] [23] [24] [25] [26] [27] [28] [29] [30] [31] [32] [33]

Матеріал 26

• ВИКОРИСТАНІ ДЖЕРЕЛА
• 15. Берназюк Ян. Штучний інтелект та система правосуддя України: результати співпраці у році, що минув
• https://so.supreme.court.gov.ua/authors/934/shtuchnyi-intelekt-ta-systema-pravosuddia-ukrainy-rezultaty-spivpratsi-u-rotsi-sh%D1%81ho-mynuv
• 16. Берназюк Ян. Наукові надбання як основа для наступних кроків на шляху інтеграції штучного інтелекту в систему правосуддя
• https://so.supreme.court.gov.ua/news/949/naukovi-nadbannia-iak-osnova-dlia-nastupnykh-krokiv-na-shliakhu-intehratsii-shtuchnoho-intelektu-v-systemu-pravosuddia
• 17. Берназюк Ян. Цифрова ера правосуддя: роль ШІ у забезпеченні єдності судової практики в Україні
• https://so.supreme.court.gov.ua/news/986/tsyfrova-era-pravosuddia-rol-shi-u-zabezpechenni-iednosti-sudovoi-praktyky-v-ukraini
• 18. Bernaziuk Ian. Artificial Intelligence and the Judicial system of Ukraine: results of cooperation in the past year https://constitutionalist.com.ua/artificial-intelligence-and-the-judicial-system-of-ukraine-results-of-cooperation-in-the-past-year
• 19. Берназюк Ян. Штучний інтелект та правосуддя: механізми забезпечення прозорості та підзвітності
• https://court.gov.ua/storage/portal/supreme/prezentacii_2024/115_AI_transparency_accountability_bernaziuk.pdf
• 20. Берназюк Ян. Інформація з обмеженим доступом та обов'язок суду гарантувати конституційні принципи рівності, змагальності та гласності судового процесу
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/restricted_information_bernaziuk.pdf
• 21. Берназюк Ян. Конституційна гарантія незалежності (неупередженості) судді як виняткова підстава для обмеження права особи на доступ до публічної
• https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/constitutional_quarantee_bernaziuk.pdf

Джерела: [34] [35] [36] [37] [38] [39] [40]