Принцип фахового людського контролю як основа взаємодії правосуддя та штучного інтелекту

ПРИНЦИП ФАХОВОГО ЛЮДСЬКОГО КОНТРОЛЮ (HUMAN OVERSIGHT)

• Постійне, усвідомлене, кваліфіковане втручання людини (судді, секретаря, аналітика) у кожен випадок використання ШІ в судочинстві.
• Гарантія того, що автоматизовані системи не приймають остаточних рішень без людської перевірки та розуміння контексту.
• Суддя як носій “Human-in-the-Loop”: не просто «перевіряє» результат, а керує процесом застосування ШІ.

ЗАПИТАННЯ ДЛЯ ДИСКУСІЇ

• Чи може суддя покладатися на аналітичні висновки ШІ без розкриття джерел?
• Де межа між допомогою ШІ і неправомірним впливом на суддю?
• Хто несе відповідальність за помилку, якщо суддя довірився ШІ?
• Чи потрібен окремий навчальний курс цифрової компетентності для суддів?

УХВАЛА АПЕЛЯЦІЙНОЇ ПАЛАТИ ВИЩОГО АНТИКОРУПЦІЙНОГО СУДУ ВІД 01 ВЕРЕСНЯ 2025 РОКУ У СПРАВІ № 991/3222/25

• Суд повернув скаргу "іншої особи" на вирок за угодою, яка стверджувала, що мотивувальна частина рішення фактично встановила її винуватість.
• Головний аргумент скарги: апелянт ідентифікувала себе зі знеособленою "Особою 1" у тексті вироку, посилаючись на те, що система ChatGPT змогла деанонімізувати цю особу за посадою та обставинами справи.
• Суддя-доповідач відхилив посилання на висновок AI, підтвердивши, що вирок за угодою не має преюдиційного значення і не може бути використаний як доказ вини третіх осіб, а відповіді ChatGPT не є джерелом достовірної інформації чи доказів.

Джерела: [1]

УХВАЛА КАСАЦІЙНОГО ЦИВІЛЬНОГО СУДУ ВІД 12 ВЕРЕСНЯ 2025 РОКУ У СПРАВІ № 750/6682/23

• Заява про відвід колегії суддів … обґрунтована тим, що, на думку заявника, судді … недостатньо вмотивували та обґрунтували ухвалу від 04 вересня 2025 року, тому він має сумніви в об’єктивності і компетентності суддів та їх спроможності ухвалювати законні судові рішення у цій справі. Вважає, що неупереджена думка штучного інтелекту на заявлені ним підстави відводу має значення для вирішення питання про відвід.
• Позиція Суду: ухвалюючи рішення, судді керуються виключно положеннями закону та своїм внутрішнім переконанням, висновки, сформовані ШІ, не мають жодного доказового значення для встановлення наявності чи відсутності обставин, що викликають сумнів в неупередженості або об’єктивності суддів.

Джерела: [2]

УХВАЛА КИЇВСЬКОГО АПЕЛЯЦІЙНОГО СУДУ ВІД 30 ЛИПНЯ 2025 РОКУ У СПРАВІ № 11-КП/824/1818/2025

• Суд скасував вирок суду першої інстанції, призначивши новий розгляд, через його незаконність, необґрунтованість та немотивованість.
• Ключова підстава для скасування: суд першої інстанції обтяжив вирок довільним трактуванням загальних понять та теоретичними аспектами, згенерованими штучним інтелектом "ChatGPT", що поставило під сумнів суддівський розсуд та тлумачення права.
• Апеляційний суд наголосив, що використання технологій має поважати природу судового процесу, а ШІ є лише допоміжним інструментом, який не може замінити роль суддів у встановленні фактичних обставин справи (КРЄС № 26 (2023), п. 90; позиція ВС від 08.02.2024 у справі № 925/200/22).

Джерела: [3]

ПОСТАНОВА ВЕРХОВНОГО СУДУ ВІД 8 ЛИПНЯ 2025 У СПРАВІ № 925/496/24

• Суд відмовився досліджувати як доказ відповіді, згенеровані ChatGPT та Grok (xAI), які відповідач намагався використати для трактування умов договору оренди землі.
• Суд наголосив, що ШІ може бути лише корисним інформативним інструментом, але не може замінити ні роль суддів, ні принципи належності, допустимості та достовірності доказів.
• Технологія має використовуватись виключно для підтримки та посилення верховенства права, а ухвалення рішень повинно здійснюватися лише суддями.

Джерела: [4]

УХВАЛА ВЕРХОВНОГО СУДУ ВІД 19 ЧЕРВНЯ 2025 РОКУ У СПРАВІ № 520/6119/23

• Суд відмовив у поновленні пропущеного строку на касаційне оскарження, не визнавши поважними причини, на які посилався скаржник.
• Скаржник обґрунтовував тривалу бездіяльність, зокрема, необхідністю використання платної версії ШІ лише у квітні 2025 року для формування правової позиції у справі.
• Використання ШІ як допоміжного інструменту для формування позиції не є об’єктивною, непереборною перешкодою, яка може виправдати пропуск процесуального строку, оскільки принцип правової визначеності вимагає своєчасного та добросовісного користування правами.

Джерела: [5]

ДОСВІД У ВИКОРИСТАННІ ШІ

• Понад половина суддів та працівників апарату вже тестували або регулярно застосовують інструменти ШІ.
• Основні сфери застосування:
• пошук судової практики та законодавства;
• підготовка проєктів документів;
• аналіз великих масивів текстів.
• Частина респондентів вказала на проблеми: неточності, помилки у цитатах, ризик надмірної довіри.

ОЧІКУВАННЯ ТА РИЗИКИ

• Очікування:
• інтеграція ШІ в «Електронний суд» та ЄДРСР,
• спрощення документообігу,
• допомога у стандартизації рішень.
• Основні побоювання:
• порушення конфіденційності,
• упередженість алгоритмів,
• небезпека делегування вирішальної ролі ШІ.
• Висновок: більшість підтримує використання ШІ як асистента, але наголошує на потребі чітких правил і людського контролю.

КОДЕКС СУДДІВСЬКОЇ ЕТИКИ (СТАТТЯ 16)

• Використання суддею технологій штучного інтелекту є допустимим, якщо це:
• не впливає на незалежність та неупередженість судді,
• не стосується оцінки доказів,
• не стосується процесу ухвалення рішень,
• не порушує вимог законодавства.

Джерела: [6]

ЗАСАДИ ВИКОРИСТАННЯ ІНСТРУМЕНТІВ ШТУЧНОГО ІНТЕЛЕКТУ У ВАКС (наказ № 56 від 19.12.2024)

• Мета документа:
• Впровадження у Вищому антикорупційному суді сучасних та ефективних моделей управління, захисту інформації.
• Підвищення рівня діджиталізації.
• Оптимізація витрат матеріальних ресурсів.

Джерела: [7]

РЕКОМЕНДАЦІЇ ДЛЯ ПРАВНИКІВ ЩОДО БЕЗПЕЧНОГО ВИКОРИСТАННЯ ШТУЧНОГО ІНТЕЛЕКТУ (ЛИПЕНЬ 2025)

• Ці секторальні рекомендації є одним зі складників дорожньої карти з регулювання ШІ в Україні. Системи ШІ можуть бути корисні на різних етапах діяльності правників — від первинного аналізу документів до формування стратегії захисту клієнта та підготовки процесуальних
• документів.
• Ці рекомендації розроблено для того, щоб надати правникам практичні поради щодо відповідального використання ШІ в професійній діяльності

Джерела: [8]

ВПЛИВ ШІ НА ПРАВА ЛЮДИНИ ТА СПРАВЕДЛИВИЙ СУД

• Використання ШІ в системах правосуддя повинно бути прозорим і підконтрольним, щоб уникнути несправедливих рішень. У цьому контексті особливе значення для нашої держави мають нормативні положення Конституції України щодо рівності перед законом та судом.

РОЗРОБКА СПЕЦІАЛІЗОВАНИХ РЕКОМЕНДАЦІЙ ДЛЯ СУДДІВ

• Ці рекомендації є загальними для будь-яких працівників у сфері юриспруденції, в подальшому окремі інституції можуть самостійно розробити вузькі, спеціалізовані рекомендації для використання ШІ: суддями, нотаріусами, адвокатами, прокурорами тощо.

КОМЕНТАР ДО СТАТТІ 16 КОДЕКСУ СУДДІВСЬКОЇ ЕТИКИ

• Сьогодні Рада суддів України активно працює над підготовкою нового Коментаря до Кодексу суддівської етики (https://rsu.gov.ua/ua/news/u-radi-suddiv-ukraini-vidbulosa-zasidanna-rg-z-pidgotovki-komentara-do-kodeksu-suddivskoi-etiki; https://rsu.gov.ua/ua/news/zasidanna-robocoi-grupi-rsu-z-pidgotovki-komentara-do-kodeksu-suddivskoi-etiki-vidbulosa-u-vinnici).

Джерела: [9] [10] [11]

ОСНОВНІ ІДЕЇ

• Внутрішнє переконання судді, що формується на основі безпосереднього дослідження всіх обставин справи, є основою справедливого судочинства. Надмірна довіра до ШІ... може розмити чи підмінити власне переконання судді.
• Ефект автоматизації упередженості полягає в тому, що суддя може надмірно покладатися на висновки, згенеровані ШІ, сприймаючи їх як об’єктивніші за власні судження… Це може знижувати рівень критичного аналізу та суперечить обов’язку судді ухвалювати рішення виключно на основі самостійної оцінки доказів.

ОСНОВНІ ІДЕЇ

• Якщо ШІ функціонує як "чорна скринька"… виникає ризик, що суддя не зможе пояснити навіть для себе підстави таких висновків. Це ставить під сумнів незалежність судового рішення.
• Перед застосуванням будь-якого цифрового інструменту суддя повинен поставити собі питання: чи використовую я ШІ виключно як допоміжний засіб, чи зберігаю контроль над результатом, чи не містить відповідь ШІ упередження.

ПОЛОЖЕННЯ ПРО ВИКОРИСТАННЯ ТЕХНОЛОГІЙ ШІ ПРАЦІВНИКАМИ АПАРАТУ ВС

• На засіданні Робочої групи Верховного Суду щодо стратегії забезпечення єдності судової практики 7 липня 2025 року було вирішено вважати за доцільне розпочати розробку правил використання штучного інтелекту в діяльності Верховного Суду та доручити Департаменту аналітичної та правової роботи розробити проєкт таких правил

Джерела: [12]

ОСНОВНІ ІДЕЇ

• ШІ є виключно допоміжним засобом, який не може замінити професійну діяльність працівника (його критичне мислення, фахове судження, правову кваліфікацію та прийняття остаточного рішення).
• Остаточне рішення про використання результатів, отриманих з використанням ШІ, завжди залишається за працівником, який повинен зберігати повний контроль над процесом такого використання

ОСНОВНІ ІДЕЇ

• Будь-яка інформація, створена з використанням ШІ, підлягає обов’язковій фаховій перевірці працівником на точність, достовірність та відсутність упереджень.
• Працівники зобов’язані проходити періодичне навчання щодо практичних аспектів застосування технологій ШІ, зокрема техніки інженерії запитів.

Матеріал 23

• ПОПЕРЕДНІ ПРЕЗЕНТАЦІЇ
• 1. Штучний інтелект як основа цифрового судочинства: помічник чи майбутній конкурент судді? https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/artificial_intelligence_bernaziuk.pdf
• 2. Штучний інтелект (artificial intelligence) сьогоднішній погляд на перспективи майбутнього https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/artificial_intelligence_bernaziuk%20(1).pdf
• 3. Сучасні можливості штучного інтелекту (artificial intelligence) процесуальна економія чи загроза незалежності судді?
• https://nsj.gov.ua/ua/pidgotovka-pratsivnikiv-aparativ-sudiv/programi-pidgotovki-pratsivnikiv-aparativ-sudiv-2021-rik/20-23-travnya-2024-r-programa-pidgotovki-ta-pidvishennya-rivnya-kvalifikatsii-za-standartizovanou-programou-pomichnikiv-suddiv-mistsevih-ta-apelyatsiynih-gospodarskih-sudiv
• 4. Інтеграція штучного інтелекту (artificial intelligence) в систему правосуддя: поспішай повільно https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_festina_lente_bernaziuk.pdf
• 5. Правосуддя та штучний інтелект: перші правила https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_first_rules_bernaziuk.pdf
• 6. Штучний інтелект та питання етики під час здійснення правосуддя https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_ethics_bernaziuk.pdf
• 7. Інструменти штучного інтелекту та неприпустимість зловживання процесуальними правами https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_abuse_of_procedural_rights.pdf
• 8. Нові принципи здійснення правосуддя https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/101-%20new_principles_court_bernaziuk.pdf
• 9. Технології штучного інтелекту та принцип правової визначеності https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_principal_of_legal_certainly_bernaziuk.pdf
• 10. Штучний інтелект: застосувати недозволено ігнорувати https://court.gov.ua/storage/portal/supreme/prezentacii_2024/Prezent_AI_prohibition_or_permission_bernaziuk.pdf
• 11. Сучасні можливості штучного інтелекту та питання приватності https://court.gov.ua/storage/portal/supreme/prezentacii_2024/104_AI_privacy_bernaziuk.pdf
• 12. Технології штучного інтелекту в правосудді: міжнародні стандарти регулювання https://court.gov.ua/storage/portal/supreme/prezentacii_2024/105_AI_internation_standarts_bernaziuk.pdf
• 13. Практичні аспекти використання технології штучного інтелекту в юридичній сфері https://court.gov.ua/storage/portal/supreme/prezentacii_2024/108_AI_practice_bernaziuk.pdf
• 14. Технології штучного інтелекту та life hacks для юристів https://court.gov.ua/storage/portal/supreme/prezentacii_2024/109_%20AI_life_hacks_bernaziuk.pdf
• 15. Штучний інтелект та правосуддя: механізми забезпечення прозорості та підзвітності https://court.gov.ua/storage/portal/supreme/prezentacii_2024/115_AI_transparency_accountability_bernaziuk.pdf
• 16. Штучний інтелект та право на приватність: баланс між інноваціями та захистом персональних даних https://court.gov.ua/storage/portal/supreme/prezentacii_2025/119_AI_personal_data_protection_bernaziuk.pdf
• 17. Цифрова ера правосуддя: роль ШІ у забезпеченні єдності судової практики в Україні https://court.gov.ua/storage/portal/supreme/prezentacii_2025/120_AI_uniformity_of_judicial_practice_bernaziuk.pdf
• 18. Діджиталізація судочинства: межі допустимого використання ШІ https://court.gov.ua/storage/portal/supreme/Bernazuk_.pdf
• 19. Штучний інтелект у правосудді: міжнародний досвід та виклики https://constitutionalist.com.ua/shtuchnyj-intelekt-u-pravosuddi-mizhnarodnyj-dosvid-ta-vyklyky
• 20 Технології штучного інтелекту: майбутні перспективи та ризики для судової гілки влади https://court.gov.ua/storage/portal/supreme/prezentacii_2025/124_AI_Future_Prospects_Risks_for_Judiciary_bernaziuk.pdf
• 21. Штучний інтелект у правосудді: ризики алгоритмічної упередженості та дискримінації https://court.gov.ua/storage/portal/supreme/prezentacii_2025/125_AI_Algorithmic_Bias_Discrimination_Risks_bernaziuk.pdf
• 22. Верховенство права в епоху ШІ: як верховні суди зберігають баланс між інноваціями та традиціями https://court.gov.ua/storage/portal/supreme/133.%20AI_and_Regulation_by_SupremeCourts_bernaziuk.pdf
• 23. Правосуддя в епоху штучного інтелекту: інструмент чи виклик? https://constitutionalist.com.ua/pravosuddia-v-epokhu-shtuchnoho-intelektu-instrument-chy-vyklyk
• 24. Стаття 16 Кодексу суддівської етики: допустиме та заборонене у використанні ШІ
• https://court.gov.ua/storage/portal/supreme/prezentacii_2025/137_AI_Code_Judicial_Ethics_Art_16_Permissible_Prohibited_bernaziuk.pdf
• 25. Artificial Intelligence and The Judicial System Of Ukraine: Results Of Cooperation In The Past Year https://court.gov.ua/storage/portal/supreme/prezentacii_2025/AI_Ukraine_bernaziuk.pdf
• 26. Штучний інтелект у діяльності Верховного Суду: етичні та організаційні рамки https://court.gov.ua/storage/portal/supreme/prezentacii_2025/142_AI_in_SC_Ethical_Organizational_Frameworks_bernaziuk.pdf
• 27. Принципи відповідального використання ШІ за рекомендаціями Мінцифри: від особистої практики судді до контролю за учасниками процесу https://court.gov.ua/storage/portal/supreme/prezentacii_2025/143_Responsible%20AI%20Principles%20in%20Justice_bernaziuk.pdf
• 28. Штучний інтелект у правосудді: виклики алгоритмічних помилок і гарантії справедливого процесу https://court.gov.ua/storage/portal/supreme/prezentacii_2025/145_Responsible_AI_Principles_in_Justice_bernaziuk.pdf

Джерела: [13] [14] [15] [16] [17] [18] [19] [20] [21] [22] [23] [24] [25] [26] [27] [28] [29] [30] [31] [32] [33] [34] [35] [36] [37] [38] [39] [40]

Додаткові джерела

• 1. Берназюк Ян. Штучний інтелект та система правосуддя України: результати співпраці у році, що минув https://so.supreme.court.gov.ua/authors/934/shtuchnyi-intelekt-ta-systema-pravosuddia-ukrainy-rezultaty-spivpratsi-u-rotsi-sh%D1%81ho-mynuv
• 2. Берназюк Ян. Наукові надбання як основа для наступних кроків на шляху інтеграції штучного інтелекту в систему правосуддя https://so.supreme.court.gov.ua/news/949/naukovi-nadbannia-iak-osnova-dlia-nastupnykh-krokiv-na-shliakhu-intehratsii-shtuchnoho-intelektu-v-systemu-pravosuddia
• 3. Берназюк Ян. Принцип фахового людського контролю як основа взаємодії правосуддя та штучного інтелекту https://so.supreme.court.gov.ua/news/986/tsyfrova-era-pravosuddia-rol-shi-u-zabezpechenni-iednosti-sudovoi-praktyky-v-ukraini
• 4. Bernaziuk Ian. Artificial Intelligence and the Judicial system of Ukraine: results of cooperation in the past year https://constitutionalist.com.ua/artificial-intelligence-and-the-judicial-system-of-ukraine-results-of-cooperation-in-the-past-year
• 5. Берназюк Ян. Штучний інтелект і його використання для забезпечення єдності судової практики як складової довіри до суду // Слово Національної школи суддів України. – 2024, № 2(49), С. 16-35 https://slovo.nsj.gov.ua/images/pdf/2024_4_49/nsj_4_49_2024.pdf
• 6. Берназюк Ян. Ера ШІ й роль верховних судів у цифровій трансформації правосуддя // Юридична газета. № 4 (792). - С. 16-18. https://yur-gazeta.com/publications/practice/sudova-praktika/era-shi-y-rol-verhovnih-sudiv-u-cifroviy-transformaciyi-pravosuddya.html
• 7. Bernaziuk Ian. Artificial Intelligence in the Ukrainian Judiciary: Charting the Course Under the Digital Gavel https://constitutionalist.com.ua/artificial-intelligence-in-the-ukrainian-judiciary-charting-the-course-under-the-digital-gavel

Джерела: [41] [42] [43] [44] [45] [46] [47] [48]