Штучний інтелект у правосудді: ризики алгоритмічної упередженості та дискримінації

Пов'язані поняття

• Незалежність, неупередженість, об'єктивність суду
• Справедливість (моральність)
• Цифрова компетентність
• Ефективне правосуддя
• Принцип процесуальної економії
• Принцип гласності (прозорості)
• Єдність судової практики, принцип правової визначеності
• Мотивованість судового рішення
• Доступ до правосуддя
• Етика
• Довіра до суду

Алгоритмічна упередженість та дискримінація

• Алгоритмічна упередженість – це системна похибка в рішеннях штучного інтелекту або автоматизованих алгоритмів, яка призводить до несправедливого чи дискримінаційного ставлення до певних груп осіб.
• Необ’єктивні вхідні дані – алгоритм навчається на історичних даних, які можуть містити упередження у судовій чи правоохоронній практиці.
• Непропорційний розподіл вибірки – якщо в навчальному наборі більше представників однієї групи (наприклад, певної раси чи статі), алгоритм може формувати неправильні закономірності.

Amara's Law

• Це принцип, сформульований науковцем Роєм Амарою, який стверджує:
• "Ми переоцінюємо вплив технологій у короткостроковій перспективі та недооцінюємо їхній вплив у довгостроковій перспективі."
• Цей закон відображає тенденцію суспільства спочатку сприймати нові технології з ажіотажем, очікуючи негайних революційних змін, а потім, після розчарування, не помічати їхнього глибокого впливу на економіку, культуру та суспільство в цілому.
• Приклад:
• – Наприкінці 90-х років вважали, що інтернет миттєво змінить бізнес, але ефект виявився поступовим і кардинально трансформував світ лише через десятиліття.
• – ШІ зараз сприймається як революційний прорив, проте його реальні довгострокові наслідки стануть очевидними через багато років.

Black Box

• Термін «чорна скринька» у ШІ означає ситуацію, коли алгоритми ухвалюють рішення, але їхній внутрішній процес залишається незрозумілим для користувачів і розробників.
• Основні риси «чорної скриньки» у ШІ:
• 1. Непрозорість – алгоритм видає результати, але неможливо простежити логіку, за якою він їх отримав.
• 2. Неможливість пояснення того, чому ШІ ухвалив саме таке рішення.
• 3. Ризики упередженості – якщо ШІ навчається на упереджених даних, він може відтворювати або навіть посилювати дискримінацію.
• 4. Правові та етичні виклики – у сферах, де потрібна мотивованість (правосуддя), відсутність зрозумілих рішень може спричинити порушення прав людини.

Centaur’s Dilemma

• Дилема кентавра у правосудді – це виклик у визначенні меж відповідальності між суддею та ШІ.
• Якщо суддя безумовно довіряє ШІ, він ризикує втратити контроль, критичне мислення та допустити несправедливість (упереджене рішення).
• Якщо ж ігнорує ШІ, це уповільнює правосуддя та знижує його ефективність.
• Спосіб вирішення цієї дилеми – Explainable AI (XAI), який дозволяє суддям розуміти алгоритмічні висновки: гібридна модель, де ШІ надає аналітичні рекомендації, а суддя ухвалює остаточне рішення.

Moravec's Paradox

• Парадокс Моравека – це концепція в сфері ШІ, яка описує зворотну складність завдань для людини та ШІ. Високорівневі інтелектуальні завдання, які здаються складними для людей (логіка, математика, шахи), ШІ виконує легко, а натомість базові сенсорно-моторні навички (ходьба, розпізнавання емоцій, інтуїтивне мислення) – є надзвичайно складними для ШІ.
• 1. Легке для нас – важке для ШІ
• Людина без зусиль розпізнає обличчя, ходить, сприймає мову на рівні інтуїції.
• ШІ потребує величезних обчислювальних ресурсів для моделювання таких функцій.
• 2. Важке для нас – легке для ШІ
• Аналіз великих даних – для ШІ це відносно просто: логічні завдання нові для еволюції, тоді як сенсорні й моторні навички формувалися мільйонами років.

Moravec's Paradox (в аспекті судочинства)

• Автоматизоване судочинство – ШІ може легко аналізувати юридичні тексти, прецеденти, прогнозувати рішення – але складно оцінювати емоції, моральний контекст чи унікальність людських обставин.
• Алгоритмічна упередженість – ШІ може приймати формально правильні рішення, не розуміючи соціального або етичного контексту.
• Роль людини – суддя може делегувати ШІ аналіз рішень, але оцінка доказів, емоцій та справедливості має залишатися людською прерогативою.
• Парадокс Моравека підкреслює, що штучний інтелект не може повністю замінити людину в судових процесах, оскільки він не володіє інтуїцією, емпатією та здатністю розуміти моральний контекст.

Trolley Problem

• Етична дилема вагонетки – це філософський експеримент про вибір (моральність) між невтручанням і загибеллю 5 людей або активним втручанням і смертю 1 людини.
• У ШІ та правосудді це питання виникає в автономних системах (автопілот, військові дрони, медичні алгоритми): кого рятувати в критичній ситуації?
• Алгоритмічна справедливість – чи може ШІ ухвалювати вироки?
• Юридична відповідальність – хто нестиме відповідальність за рішення, ухвалене ШІ?
• ШІ не повинен повністю замінювати людину, а має доповнювати, використовуючи сильні сторони обох.
• Суддя, з його досвідом, знаннями та етичними принципами, залишається ключовою фігурою в судовому процесі, а ШІ виступає як інструмент, що допомагає йому приймати більш обґрунтовані та справедливі рішення.

Фільм "Штучне правосуддя" ("Artificial Justice")

• У фільмі розглядається впровадження штучного інтелекту в судову систему Іспанії.
• Сюжет розгортається у недалекому майбутньому, де уряд планує замінити суддів програмним забезпеченням на основі ШІ шляхом змін до Конституції, обіцяючи автоматизувати та деполітизувати судову систему.
• Фільм досліджує етичні дилеми та ризики, пов'язані з впровадженням ШІ в судову систему, піднімаючи питання про межі технологій у сфері правосуддя.
• https://www.youtube.com/watch?v=bdPVFeTcZ88

Джерела: [1]

Застосунки, які створені на базі ШІ та можуть бути використані у процесі реалізації особою права на доступ до суду та у процесі діяльності судової гілки влади

• https://openai.com/chatgpt
• https://gemini.google.com/app?hl=uk
• https://copilot.microsoft.com
• https://claude.ai/new
• https://felo.ai/search
• https://www.perplexity.ai
• https://poe.com
• https://x.com/i/grok
• https://chat.deepseek.com/

Джерела: [2] [3] [4] [5] [6] [7] [8] [9] [10] [11] [12] [13]

Майбутні завдання та виклики

• 1. Розробка та впровадження законодавчого регулювання
• 2. Придбання доступу до інструментів ШІ
• 3. Сертифікація програмного забезпечення
• 4. Інтеграція ШІ з існуючими інформаційними системами
• 5. Забезпечення обсягу та якісних даних
• 6. Навчання суддів та працівників апарату
• 7. Роз'яснювальна робота
• 8. Захист від зовнішнього втручання

COMPAS (Correctional Offender Management Profiling for Alternative Sanctions)

• Система профілювання ризиків правопорушників для призначення альтернативних санкцій - це програмне забезпечення, що використовується в судовій системі США для оцінки ризику рецидиву, аналізуючи різні фактори, щоб допомогти суддям приймати рішення щодо умовно-дострокового звільнення та інших санкцій.
• Дослідження ProPublica 2016 року дійсно виявило, що алгоритм COMPAS має тенденцію завищувати ризик рецидиву для афроамериканців, що викликало серйозні занепокоєння щодо расової упередженості.
• Непрозорість алгоритму (є власністю приватної компанії) ускладнює незалежну оцінку його точності та справедливості, викликає критику.
• .

Що таке ШІ у роботі юриста

• Це виключно помічник, що:
• потребує навчання та звикання,
• не зробить краще за користувача,
• працює у режимі «правок», а не «рецензування»,
• має більше часу, креативності, легко знаходить матеріал, знає всі мови,
• робить помилки за своєї багатофункціональності,
• має різні настрої (режими працездатності),
• схожий на талановитого, але лінивого друга-студента,
• вимагає переперевірки власної роботи (самостійно або за допомогою іншого ШІ),
• краще працює із завантаженими документами.

PROMPT

• 1. Привітання
• 2. Інформування про особу користувача (професію, уподобання)
• 3. Інформування про кінцеву ціль/мету прохання
• 4. Інформування про проміжне завдання
• 5. (за необхідності) надіслання зразків
• 6. Інформування про якість та обсяг очікуваного результату
• 7. Прохання перепровірити

Найважливіші події 2024 року

• Висловлення позиції Верховного Суду стосовно використання ШІ учасниками судового процесу (ухвала Судової палати для розгляду справ щодо корпоративних спорів, корпоративних прав та цінних паперів Касаційного господарського суду від 08.02.2024 у справі № 925/200/22 (посилання).
• Висловлення позиції З’їзду суддів України стосовно використання ШІ суддями (Кодекс суддівської етики від 18.09.2024 (посилання).
• Затвердження Всеукраїнською громадською організацією «Асоціація правників України» та внесення 26.12.2024 Національним агентством кваліфікації Професійного стандарту «Суддя» до Реєстру кваліфікацій (посилання).

Джерела: [14] [15] [16]

Кодекс суддівської етики (стаття 16)

• Використання суддею технологій штучного інтелекту є допустимим, якщо це:
• не впливає на незалежність та неупередженість судді,
• не стосується оцінки доказів,
• не стосується процесу ухвалення рішень,
• не порушує вимог законодавства.

Закон України “Про адміністративну процедуру“

• Стаття 69. Прийняття рішення у справі
• 1. За результатами розгляду справи адміністративний орган у межах своїх повноважень приймає адміністративний акт.
• 2. Якщо рішення у справі може бути прийнято на підставі електронних документів у машинозчитувальному форматі та/або даних національних електронних інформаційних ресурсів, адміністративний акт може бути прийнято в автоматичному режимі у випадках, передбачених законом.

Protecting human rights in a world of Artificial Intelligence, algorithms and big data

• 31 січня 2025 з нагоди початку року у роботі ЄСПЛ відбувся семінар на тему «Захист прав людини у світі штучного інтелекту, алгоритмів і великих даних».
• Темами першої сесії були «Рада Європи/Європейські стандарти штучного інтелекту: створення ситуації та свобода слова в епоху штучного інтелекту».
• На другій сесії розглядалися теми: «Штучний інтелект і право на справедливий суд» та «Вирішення проблеми потенційної дискримінації у сфері штучного інтелекту».
• Програма: https://www.echr.coe.int/documents/d/echr/programme-seminar-jy-20250131-eng
• Аналітична довідка: https://www.echr.coe.int/documents/d/echr/seminar-background-paper-2025-eng
• Відео заходу: https://vodmanager.coe.int/cedh/webcast/cedh/2025-01-31-1/en

Джерела: [17] [18] [19]

Приклади практичного застосування ШІ

• Пошук інформації у великих текстах документів (іноземна мова)
• Підготовка релізів судових рішень
• Підготовка проєктів окремих думок
• Пошук критичних зауважень до оформлення проєктів документів
• Пошук критичних зауважень до тексту проєктів документів
• Підбір практики КСУ, ВП ВС, ЄСПЛ тощо
• Підбір наукових підходів до теоретичних питань права

Запитання для обговорення

• Чи використовується сьогодні штучний інтелект у діяльності судів?
• Чи потребуватиме офіційне залучення штучного інтелекту до правосуддя внесення змін до Конституції України?
• Які професії у зоні найбільшого ризику (суддя, помічник, секретар, працівник апарату)?
• Чи потребуватиме офіційне залучення штучного інтелекту до правосуддя маркування відповідного судового рішення?
• Чи зберігається приватність якщо суддя передає для запитання штучному інтелекту інформацію з конкретної справи?
• Хто (суддя чи ШІ) складає первинний проєкт документу, а хто здійснює його перевірку?
• Хто буде вирішувати спори між різними штучними інтелектами?

Основні завдання, які зможе виконувати у майбутньому ШІ

• Здійснювати підбірку для судді та перевіряти релевантність і чинність законодавства, яке наведене стороною у поданому процесуальному документі, в т.ч. на предмет редакції відповідного акта на момент виникнення спірних правовідносин
• Здійснювати підбірку для судді та перевіряти релевантність і «чинність» практики ВС (наявність ініціатив ВС для відступу), яка наведена стороною у поданому процесуальному документі
• Підтверджувати відсутність практики ВС стосовно конкретного спору/правовідносин та, зокрема, за її відсутності здійснювати підбірку релевантної практики ЄСПЛ
• Навчившись на офіційних перекладах Мінюсту рішень ЄСПЛ, здійснити переклад всіх інших рішень цього Суду
• Виявляти пов'язані або схожі справи (для їх об'єднання, узгодження позицій тощо), а також підстави для ініціювання відкриття зразкової справи
• Виявляти у проєкті судового рішення граматичні та логічні помилки
• Надавати особі на етапі подачі процесуального документу інформацію про початок відліку процесуальних строків, зокрема, вручення/повідомлення, розміру судового збору, повноти поданих документів (відповідно до вимог процесуального закону) тощо
• Здійснювати перевірку достовірності поданих доказів (допуск до офіційних реєстрів), повноважності представника тощо
• Сигналізувати про можливу наявність «конфлікту інтересів» та, відповідно, підстав для самовідводу
• Підтверджувати наявність у відзиві відповіді на всі доводи позову, апеляційної або касаційної скарги.

Матеріал 24

• ПОПЕРЕДНІ ЛЕКЦІЇ
• 1. Штучний інтелект як основа цифрового судочинства: помічник чи майбутній конкурент судді? https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/artificial_intelligence_bernaziuk.pdf
• 2. Штучний інтелект (artificial intelligence) сьогоднішній погляд на перспективи майбутнього https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/artificial_intelligence_bernaziuk%20(1).pdf
• 3. Сучасні можливості штучного інтелекту (artificial intelligence) процесуальна економія чи загроза незалежності судді?
• https://nsj.gov.ua/ua/pidgotovka-pratsivnikiv-aparativ-sudiv/programi-pidgotovki-pratsivnikiv-aparativ-sudiv-2021-rik/20-23-travnya-2024-r-programa-pidgotovki-ta-pidvishennya-rivnya-kvalifikatsii-za-standartizovanou-programou-pomichnikiv-suddiv-mistsevih-ta-apelyatsiynih-gospodarskih-sudiv
• 4. Інтеграція штучного інтелекту (artificial intelligence) в систему правосуддя: поспішай повільно https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_festina_lente_bernaziuk.pdf
• 5. Правосуддя та штучний інтелект: перші правила https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_first_rules_bernaziuk.pdf
• 6. Штучний інтелект та питання етики під час здійснення правосуддя https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_ethics_bernaziuk.pdf
• 7. Інструменти штучного інтелекту та неприпустимість зловживання процесуальними правами https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_abuse_of_procedural_rights.pdf
• 8. Нові принципи здійснення правосуддя https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/101-%20new_principles_court_bernaziuk.pdf
• 9. Технології штучного інтелекту та принцип правової визначеності https://supreme.court.gov.ua/userfiles/media/new_folder_for_uploads/supreme/2024_prezent/AI_principal_of_legal_certainly_bernaziuk.pdf
• 10. Штучний інтелект: застосувати недозволено ігнорувати https://court.gov.ua/storage/portal/supreme/prezentacii_2024/Prezent_AI_prohibition_or_permission_bernaziuk.pdf
• 11. Сучасні можливості штучного інтелекту та питання приватності https://court.gov.ua/storage/portal/supreme/prezentacii_2024/104_AI_privacy_bernaziuk.pdf
• 12. Технології штучного інтелекту в правосудді: міжнародні стандарти регулювання https://court.gov.ua/storage/portal/supreme/prezentacii_2024/105_AI_internation_standarts_bernaziuk.pdf
• 13. Практичні аспекти використання технології штучного інтелекту в юридичній сфері https://court.gov.ua/storage/portal/supreme/prezentacii_2024/108_AI_practice_bernaziuk.pdf
• 14. Технології штучного інтелекту та life hacks для юристів https://court.gov.ua/storage/portal/supreme/prezentacii_2024/109_%20AI_life_hacks_bernaziuk.pdf
• 15. Штучний інтелект та правосуддя: механізми забезпечення прозорості та підзвітності https://court.gov.ua/storage/portal/supreme/prezentacii_2024/115_AI_transparency_accountability_bernaziuk.pdf
• 16. Штучний інтелект та право на приватність: баланс між інноваціями та захистом персональних даних https://court.gov.ua/storage/portal/supreme/prezentacii_2025/119_AI_personal_data_protection_bernaziuk.pdf
• 17. Цифрова ера правосуддя: роль ШІ у забезпеченні єдності судової практики в Україні (лекційний матеріал)
• 18. Діджиталізація судочинства: межі допустимого використання ШІ
• 19. Штучний інтелект у правосудді: міжнародний досвід та виклики
• 20 Технології штучного інтелекту: майбутні перспективи та ризики для судової гілки влади

Джерела: [20] [21] [22] [23] [24] [25] [26] [27] [28] [29] [30] [31] [32] [33] [34] [35]

Матеріал 25

• ВИКОРИСТАНІ ДЖЕРЕЛА
• 1. Берназюк Ян. Штучний інтелект та система правосуддя України: результати співпраці у році, що минув https://so.supreme.court.gov.ua/authors/934/shtuchnyi-intelekt-ta-systema-pravosuddia-ukrainy-rezultaty-spivpratsi-u-rotsi-sh%D1%81ho-mynuv
• 2. Берназюк Ян. Наукові надбання як основа для наступних кроків на шляху інтеграції штучного інтелекту в систему правосуддя https://so.supreme.court.gov.ua/news/949/naukovi-nadbannia-iak-osnova-dlia-nastupnykh-krokiv-na-shliakhu-intehratsii-shtuchnoho-intelektu-v-systemu-pravosuddia
• 3. Берназюк Ян. Штучний інтелект у правосудді: ризики алгоритмічної упередженості та дискримінації https://so.supreme.court.gov.ua/news/986/tsyfrova-era-pravosuddia-rol-shi-u-zabezpechenni-iednosti-sudovoi-praktyky-v-ukraini
• 4. Bernaziuk Ian. Artificial Intelligence and the Judicial system of Ukraine: results of cooperation in the past year https://constitutionalist.com.ua/artificial-intelligence-and-the-judicial-system-of-ukraine-results-of-cooperation-in-the-past-year
• 5. Берназюк Ян. Штучний інтелект і його використання для забезпечення єдності судової практики як складової довіри до суду // Слово Національної школи суддів України. – 2024, № 2(49), С. 16-35 https://slovo.nsj.gov.ua/images/pdf/2024_4_49/nsj_4_49_2024.pdf

Джерела: [36] [37] [38] [39] [40]