Коментар до статті 16 (використання суддею технологій ШІ) Кодексу суддівської етики

Анотація

184 Розділ II. Поведінка під час виконання професійних обов’язків судді Стаття 16 Використання суддею технологій штучного ін телекту є допустимим, якщо це не впливає на незалежність та неупередженість судді, не стосу ється оцінки доказів і процесу ухвалення рішень та не порушує вимог законодавства Сучасний світ характеризується безпрецедентним проникненням цифрових технологій, зокрема технологій штучного інтелекту (artificial intelligence) та машинного навчання (machine learning), в усі сфери людської діяльності. Судова влада, як один із ключових державних інститутів, покликаний забезпечувати захист прав, свобод та інтересів людини та громадянина, утверджувати вер ховенство права, не може залишатися осторонь цих глобальних

процесів. Технології ШІ пропонують новітні інструменти, здатні потенційно змінити традиційні підходи до здійснення правосуддя, підвищити його ефективність, швидкість та доступність. Основна мета коментованої статті полягає у встановленні етичних стандартів, які б дозволили суддям використовувати переваги технологій ШІ, мінімізуючи при цьому потенційні загрози для фундаментальних принципів судочинства.

Реалізація на практиці цієї статті повинна забезпечити, щоб використання технологій ШІ не підривало фундаментальні принципи незалежності та неупередженості судді при здійсненні правосуддя; зберегти за суддею виключну компетенцію щодо оцінки доказів та процесу ухвалення судових рішень, унеможливлюючи делегування цих основних суддівських функцій технологіям; гарантувати, що застосування ШІ у професійній діяльності судді відбуватиметься у суворій відповідності до вимог чинного законодавства, не порушуватиме конституційні права та свободи людини і громадянина.

Водночас коментована стаття виконує важливу захисну функцію, яка полягає у такому: − недопущення делегування суддівських повноважень. Суддівські повноваження, такі як оцінка доказів, тлумачення права та ухвалення рішень, є невід’ємною частиною конституційного статусу судді та його персональної відповідальності. Їх делегування, навіть часткове, технологіям ШІ є неприпустимим, оскільки це суперечить принципу здійснення правосуддя виключно судами та особистою відповідальністю судді за кожне ухвалене ним рішення (аналогічно

185Розділ II. Поведінка під час виконання професійних обов’язків судді до заборони делегування функцій судів іншим органам, закладеної у статті 124 Конституції України); − запобігання втраті суб’єктивного внутрішнього переконання.

Внутрішнє переконання судді, що формується на основі безпосереднього дослідження всіх обставин справи і доказів, керуючись законом, є основою справедливого судочинства. Надмірна довіра до ШІ, його потенційно «переконливі» висновки або пропозиції можуть розмити чи підмінити власне переконання судді;

− запобігання залежності від цифрових технологій. Йдеться не лише про технічну залежність (наприклад, неможливість виконати роботу без певного інструменту), а й про можливий психологічний вплив «авторитету» технології. Якщо суддя стає надмірно залежним від ШІ у формулюванні думок, пошуку рішень чи навіть підготовці проєктів документів, це може поставити під сумнів його фактичну незалежність та неупередженість.

Аналіз умов допустимості використання суддею технологій ШІ Коментована стаття ставить чотири імперативні та взаємопов’язані умови, лише за одночасного дотримання яких суддя може етично використовувати технології ШІ. Відсутність хоча б однієї з них робить таке використання неприйнятним.

Перша умова: «не впливає на незалежність та неупередженість судді». Це фундаментальна вимога, що охороняє саму суть правосуддя. Незалежність судді є невід’ємною складовою його статусу та ключовою гарантією справедливого суду. Вона закріплена у статтях 126, 129 Конституції України, деталізована у Законі України «Про судоустрій і статус суддів» та підкреслена у низці статей Кодексу (зокрема, статтях 1, 2, 5, 6). Поняття незалежності судді охоплює як його індивідуальну незалежність (свободу від будь-якого тиску, впливу, вказівок, погроз чи втручання при ухваленні рішень), так і інституційну незалежність судової влади в цілому. У контексті ШІ, суддя повинен бути вільним від впливу не лише традиційних суб’єктів (суб’єкти владних повноважень,

сторони, громадськість), але й від впливу, що може опосередковано походити від ШІ-інструментів чи їх розробників. Збереження внутрішнього переконання. Стаття 6 Кодексу наголошує, що суддя здійснює правосуддя, виходячи за своїм вну трішнім переконанням. Використання ШІ не повинно підміняти це внутрішнє переконання, сформоване на основі всебічного, повного та об’єктивного дослідження всіх обставин справи. ШІ, який виконує аналітичну або прогностичну функцію, може створювати ефект «навіяного рішення» (або навіть до використання результату,

186 Розділ II. Поведінка під час виконання професійних обов’язків судді сформованого на основі галюцинації моделі (model hallucination), коли суддя, не усвідомлюючи цього, пристає на пропозицію алгоритму. Якщо суддя, наприклад, користується інструментом, що прогнозує «ймовірні результати розгляду справи», або використо вує напівавтоматизовані шаблони для формування резолютивної частини,то це може призвести до втрати незалежності мислення.

Цей ефект часто зумовлений когнітивними викривленнями, коли перша запропонована ШІ відповідь підсвідомо впливає на подальше рішення, за якого суддя схильний надавати технологічно згенерованим висновкам вищу достовірність, ніж вони фактично мають.

Уникнення неправомірної залежності. Суддя не повинен потрапляти у залежність від певних ШІ-інструментів чи їх розробників. Вибір інструментів, якщо такий здійснюється, має бути об›єктивним та спрямованим виключно на підвищення ефективності правосуддя, а не на задоволення будь-чиїх комерційних чи інших інтересів.

Ризики алгоритмічної упередженості ШІ (algorithmic bias) є однією з найсуттєвіших загроз неупередженості. Системи ШІ вчаться на даних, які можуть містити історичні, соціальні, культурні або інші упередження. Якщо ці упередження не виявлені та не ней тралізовані на етапі розробки та тестування ШІ, система може їх відтворювати або навіть посилювати у своїх висновках чи реко мендаціях. Це може призвести до дискримінаційних наслідків, що прямо суперечить статті 9 Кодексу, яка зобов’язує суддю не допускати дискримінації за будь-якими ознаками. Суддя, вико ристовуючи ШІ, повинен бути свідомим цього ризику та вживати заходів для його мінімізації (наприклад, через перевірку джерел даних (data provenance) ШІ, якщо це можливо, або через особливо

критичне ставлення до результатів). Якщо алгоритм навчений на основі упереджених даних (наприклад, щодо категорій позивачів чи типу справ), то навіть допоміжна функція такого ШІ (наприклад, підбір релевантної практики) може впливати на суддю.

Ефект автоматизації упередженості (automation bias) полягає в тому, що суддя може надмірно покладатися на висновки, згенеровані ШІ, сприймаючи їх як об’єктивніші за власні судження. Така довіра до ШІ створює психологічний ризик несвідомого прийняття упереджених рекомендацій. Окремим виявом цього є вплив «авторитету» технології: суддя може піддаватися враженню про особливу надійність або науковість висновків ШІ лише через їхнє технологічне походження. Це може знижувати рівень критичного аналізу та суперечить обов’язку судді ухвалювати рішення виключно на основі самостійної оцінки доказів і закону. Суддя повинен усвідомлювати ці ризики й активно їм протистояти.

187Розділ II. Поведінка під час виконання професійних обов’язків судді Прозорість і пояснюваність (еxplainability) є ключовими передумовами неупередженості судового рішення. Якщо ШІ функціонує як «чорна скринька» (black box), тобто без можливості зрозуміти внутрішню логіку ухвалення рішення, виникає ризик, що суддя не зможе пояснити навіть для себе підстави таких висновків. Саме тому важливою є алгоритмічна прозорість (algorithmic transparency).

Уплив непрозорості алгоритмів полягає в тому, що відсутність розуміння принципів, за якими ШІ формує рекомендації, позбав ляє суддю реальної можливості критично їх оцінити, змінити або відхилити. Це ставить під сумнів незалежність судового рішення, унеможливлює зовнішній контроль і знижує довіру до результатів розгляду справи.

Друга умова: «не стосується оцінки доказів». Оцінка доказів – це центральний елемент суддівської функції, що передбачає вста новлення їх належності, допустимості, достовірності, достатності та взаємного зв’язку для ухвалення обґрунтованого рішення. Ця діяльність не може бути делегована ШІ.

Сутність оцінки доказів це не просто технічна операція, а складний когнітивний процес, що включає аналіз змісту доказу, його джерела, обставин отримання, зіставлення з іншими доказами, врахування позицій сторін. Він також передбачає застосування правосвідомості та життєвого досвіду.

Обмеження ШІ в оцінці доказів. ШІ може ефективно обробляти великі обсяги інформації, знаходити тенденції, виявляти зв’язки, але він не здатен розуміти контекст так, як людина, не має здат ності до емпатії, не може оцінити щирість чи нещирість свідка, врахувати культурні чи соціальні нюанси, які можуть мати значення для розуміння доказу.

Допустима технічна допомога ШІ. ШІ може використовуватися як допоміжний інструмент для: − організації та систематизації доказів: наприклад, створення хронології подій на основі документів, індексація великих масивів текстових доказів для полегшення пошуку, виявлення дублікатів;

− аналізу структурованих даних: наприклад, аналіз фінансових транзакцій на предмет нетипових операцій у справах про економічні злочини; − виявлення певних об›єктів на фото- чи відеоматеріалах (на приклад, розпізнавання облич або номерних знаків), але висновок про те, наприклад, що означає присутність або відсутність цього об’єкта, робить суддя.

188 Розділ II. Поведінка під час виконання професійних обов’язків судді Неприпустимість автоматизованого визначення достовірності чи важливості доказів. Будь-які спроби використання ШІ для прямого визначення, чи є доказ достовірним, чи яка його важливість порівняно з іншими доказами, є порушенням.

Третя умова: «не стосується процесу ухвалення рішень». Ухвалення судового рішення – це акт застосування права до встановлених фактів, що завершує розгляд справи по суті та містить владний припис щодо прав та обов’язків сторін або щодо винуватості особи.

Цей процес є виключно людським та суддівським. Відповідальність за судове рішення. Лише суддя несе повну особисту відповідальність за кожне ухвалене ним рішення. Деле гування ухвалення рішення ШІ означало б відмову від суддівської функції та відповідальності, що є несумісним зі статусом судді та присягою (стаття 1 Кодексу).

Інтелектуальна та вольова природа ухвалення рішення. Процес ухвалення рішення вимагає не лише знання закону, але й його тлумачення, розуміння як букви, так і духу норми права, принципів справедливості та пропорційності, врахування всіх обставин справи, індивідуальних особливостей сторін. ШІ, навіть найдосконаліший, не здатен на таку комплексну інтелектуально-вольову діяльність.

Таємниця ухвалення судового рішення. Важливо враховува ти, що процесуальний закон забороняє судді під час ухвалення судового рішення обговорювати обставини та матеріали справи, застосування норм права та судову практику в цій справі, а також зміст судового рішення з іншими особами, крім складу суду, який розглядає справу; судді не мають права розголошувати хід обговорення та ухвалення судового рішення; обговорення та ухвалення судового рішення відбуваються у приміщенні суду. Навіть якщо технологія застосовується для підготовки загального проєкту рішення, це не повинно замінювати обговорення позицій кожного судді (у випадку колегіального розгляду). У разі одноособового розгляду, використання ШІ не повинно створювати ефекту «зовнішнього

співрозмовника», що впливає на внутрішнє переконання судді. Четверта умова: «не порушує вимог законодавства». Ця умова є загальною та охоплює всі аспекти правового регулювання. Конституційні гарантії. Використання ШІ не лише не повинно порушувати, а й має забезпечувати реалізацію конституційних прав і свобод людини і громадянина. Особливу увагу слід приділити праву на справедливий суд, праву на захист персональних даних та повагу до особистого і сімейного життя, а також гарантіям рівності та недискримінації.

189Розділ II. Поведінка під час виконання професійних обов’язків судді Процесуальне законодавство. Використання ШІ має бути суворо інтегроване та відповідати вимогам ГПК України, КАС України, КПК України, ЦПК України, Кодексу України з процедур банкрутства та КУпАП. ШІ не може підміняти визначені цими актами принципи диспозитивності, змагальності, а також гарантії участі сторін та оскарження. Крім того, використання суддею ШІ має узгоджуватися із положеннями Закону України «Про судоустрій і статус суддів».

Інформаційне законодавство. Важливо враховувати вимоги законів України «Про інформацію», «Про доступ до публічної інформації», «Про захист персональних даних», «Про державну таємницю» та законодавства у сфері кібербезпеки. Це запобігатиме несанк ціонованому доступу до даних, їх неправомірному використанню.

Законодавство у сфері захисту інтелектуальної власності. Не обхідно забезпечити відповідність використання ШІ нормам за конодавства у частині обробки даних, що можуть бути об›єктами авторського права, та уникнення плагіату при генерації текстів рішень.

Інструкції з діловодства в судах та інші підзаконні акти, які регламентують порядок створення, підпису, реєстрації та зберігання проєктів судових рішень та іншої службової інформації. Етичні межі використання ШІ Етичне застосування ШІ суддею можливе лише за умов дотримання формальних і змістовних обмежень, закріплених безпосередньо у коментованій статті та деталізованих у законодавстві України.

Формальні межі: − використання лише технологій ШІ, які не здійснюють правової оцінки або інтерпретації; − відсутність участі ШІ у підготовці мотивувальної частини рі шень без контролю з боку судді; − недопущення прихованого впровадження інструментів ШІ в робоче середовище без належного інформування судді;

− використання лише таких систем ШІ, які пройшли відповідну сертифікацію або рекомендовані компетентними судовими органами (за умови запровадження таких процедур) або, за відсутності таких процедур, які є загальновизнаними та мають достатній рівень прозорості та перевіреної надійності для використання у правовій сфері, а також відповідають вимогам чинного законодавства щодо захисту даних та кібербезпеки;

190 Розділ II. Поведінка під час виконання професійних обов’язків судді − належне документування факту використання інструменту ШІ та його конкретної ролі у підготовці матеріалів або аналізі інформації (наприклад, у службових нотатках або, за потреби, в матеріалах справи, якщо це має процесуальне значення). Це необхідно для забезпечення прозорості процесу ухвалення рішень та можливості подальшого контролю чи перевірки.

Змістовні межі: − ШІ не може пропонувати результат справи (наприклад, рішення про задоволення / відмову). Це пов’язано з тим, що визначення результату справи є квінтесенцією суддівського розсуду, який ґрунтується на внутрішньому переконанні судді, що формується внаслідок всебічного аналізу обставин справи та норм права, і не може бути автоматизований чи делегований;

− ШІ не може здійснювати юридичну кваліфікацію фактів. Юридична кваліфікація вимагає глибокого розуміння правових норм, їх тлумачення у конкретному контексті справи, врахування правових позицій та доктрини, що наразі виходить за межі можливостей навіть найсучасніших систем ШІ. Суддя несе персональну відпо відальність за правильність юридичної кваліфікації;

− суддя не може використовувати ШІ для визначення пріори тетності чи достовірності доказів. Оцінка доказів, включаючи їх належність, допустимість, достовірність та взаємний зв›язок, є виключною прерогативою судді, що здійснюється на основі його внутрішнього переконання та безпосереднього дослідження всіх матеріалів справи. Передача цієї функції ШІ суперечила б фундаментальним засадам судочинства.

Взаємозв’язок з іншими нормами Кодексу Коментована стаття не існує у вакуумі, а тісно переплітається з іншими етичними стандартами, установленими цим Кодексом. Розуміння цих зв’язків є ключовим для її правильного застосування.

Стаття 1 (Неухильне дотримання принципу верховенства права і вимог закону, присяги судді). Будь-яке використання ШІ, що суперечить закону, принципам верховенства права (наприклад, призводить до свавільних чи непропорційних рішень) або порушує присягу судді (наприклад, через несумлінне ставлення до пере вірки результатів роботи ШІ), є неприпустимим. Навпаки, етично виважене використання ШІ може сприяти реалізації цих фунда ментальних засад

191Розділ II. Поведінка під час виконання професійних обов’язків судді Стаття 2 (Уникнення конфлікту інтересів, стійкість до тиску, незалежність у прийнятті рішень). Незалежність від ШІ як «радника» є такою ж важливою, як і незалежність від сторін чи інших впливів.

Стаття 5 (Незалежність судді). Використання ШІ не має впливати на незалежність судді, а навпаки сприяти забезпеченню верховенства права у всіх його проявах. Стаття 6 (Внутрішнє переконання). ШІ не може замінити або підказувати логіку судження, яке базується на унікальному сприйнятті фактів, характерному для конкретного судді

Стаття 7 (Сумлінне і компетентне виконання обов’язків, про фесійне зростання та удосконалення практичних навичок). Це положення прямо вказує на необхідність для судді постійно роз виватися. У сучасних умовах це включає і розвиток цифрової грамотності, розуміння основ функціонування ШІ, його можливостей та, що не менш важливо, його обмежень та ризиків. Сумлінне виконання обов›язків передбачає, що якщо суддя використовує ШІ, він робить це компетентно, що вимагає постійної самоосвіти, критичного мислення щодо можливостей та обмежень технологій, а також ретельної перевірки результатів роботи ШІ. Суддя несе особисту відповідальність і не може перекладати її на технологію

Стаття 9 (Повага до людської гідності, недопущення дискримінації). Як уже зазначалося, ризик алгоритмічної упередженості ШІ є надзвичайно серйозним. Використання ШІ, що призводить до дискримінації за будь-якою ознакою (раси, статі, релігії, майнового стану тощо), є грубим порушенням цього етичного стандарту

Стаття 21 (Участь судді у соціальних мережах, інтернет-фо румах / Поведінка у цифровому середовищі). Хоча ця стаття ре гулює поведінку судді в мережі «Інтернет» загалом, її принципи (стриманість, поміркованість, обережність, недопущення шкоди авторитету) застосовні і до обговорення питань використання ШІ, якщо таке відбувається у публічному онлайн-просторі. Принципи безпеки, обережності у взаємодії з інформаційними платформами повністю корелюють з етичними вимогами до використання ШІ

Аналіз потенційних ризиків та обмежень: − ризик «дегуманізації» правосуддя. Правосуддя − це не лише застосування норм права, а й взаємодія з людьми, діалог, врахування їхніх емоцій, гідності, індивідуальних обставин. ШІ, на відміну від людини, не здатний до емпатії, моральної інтуїції та розуміння складного соціального контексту людських конфліктів. Правосуддя вимагає не лише логічного застосування закону, а й здатності до

192 Розділ II. Поведінка під час виконання професійних обов’язків судді співчуття, врахування індивідуальних обставин та прийняття рішень, які є не лише формально правильними, а й справедливими в людському вимірі. Надмірне покладання на ШІ може призвести до знецінення цих важливих аспектів правосуддя;

− проблема підзвітності та відповідальності. Якщо ШІ робить помилку, яка впливає на хід справи, питання відповідальності (розробника, суду, конкретного судді) є складним і потребує чіткого правового врегулювання. Коментована стаття підкреслює, що відповідальність залишається на судді;

− психологічний тиск на суддю. Усвідомлення того, що його рішення порівнюватимуться з «оптимальними» рішеннями, запропонованими ШІ, може створювати додатковий тиск на суддю та впливати на його незалежність; − вартість та доступність технологій ШІ. Висока вартість роз робки, впровадження та підтримки якісних технологій ШІ може призвести до «цифрової нерівності» між судами, що матиме наслідки для рівного доступу до правосуддя;

− необхідність постійного оновлення ШІ. Законодавство та судова практика постійно змінюються. Системи ШІ потребують удоско налення, що є складним та ресурсоємним процесом; − етичні дилеми програмування. При розробці ШІ, особливо того, що має допомагати у прийнятті рішень (навіть на попередніх стадіях), виникають складні етичні питання: які цінності та прі оритети закладати в алгоритми? Хто несе відповідальність за ці «запрограмовані» цінності?;

− вплив на розвиток права. Якщо судді почнуть надмірно по кладатися на ШІ, який базується на існуючій практиці, це може сповільнити розвиток права та формування нових правових під ходів, необхідних для вирішення нових суспільних викликів.

− вплив через упереджені дані. Алгоритми ШІ, навчені на да них, що містять приховані упередження (наприклад, щодо певних категорій осіб чи справ), можуть несвідомо скеровувати суддю до упереджених висновків, навіть якщо суддя вважає себе повністю незалежним.

Критерії етичної самооцінки судді при використанні ШІ. Перед застосуванням будь-якого цифрового інструменту судді пропонується провести коротку етичну самооцінку та поставити собі, для прикладу, такі запитання: − чи використовую я ШІ виключно як допоміжний засіб, а не як джерело судження?;

193Розділ II. Поведінка під час виконання професійних обов’язків судді − чи надає мені ШІ інформацію про використані джерела?; − чи зберігаю я контроль над результатом роботи ШІ, зокрема можливість змінити або відхилити його відповідь?;

− чи не містить відповідь ШІ упередження? Позитивні відповіді на всі ці запитання вказують на етичну допустимість використання ШІ. Якщо хоча б одне викликає сум нів – рекомендуємо обрати інший, більш прозорий або контрольований інструмент, або взагалі відмовитися від його застосування.