В офісі великої міжнародної компанії у Гонконзі починався звичайний день. Фінансовий менеджер тільки зробив собі каву та почав переглядати пошту, коли отримав е-мейл з поміткою «важливо» від свого CFO, в якому той просив терміново здійснити «секретний» банківський переказ на нові реквізити. Прохання виглядало підозріло, але у тексті листа також було посилання на відеодзвінок, на якому безпосередньо CFO та інші колеги мали б обговорити деталі переказу. Сумніви були остаточно розсіяні, коли не екрані відеоконференції з’явились обличчя дуже схожі на фінансового директора та інших колег.
Додаткової впевненості додавав фон, який був схожим на знайомі приміщення офісу. Після такого спілкування компанія втратила пару десятків мільйонів доларів та декілька пунктів у своєму репутаційному рейтингу. Як таке стало взагалі можливим? Саме за допомогою розвитку технологій, масштабному поширенню штучного інтелекту і, зокрема, використанню діпфейків.
Все було б більш-менш контрольовано, якби подібні випадки були поодинокі. Але за останні роки обсяги зловмисних дій із застосуванням штучного інтелекту зростає і темпи разючі.
Постійно надходить інформація про ті чи інші епізоди. Синтетично сформована особистість лікаря, яка насправді не існує, рекламує підроблений медичний препарат, місцева королева красоти активно пропагує інвестувати у шахрайські фонди, злочинці застосували підробку голосу для виманювання коштів у володільців банківських рахунків. Масштаби збільшуються, якість підвищується, результативність зростає. Не потрібно також забувати й про використання діпфейків для булінгу – це взагалі інший ракурс проблеми.
Злочин чи ні?
Але якщо використання діпфейку несе з собою такі загрози, чи є його створення чимось нелегальним, протизаконним? Відповідно до українського законодавства, сам факт його створення – поки ні. Сама по собі можливість створення діпфейку не є чимось злочинним, аморальним та неетичним. І взагалі вся ця масова історія починалась із розважальних програм для смішних історій у компаніях друзів. Тим більше до створення софту для побудови діпфейку існувало абсолютно легальне та ліцензоване програмне забезпечення із редагування фото та відео, за допомогою якого можна було високоякісно помістити обличчя вибраної людини у середовище на будь-який вибір користувача.
Тому проблематика більшою мірою лежить не в площині можливості створення, а у способі використання результатів такої творчості. І саме використання несе за собою правові наслідки. Наприклад, варто звернути увагу на ч. 1 ст. 308 ЦК України, яка чітко регламентує, що фотографія, інші художні твори, на яких зображено фізичну особу, можуть бути публічно показані, відтворені, розповсюджені лише за згодою цієї особи. Тобто протиправне використання образу людини утворює цивільну відповідальність, оскільки порушується особисте немайнове право. Також використання діпфейку може містити й елементи протиправного діяння, оцінка якого може вже трактуватись із погляду кримінального закону. Зараз у Кримінальному кодексі України немає статті, у якій би зазначалось про діпфейк, але специфічні випадки його використання можна кваліфікувати як дії, які підпадають під ККУ. І у таких випадках епізод із застосуванням діпфейку вже стає частиною злочину, його інструментом.
Наприклад, у ККУ є стаття 190 «Шахрайство», відповідно до якої під кримінальну відповідальність підпадає заволодіння чужим майном або придбання права на майно через обман чи зловживання довірою. У цьому контексті якщо особа створила фейкове відео, на якому, наприклад, Голова Правління банку наказує своєму бухгалтеру переказати кошти на рахунок підставної фірми, і за допомогою цього відео намагаються здійснити або дійсно здійснюється вивід коштів та завдаються збитки, то цей діпфейк стає інструментом злочину. Просто ж факт створення такого діпфейку без подальшого застосування у неправомірних цілях кваліфікуватись злочином не буде.
Також цікавими прикладами є статті ККУ як ст. 200 «Незаконні дії з документами на переказ, платіжними картками та іншими засобами доступу до банківських рахунків, електронними грошима, обладнанням для їх виготовлення» та ст. 358 «Підроблення документів, печаток, штампів та бланків, збут чи використання підроблених документів, печаток, штампів».
Ст. 200 криміналізує підробку документів на переказ, платіжних карток чи інших засобів доступу до банківських рахунків, електронних грошей, а так само придбання, зберігання, перевезення, пересилання з метою збуту підроблених документів на переказ, платіжних карток або їх використання чи збут, а також неправомірний випуск або використання електронних грошей. У контексті діпфейку це означає, що якщо підроблений документ чи платіжна картка, наприклад, містить фото і це фото зроблене за допомогою інструментів штучного інтелекту – діпфейк стає знаряддям злочину. Якщо фото зроблено і не прикріплено до документа чи платіжної картки, то саме факт створення не буде каратися законом. Такий саме принцип застосовується і до підробки «інших засобів доступу до банківських рахунків, електронних грошей». Наприклад, якщо для доступу використовується відео чи голосова верифікація, її підробка за допомогою технології діпфейк і безпосереднє застосування – це злочин, просто створення такого «продукту» кваліфікуватись як неправомірні дії навряд чи буде.
У ст. 358 найбільш релевантними є частини 1,3 та 4. Перша та третя частина стосуються підроблень посвідчень або інших офіційних документів, які видаються чи посвідчуються уповноваженими особами. Четверта криміналізує саме використання свідомо підробленого документа. І знову таки, як і в попередніх випадках, створення фото діпфейку саме по собі не буде вважатись злочином, тоді як факт приклеювання цього фото на підготовлений бланк документа підпадає під кримінальну кваліфікацію.
Підсумовуючи, варто провести паралель із пра-пра-прадідом діпфейку – гримуванням та переодяганням. Якщо людина зробила себе схожою на живу відому особистість для розваги із друзями – це не може бути протизаконною дією, але якщо під цим образом збирались кошти на підставний благодійний фонд – це вже кримінал.
Що робити з діпфейком?
Дійсно, діпфейк несе в собі багато загроз. Але чи варто якось обмежувати його використання, чи наказувати за його створення? Для відповіді на це питання варто згадати й позитивну роль, яку відіграє ця технологія. Це і розробка близьких до реальності навчальних і тренінгових програм, допомога у спілкуванні людям з обмеженими можливостями, створення реалістичного рекламного, медіа та розважального контенту. Технологія діпфейк навіть знайшла своє застосування у медичних цілях.
Тобто банальна заборона, криміналізація чи жорстке обмеження використання самої технології може призвести до значного зниження темпів її розвитку та відповідно стати інгібітором технологічних розробок у цьому напрямі. До речі, в Україні зареєстрований проєкт Закону України «Про внесення змін до Цивільного кодексу України у зв'язку з оновленням (рекодифікацією) положень книги другої» (реєстр. № 14057), метою якого є підсилення захисту нематеріальних благ. Один із пунктів цього законопроєкту присвячений праву на захист від діпфейків. Відповідно до цього права планується чітко заборонити створення та використання штучно згенерованих за допомогою штучного інтелекту зображень, голосу особи (deepfake) без її згоди, надаючи інструменти для боротьби з дезінформацією та маніпуляціями.
Допоможе це в боротьбі із ШІ-злочинами? У разі прийняття законопроєкту – подивимось, бо є як «за», так і «проти», але це все ж трохи інша історія. У будь-якому разі, попри особливості правових кваліфікацій, для боротьби із ШІ-злочинами необхідно вкладатись в обізнаність, технологічну грамотність та обладнаність для ефективної протидії таким загрозам та їх наслідкам.
