logo-image
The AI responsibility for misdiagnosis
Author: Vitaliy Kulinich
Source: Yuridicheskaya Praktika, #11, 12 March 2019
Download

Нормы законодательства Украины, которые регулируют правоотношения по возмещению вреда, причиненного дефектом продукции, сами имеют очевидный дефект, который необходимо устранить.

 

В последнее время стремительно развиваются системы искусственного интеллекта (ИИ) для диагностирования заболеваний. Такие системы применяются для диагностирования совершенно различных заболеваний, география их применения также весьма распространена. При этом, такие системы могут использоваться как вспомогательные/дополнительные системы при диагностике заболеваний медиками, так и в качестве самостоятельных систем диагноза.

Google выдает бесконечное количество разработок по запросу диагностики заболеваний системами ИИ, вот некоторые из них:

- компания IDx (США) разработала диагностическое устройство на основе ИИ для выявления диабетического поражения сетчатки глаза по анализу изображений глаза, снятых специальной камерой. При этом система интерпретирует результаты самостоятельно, без помощи врача.

- NMC Healthcare (крупнейшая частная медицинская компания в ОАЭ) применяет искусственный интеллект при использовании радиологических инструментов следующего поколения, чем в большинстве случаев заменяет потребность в образцах тканей при проведении диагностических процессов.

- частный университет Showa в Токио вместе с университетом Nagoya и компанией Cybernet Systems разработали программное обеспечение на основе ИИ, которое анализирует полипы толстой кишки и определяет, являются ли такие полипы злокачественными.

 

ИИ – технология, которая сделала это возможным

ИИ является способностью компьютерных систем выполнять задачи, требующие интеллекта человека. На современном этапе ИИ, в частности, используется для автономного управления транспортными средствами, медицинской диагностики, автономного планирования, биржевого анализа, распознавания текста и выявления определенных семантических (смысловых) признаков в нем.

Стремительное развитие ИИ, которое мы наблюдаем в последнее время, стало возможным благодаря машинному обучению (machine learning ML) с использованием искусственных нейронных сетей и достаточной вычислительной мощности современного аппаратного обеспечения - «железа» для обработки значительных объемов данных. Благодаря указанным возможностям классический способ программирования (написание программ, которые способны только выбирать заранее запрограммированный «вручную» вариант поведения) был дополнен ML, то есть «обучением» систем на наборах соответствующих данных.

Соответствующие системы учатся выявлять определенные существенные характеристики в наборах данных и должным образом реагировать на них. В случае медицинской диагностики - это зачастую изображения диагностируемых органов. Такой подход дает возможность обеспечить принятие решений соответствующими компьютерными системами в автоматическом режиме при значительном/неограниченном количестве характеристик, которые следует проанализировать, что фактически невозможно при классическом программировании. Однако, недостаток таких систем в том, что сложно понять, как ими принимаются решения. Такие решения являются результатом непонятной внутренней работы соответствующих систем (принцип черного ящика).

Соответственно, такие системы хотя и обеспечивают с высокой вероятностью принятие правильных решений, однако не гарантируют, что все принятые ими решения будут верными.

Однако, фактические преимущества, которые предоставляет ИИ, воспринимаются как более существенные, нежели указанный недостаток, и такие технологии активно развиваются, свидетельством чего является регистрация таких систем регуляторными органами. В частности, Управление по контролю за продуктами и лекарствами США зарегистрировало вышеуказанное диагностическое устройство компании IDx. В конечном счете все сводится к статистике - обеспечивает ли система ИИ более высокую вероятность правильного диагноза, нежели врач, или же насколько повышается вероятность правильного диагноза при использования медицинским персоналом систем ИИ.

 

Возмещение вреда за неправильный диагноз ИИ

Если вследствие применения систем диагностики на основе ИИ будет поставлен неправильный диагноз, чем будет причинен вред пациенту, то правоотношения по возмещению такого вреда могут регулироваться, в зависимости от обстоятельств, следующими нормами.

В случае, если система ИИ используется медицинским персоналом при проведении диагностики, то вопрос о возмещении вреда, скорее всего, будет регулироваться общими правилами возмещения вреда (статья 1166 Гражданского кодекса (ГК) Украины) и, соответственно, зависеть от вины лиц, которые поставили неверный диагноз. В данном случае то обстоятельство, что система диагностики будет работать на основе ИИ, не будет иметь определяющего значения, поскольку диагноз в конечном счете ставиться врачом, и, соответственно, именно он будет обязан проверить предварительные результаты, которые выдает такая система.

В случае, если система самостоятельно, без помощи медицинского персонала интерпретирует результаты (устанавливает диагноз), то здесь мы столкнемся с конкуренцией нескольких норм, регулирующих вопросы гражданской ответственности.

С одной стороны, обоснованным выглядит применение к таким правоотношениям норм, регулирующих возмещение вреда, причиненного источниками повышенной опасности (статья 1187 ГК Украины). Так, деятельность, связанная с использованием систем ИИ, которые самостоятельно устанавливают диагноз, и при этом не гарантируют, что все принятые ими решения будут верными, очевидно относится к деятельности, которая создает повышенную опасность. Согласно положениям указанной статьи, вред должно возмещать лицо, которое владеет источником повышенной опасности, и такой вред возмещается независимо от наличия вины владельца.

С другой стороны, причинение вреда вследствие неверного диагноза, самостоятельно поставленного оборудованием, использующим ИИ, будет указывать на возможный дефект в таком оборудовании, то есть дефект в продукции. Правоотношения по возмещению такого вреда урегулированы специальным законом - Законом Украины «Об ответственности за вред, причиненный вследствие дефекта в продукции». Согласно общему правилу, установленному таким законом, за вред, который причинен вследствие дефекта в продукции, отвечает ее производитель. Иногда такую ответственность несут поставщики продукции. При этом закон предусматривает, что возмещение такого вреда не зависит от наличия вины производителя продукции.

Наряду с указанными положительными правилами, указанный закон имеет существенный недостаток. Так круг лиц, которые могут быть признаны пострадавшими от дефекта в продукции, неоправданно сужен таким образом, что пострадавшими могут быть только пользователи и потребители соответствующей продукции. При этом к пользователям отнесены физические лица, которые приобретают, заказывают, использует продукцию для проведения предпринимательской деятельности или выполнения обязанностей наемного работника, или юридические лица.

Таким образом, если причиной неверного диагноза будет дефект оборудования, управляемого ИИ, и вследствие такой ошибки в диагнозе будет причинен вред пациенту, то у него не возникнет право на возмещение вреда от производителя такого оборудования. То есть нормы законодательства Украины, которые регулируют правоотношения по возмещению вреда, причиненного дефектом продукции, сами имеют очевидный дефект, который необходимо устранить.