«Как бы чего не вышло»: кто отвечает за безопасность научных исследований

Биомедицинские исследования несут в себе не только огромный потенциал, но и серьезные этические риски: от редактирования генома человека до манипуляции поведением и утечек персональных данных пациентов. Роль арбитров, которые на предварительном этапе тщательно оценивают план исследования с точки зрения негативных последствий, играют этические комитеты. О том, как устроена работа последних, рассказывает Виктор Гомболевский, председатель Независимого этического комитета Института AIRI.

Freepik

Виктор Гомболевский

председатель Независимого этического комитета

Зачем нужен этический контроль исследований

В 2018 году Хе Джанкуи, исследователь из Южного университета науки и технологий в Шэньчжэне, заявил о рождении близнецов с отредактированным геном CCR5 по технологии CRISPR, чтобы обеспечить устойчивость к ВИЧ. Событие вызвало большой общественный резонанс, а сам ученый был осужден на три года.

Но не только исследователи-одиночки проводят спорные с этической точки зрения эксперименты. Например, в 2014 году Facebook (принадлежит компании Мета, чья деятельность признана экстремистской и запрещена в России) манипулировал лентой новостей в соцсети 689 тысяч пользователей без их согласия, чтобы оценить, повлияет ли эмоционально окрашенный контент на то, что публикуют люди. Результаты опубликовали в престижном журнале Proceedings of the National Academy of Sciences, что тоже вызвало бурю критики. А в 2019 году система здравоохранения Ascension передала доступ Google к медкарточкам 50 млн пациентов в США (имя, дата рождения, диагнозы, результаты анализов и госпитализации). Пациентов об этом не уведомили.

Такие истории показывают цену непрозрачности и то, как быстро может пропасть доверие к исследованиям и их авторам. А также они подтверждают, что не всегда ученые могут сами выступать гарантами этичности экспериментов. Некоторые нацелены на результат: хотят вписать свое имя в историю, совершить прорыв, а кто-то — заработать на открытии.

Но когда эксперименты касаются здоровья людей, а результаты могут сделать отдельные группы более уязвимыми, вопросы соблюдения этики выходят на первый план.

Наблюдением за научными исследованиями в медицине и биоинженерии занимаются независимые этические комитеты. Они бывают локальные (при учреждениях) и центральные (национальные или отраслевые). В работе комитеты опираются на ряд международных документов: самый известный — обновляемая Хельсинкская декларация (WMA Declaration of Helsinki), впервые опубликованная в 1964 году.

После рассмотрения информации по конкретному эксперименту комитет выдает заключение. Без него ни один авторитетный медицинский журнал сегодня не примет материал к публикации, хотя еще в конце XX века такой документ требовали меньше половины редакций.

Список международных документов, регламентирующих работу этических комитетов

Хельсинкская декларация (WMA Declaration of Helsinki, 1964; последняя редакция 2013, актуализирована в 2025).
Декларация Тайбэя (WMA Declaration of Taipei, 2002; пересмотрена в 2016).
Бельмонтский доклад (Belmont Report, 1979).
ICH GCP (Good Clinical Practice, 1996; обновляется, последняя версия 2016).
Всеобщая декларация о биоэтике и правах человека (ЮНЕСКО, 2005).
Руководства ВОЗ по этическим комитетам (WHO Guidelines, 2000; обновлены в 2011 и 2021).

Кто входит в этический комитет и на что смотрит

Этический комитет — независимая группа. В нее обычно входят врачи, научные сотрудники, юристы, специалисты по этике, данным и ИТ. Никто из членов не участвует в самом исследовании и заранее подтверждает, что не имеет личной выгоды. Кроме специалистов в состав группы включаются и «обычные люди». Они смотрят на исследование с позиции общества, пациента и здравого смысла. Это полноценные участники процесса, которые помогают сделать исследования не только формально законными, но и по-настоящему этичными и приемлемыми для общества.

После того как группа сформирована, она работает по протоколу. Его задача — трезво оценить риски и пользу, проверить, понятно ли оформлено согласие участников, как защищаются персональные данные, насколько честно устроен дизайн исследования.

Ключевые направления проверки

Безопасность и польза. Комитет оценивает соотношение рисков и пользы эксперимента. Новые системы ИИ часто тестируются в режиме «тихого пилота»: работают, но врачи не видят их подсказки. В это время команда ведет журнал, где отмечает корректность решений ИИ. Комитет фиксирует границы применения пилота и условия, при которых проект останавливается.
Согласие и понятный язык. Участнику должны объяснить простыми словами: что будут делать, какие есть риски, можно ли передумать. Запрещены скрытые условия и предустановленные согласия, для уязвимых групп разрабатывают отдельные формы согласия.
Приватность и работа с данными. Сбор данных ограничивается строго необходимым для исследования объемом. Комитет проверяет методы обезличивания и шифрования информации. Четко определяет правила передачи данных третьим лицам и процедуры удаления по запросу.
Справедливость и отсутствие дискриминации. Алгоритмы не должны ухудшать качество помощи отдельным группам пациентов. Комитет проверяет эффективность его работы, калибровку модели. Систематические ошибки в работе ИИ — основание для доработки системы.
Качество дизайна и прозрачность. Дизайн исследования должен быть логичным, воспроизводимым и с заранее определенными метриками. Приветствуется регистрация протокола и публикация всех результатов. Комитет следит, чтобы обещанные метрики и методики совпадали с тем, что затем попадает в статью или отчет.
Роль человека и постконтроль. Несмотря на активное развитие автономных ИИ, в науке конечное решение остается за человеком. Любые изменения модели или сценария ее применения требуют повторной валидации. Комитет утверждает только системы с планом постоянного контроля и переоценки.

Помимо очевидных для стороннего пользователя вещей, комитет может отказать в положительном заключении проекту, где используется ИИ для анализа собранных в соцсетях или приложениях данных без согласия пользователей, даже если это открытые источники. Также поводом в отказе может стать отсутствие гарантий, что данные не попадут к третьим лицам, или извлечение данных без обоснования по их использованию.

В целом, наибольшее внимание комитетов сконцентрировано вокруг тех исследований, где может быть самый заметный вред: в проспективных исследованиях с принятием решения о тактике воздействия на людей, например, выборе метода диагностики или лечения. Меньшее внимание будет уделяться при работе с архивными данными. Подразумевается, что это уже не может нанести вред пациентам, но может повлиять на решения по диагностике и лечению будущих посетителей клиник.

Примеры исследований, которые нуждаются в заключении этического комитета

Ретроспективные исследования по медицинским изображениям и медицинских картах.
Проспективные испытания клинических ИИ (ранжирование случаев, подсказки диагнозов).
Исследования с биобанками и генетикой с ИИ.
Поведенческие и опросные исследования с чувствительными темами.
Внедрение ассистентов для врачей. Важно отметить, что научному анализу и валидации также должны подвергаться ИИ-системы, которым не будет в итоге присвоен статус медицинских изделий. Например, голосовые помощники.

Например, ученые хотят обучить модель распознавать ранние признаки анемии. Для этого нужны тысячи лабораторных записей пациентов. На этом этапе исследовательская группа готовит протокол, описывает цели, дизайн, статистику, а также защиту данных и план получения согласия или доступа к данным. Затем подает пакет документов подается в Независимый этический комитет (НЭК). Комитет проверяет риски, корректность работы с данными, дизайн исследования и справедливость алгоритма. Обычно это занимает пару недель. Если чего-то не хватает, заявители получают список доработок.

После проект рассматривается на заседании. Итог может быть: «одобрено», «одобрено с условиями» или «на доработку». При положительном решении исследование стартует, оставаясь под контролем: регулярные отчеты, сообщение о серьезных событиях, согласование изменений. В конце — финальный отчет и указание одобрения при публикации.

Что делать исследователю: пошаговый план

Обычно в этический комитет ученые приходят перед началом исследования с портретом проекта. Скачивают с сайта этического комитета шаблон на рассмотрение заявки, заполняют его и отправляют на почту.

Дальше секретарь подтверждает получение заявки и отправляет всем членам комитета. Она будет рассмотрена на ближайшем заседании: список публикуют на сайте.

После члены комитета рассматривают заявку и собираются на заседании, где обсуждают проект и голосуют. Комитет обычно принимает решение в тот же день. В редких случаях дополнительно приглашается эксперт в узкой области, чтобы ответить на вопросы членов комитета по итогам первого заседания. Обычно после этого решается исход заявки. Для положительного ответа нужно единогласное «за» всех членов.

Еще неделя нужна, чтобы секретарь сформировал результаты заседания с информацией по каждой заявке и разослал ее пользователям. В результате содержится решение и выходные данные для научной публикации.

Весь процесс занимает пару недель, если удачно попасть под дату заседания. Также при заявках в Европе стоит учитывать, что местные этические комитеты перегружены: ученым приходится ждать несколько месяцев для рассмотрения исследований и только после этого начинать научные проекты.

Если авторов исследования не устроит решение этического комитета, то его можно обжаловать, предоставив дополнительную аргументацию и материалы. После возможно повторное рассмотрение заявки. Никто не застрахован от ошибок — решения тоже принимаются людьми.

Цель этического контроля — не создавать лишние сложности, а обеспечивать безопасность, в том числе исключать возможность причинения вреда участникам медицинских экспериментов, предотвратить репутационные потери ученых и блокировку дальнейшего развития проекта. Чем раньше исследователи приходят в комитет, тем быстрее и чище получается путь: с понятным протоколом, прозрачным согласием, возможностью опубликоваться в серьезном журнале. В итоге выигрывают все: и наука, и пациенты.

Загружаем