ИИ научился определять расу человека по рентгеновскому снимку. Ученые не знают, как он это делает

Основываясь только на рентгеновских снимках и изображениях компьютерной томографии, искусственный интеллект (ИИ) смог определить расу человека с точностью около 90%. Ученые не знают, как у него это получается.
ИИ научился определять расу человека по рентгеновскому снимку. Ученые не знают, как он это делает
Unsplash

Исследователи считают, что это проблема...

В новом исследовании, опубликованном в журнале Lancet Digital Health, ученые решили проверить способность ИИ идентифицировать особенности пациента по рентгеновским снимкам.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Перед экспериментом исследователи обучили ИИ на трех крупных наборах данных рентгенографии грудной клетки, которые имели подписи с определением расы человека – темнокожий, белокожий или азиат.

Затем ученые показали рентгеновские снимки множества различных областей тела различных групп людей и попросили ИИ определить расу человека. На снимках отсутствовали любые признаки расы: ни цвета кожи, ни текстуры и цвета волос...

Для всех частей тела ИИ смог определить расу с точностью около 90%, даже без каких-либо идентифицирующих признаков.

Исследователи изменили условия

Ученые решили, что ИИ каким-то образом использовал данные статистики и основывал выводы на таких факторах, как индекс массы тела или плотность/охват груди. Они убрали возможные сопутствующие переменные и показали только наборы данных людей с похожим ИМТ и типами телосложения, но все же ИИ смог определить расу.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Как ему это удается?

Исследователи не знают. Одно из предположений: ИИ распознает различия меланина в коже людей, которые проявляются на снимках и не видны невооруженным взглядом.

Ученые пишут, что медицинские работники не должны спешить с внедрением ИИ для анализа медицинских изображений. К алгоритмам нужно относиться «с особой осторожностью, поскольку такая информация может быть использована не по назначению, чтобы закрепить или даже усугубить хорошо задокументированные расовые различия, существующие в медицинской практике».