Они пробрались в музей в светоотражающих жилетах, что сделало их похожими на рабочих, с помощью подъемника забрались в окно, похитили драгоценности и растворились в городском потоке людей.
Обман через восприятие: как воры использовали психологию и стереотипы, чтобы обчистить Лувр
Чтобы обокрасть Лувр, злоумышленникам понадобилась пила и немного психологии. В итоге меньше чем за 8 минут они украли ценности на €88 млн. При чем тут психология и как со всем этим связан ИИ, рассказали эксперты.
Freepik
Хитрость, как показало расследование, заключалась в том, что внешность и поведение злоумышленников полностью соответствовали «обычным» рабочим.
Согласно анализу специалистов по ИИ Винсента Чарльза и Татьяны Герман, эта стратегия сработала потому, что наше восприятие мира в значительной мере основано на категориях и ожиданиях. Они подчеркнули, что преступники использовали именно социальные стереотипы, чтобы не вызывать подозрений, ведь люди чаще не обращают внимания, когда все кажется «нормальным». Так же действует и искусственный интеллект: он «учится» распознавать, что «нормально», а что подозрительно.
Подъемник, который использовали воры, чтобы залезть в окно
Польза и вред стереотипов
Люди автоматически принимают определенные знаки и признаки, соответствующие социальным сценариям. В музее маскировка под «обычных» рабочих стала защитой, потому что люди и системы постоянно используют категоризацию для упорядочивания окружающей действительности: если что-то укладывается в привычную картинку, оно воспринимается как безопасное, соответствующее стереотипу и остается без должного внимания. Если нет – наоборот, притягивает к себе повышенное внимание. Модели ИИ тоже следуют подобным принципам, основываясь на данных, приобретенных в процессе обучения, поэтому различные системы слежения могут давать сбои.
И человек, и машина полагаются на культурные стереотипы для быстрого распознавания. Для ИИ это проявляется в виде усвоенных шаблонов, что делает его уязвимым: он воспроизводит существующие предубеждения, делая одних подозрительными, а других – безопасными. Обучение на реальных записях для системы распознавания лиц, например, зачастую опирается на типовые образы, что увеличивает риск ошибок.
Так что категоризация, с одной стороны, помогает быстро ориентироваться, но в то же время закрепляет культурные определения «нормы» и «аномалии». Преступников не заметили, потому что они выглядели «правильно». После ограбления министр культуры Франции заявил о планах усилить охрану и установить новые камеры, вот только слепых пятен все равно избежать не удастся.