РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Главные этические вопросы, которые ставят перед нами новые технологии

Технический прогресс намного опережает прогресс социальный. Да и нащупать рамки «прогресса» в общественном сознании – дело куда более сложное, чем оценить важность изобретения интернета, ИИ или VR. Тем не менее, это факт: мы легко можем представить, что будет изобретено, и куда сложнее – как человечество отреагирует на инновации.
Главные этические вопросы, которые ставят перед нами новые технологии

В преддверии фестиваля о науке и технологиях Geek Picnic, который состоится 11-12 августа в Москве (парк Коломенское) и 18-19 августа в Санкт-Петербурге (Елагин Остров) позволим себе немного пофантазировать о главных морально-этических дилеммах будущего. Светлого или мрачного, но в любом случае – загадочного и такого притягательного.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Отношение к аугментированным людям

Мир – место довольно несправедливое, и, несмотря на тысячи лет истории, человечество до сих пор не может избавиться от ксенофобии, религиозного экстремизма, дискриминации и культурных барьеров. Насколько же должны усилиться эти проблемы, если к существующим различиям прибавится искусственное расширение человеческих возможностей? Как мы будем относиться к киборгам?

Пока что люди с искусственными конечностями или вживленными чипами вызывают интерес и восхищение силой прогресса. Яркий пример – Найджел Экланд, простой британский рабочий с роботизированным протезом руки. Найджел колесит по миру, выступает с лекциями и обласкан публикой – в этом году он, например, приезжает 11-12 августа в Москву на фестиваль науки и технологий Geek Picnic. С другой стороны, как только появляется малейшее превосходство над естественным строением организма, модификация тела начинает вызывать недовольство обычных людей.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Здесь тоже есть пример – Оскар Писториус, бегун из ЮАР. Ноги Оскара ампутированы ниже колен, но заменены высокотехнологичными протезами из углепластика за 30’000 $. И никого бы не смущала цена протезов, если бы не исследования профессора Герта-Петера Брюггемана. Он выяснил, что ноги южноафриканца дают тому преимущество перед соперниками. Подытожил свое исследование профессор фразой: «Вы еще приделайте ему электромотор!». И бегуна отстранили от соревнований. Конечно, потом выяснилось, что не такие уж преимущества однозначные, но факт был – Оскару давали небольшое преимущество искусственные ноги, и общественность была недовольна.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Но что случится, когда искусственные конечности уже точно станут совершеннее натуральных? Когда появятся люди, сменившие родные руки-ноги на киберпротезы не из-за несчастного случая? Самое очевидное, что приходит в голову – вселенная Deus Ex, а, в частности, части Human Revolution и Mankind Divided. В этом киберпанковом сеттинге люди с аугментациями подвергаются (по вполне обоснованным причинам) осуждению и остракизму, а в итоге все выливается в полноценный апартеид.

Насколько это может быть близко к реальности? Казалось бы, люди склонны с подозрением относиться к технологиям, всерьез меняющим уклад жизни. Но в качестве противоположного примера можно привести автономные автомобили – несмотря на два смертельных ДТП и несколько не летальных, люди продолжают смотреть с оптимизмом на беспилотный транспорт:  согласно опросу компании Ford, 61% взрослого населения Земли ждет появления беспилотников на дорогах.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Так что, вполне вероятно, нас все-таки ждет не бесконечно мрачный киберпанк, а светлое будущее, где увечья – больше не проблема. И где при желании вы можете стать быстрее-выше-сильнее любого, даже самого тренированного спортсмена. А главное – где общество принимает модифицированных людей.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Свобода искусственного интеллекта

Еще недавно фраза «восстание машин» была разве что напоминанием о начале Терминатора. Сейчас виднейшие умы современности, вроде Джеймса Баррата и Илона Маска, всерьез опасаются того, что может принести нам ИИ. А последний деятель так и вовсе назвал искусственный интеллект «самым большим риском, с которым мы сталкиваемся как цивилизация».

Почему так? Ключевое слово в «ИИ» — не «искусственный», а «интеллект». Человек привык быть единственным существом на планете, обладающим развитым абстрактным мышлением, способностью к анализу и фантазией. И возможность создать нечто, мыслящее более совершенно, чем сам человек, прямо иллюстрирует эффект «зловещей долины». Когда нечто ведет себе подобно человеку (но не в точности как он), то вызывает у наблюдателя отвращение. А изобретать что-то, что вызывает отвращение — глупо, так?

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Избежать «зловещей долины» можно было бы, введя некоторые правила и ограничения для ИИ – чтобы искусственный собеседник без проблем мог пройти тест Тьюринга. Это, фактически, уже возможно – Microsoft разработали программу, чей машинный перевод китайского текста практически неотличим от человеческого. Но тогда возникает другая проблема.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Если вернуться к товарищу Маску – его предостережение на самом деле звучит чуть длиннее. Изобретатель переживает, что роботы в состоянии развязать войну, выпуская фейковые новости, факты и пресс-релизы, и делая это в десятки раз лучше людей. И в этом свете анонсированный им сайт Pravda, позволяющий отделить ложь от истины, выглядит закономерно.

Что мы получаем в итоге? Либо пугающий ИИ, превосходящий человека во всем, либо робота, тщательно мимикрирующего под своих создателей. И тем самым стирая грань между машинным интеллектом и естественным.

Рискнем предположить: скорее всего, со временем разработки в сфере ИИ будут отрегулированы. С определением степени свободы, доступной машине. Что сделает из искусственного интеллекта всего лишь очередной очень умный компьютер. Но никак не совершенный разум со свободой воли.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Иначе нас, вероятно, ждет ситуация «я тебя породил, я тебя и убью». Или противоположный сюжетный поворот.  

Использование персональных данных

Список покупок с кредитной карты, медицинские анализы в единой базе данных, ID, страницы в соцсетях и история поисковика – даже про самого подозрительного интроверта найдется множество занятных фактов, если иметь соответствующий доступ к данным.

Все, что собирает о нас информацию, служит для того, чтобы облегчить жизнь. Мы не сторонники теорий заговора, но вполне можем представить этическую дилемму в ближайшем будущем. А, пожалуй, даже обсудить реальную проблему. Ее реальность подтверждает, например, бывший работник Google, специалист по Big Data — Сет Стивенс-Давидовиц, написавший целую книгу о том, как люди доверяют строке поиска самые темные секреты. 

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Какие данные о человеке и как можно использовать ради спокойствия и удобства? И может ли кто-то определять за личность, что есть спокойствие и удобство?

Казалось бы, однозначный ответ – нет. Антиутопии рисуют нам пугающий мир, где человек может быть выброшен из общества только из-за немного девиантного поведения. На эту тему будто бы высказалось вообще все – от литературы (почти любая классическая дистопия) до сериалов (Black Mirror) и даже аниме (Psycho-Pass). Но ключевые черты любого подобного произведения – то условие, что главного героя что-то выбрасывает из типичного ритма жизни, и он становится врагом народа.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Но многие ли из нас смогли бы (или хотя бы захотели) в самом деле пойти наперекор обществу и бросить очевидное спокойствие и благополучие в обмен на собственную независимость? Без расстановки негативных акцентов система предотвращения преступлений, вроде Person of Interest, перестает быть тоталитарным кошмаром и превращается в действительно полезное изобретение. Ведь возможность стать жертвой преступления звучит куда страшнее потери конфиденциальности.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Впрочем, известная фраза Бенджамина Франклина гласит: «Кто жертвует свободой ради спокойствия, не достоин ни того, ни другого». Соглашаться ли с ним – личное дело каждого. Отметим только, что в XVIII веке Бен и представить не мог, насколько большие могут быть жертвы и насколько тотальным может быть контроль. И спокойствие, возможно, тоже.

Хотя если бы знал, наверное, сказал бы: «Никакой свободы врагам свободы».

Мы занялись визионерством и сделали несколько прогнозов, но правда в том, что грядущее – всегда сложно предсказуемо. Журналы о будущем начала XX века предрекали нам гигантские ходячие города, потом были летающие автомобили и яблони на Марсе.

И то, то в итоге мы имеем смартфоны, интернет и большой адронный коллайдер, доказывает главное – впереди нас ждет много сюрпризов. И это прекрасно.

Ну, а обсудить все эти моральные коллизии и присоединиться к миру технологий будущего можно купить на сайте. Специально для читателей «TechInsider» действует промокод на скиду при покупке билетов 10 процентов. 

Загрузка статьи...