1-2 ноября 2023 года в Блетчли-парк, Великобритания премьер-министр страны Риши Сунак провел международный саммит по безопасности ИИ. В нем приняли участие многие ведущие разработчики и бизнесмены. Сунак справедливо заметил, что сегодня ИИ контролируют почти исключительно сами разработчики, а это тревожно. Сунак считает, что нужен какой-то международный орган по типу Парижского соглашения по контролю за выбросами углекислого газа или МЭГАТЭ (который контролирует атомную энергетику), чтобы сертифицировать и лицензировать развитие ИИ. С премьер-министром Великобритании согласились многие бизнесмены, в том числе Илон Маск.
Искусственный интеллект работает на благо человечества. Или нет. Главные научные новости недели
Новости 1-10 ноября. Саммит в Блетчли-парк о безопасном ИИ. Илон Маск назвал главную угрозу ИИ. ChatGPT пока не справляется с тестом Тьюринга. Обладает ли ИИ сознанием?
В Блетчли-парке, где располагалась британская команда по взлому кодов военного времени, прошел саммит по безопасности ИИ. Justin Tallis/AFP/Getty
Почему мы боимся ИИ и чего от него ждем.
Премьер-министр Великобритании Риши Сунак и Илон Маск на саммите в Блетчли-парк
Маск сказал, что самую большую опасность сегодня представляют не модели ИИ сами по себе, а роботы-гуманоиды. Если они будут снабжены достаточно сильным интеллектом, они будут способны буквально заменить человека практически во всех областях. Человек в результате получит даже не базовый общий доход, а высокий доход вне зависимости от того будет ли он трудиться. И тогда люди потеряют всякую мотивацию. При этом компания Маска Tesla активно таких роботов-гуманоидов разрабатывает.
Робот-гуманоид, разработанный компанией Tesla.
Пока ИИ, по-видимому, еще не готов конкурировать с человеком. Ученые поставили классический эксперимент: это так называемую игра в имитацию, когда участникам людям предлагается определить с кем они говорят — с машиной или с человеком. ChatGPT-4 обмануть людей удалось только 41% случаев. Это слишком мало, чтобы считать, что ChatGPT прошел тест Тьюринга.
То есть, в большей части игр в имитацию люди понимают, когда они говорят с ИИ. Понимают по разным признакам: и по большому количеству ошибок, и по слишком шаблонной речи. Но главное, оказалось что человек оставляет даже в коротком разговоре свой речевой отпечаток, а ИИ делать этого или не умеет, или его этому просто не научили.
Вопрос: обладает ли ИИ сознанием уже сегодня тоже не дает покоя ни ученым, ни публике. Ответ пока отрицательный. Нейробиологи полагают, что мозг слишком сложно устроен, чтобы ИИ мог с ним конкурировать. По крайней мере пока.