Открытое письмо Илона Маска и 1000 экспертов: развитие ИИ необходимо затормозить. Главные научные новости недели
После выхода GPT-4 многие ученые заговорили, что у этой большой лингвистической модели есть «искры настоящего разума».
29 марта «Институт будущего жизни» опубликовал открытое письмо, призывающее лаборатории искусственного интеллекта «немедленно приостановить, по крайней мере, на 6 месяцев, подготовку систем искусственного интеллекта, более мощных, чем GPT-4». Причина названа: «Системы ИИ с интеллектом, конкурирующим с человеком, могут представлять серьезные риски для общества и человечества, как показали обширные исследования и признания ведущих лабораторий ИИ. Продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его развитие следует планировать и управлять им с соответствующей осторожностью и ресурсами». То есть, мы плохо представляем себе, что может ИИ, и поэтому хотим его запретить от греха. Очень маловероятно, что к этому призыву прислушается компания OpenAI — разработчик GPT-4 и компания Microsoft, которая уже использует GPT в своей поисковой системе Bing.
У последней версии ChatGPT, работающей с Bing, есть доступ в интернет и есть интерпретатор Python. Теперь GPT может и поискать, и попрограммировать. И даже что-то не совсем тривиальное посчитать. А к сентябрю OpenAI обещает выпустить GPT-4.5, а в будущем году и GPT-5. И как полагают некоторые эксперты, эта версия уже будет думать почти как человек, и не только отвечать на вопросы, но и задать, в том числе и самой себе.
Но некоторые компании все-таки решили пока притормозить.
Исследовательская лаборатория Midjourney заявила о приостановке бесплатных версий своего программного обеспечения для генерации изображений. Непосредственной причиной руководители лаборатории назвали большое количество дифейков, сделанных пользователями. Среди них в последнее время появились реалистичные изображения арестованного бывшего президента США Дональда Трампа и Папы Римского Франциска в пуховике. Но платные аккаунты работают нормально.
Как отмечают эксперты, прогресс между GPT-3.5, выпущенной в ноябре, и GPT-4, выпущенной в марте, настолько большой, что именно это многих испугало. Но будет ли таким же мощным следующей шаг, мы, вероятно, узнаем в сентябре, когда выйдет GPT-4.5. В то, что его разработка остановится, сегодня не верит никто, даже, кажется, и авторы письма в это не верят.