Война в киберпространстве: хакеры начали использовать ChatGPT для создания вирусов
В самой нейросети на подобные действия наложен запрет, однако хакеры смогли его обойти.
Исследовательская фирма Checkpoint обнаружила, что хакеры разработали ботов, которые могут проникать в GPT-3 API OpenAI и изменять его код, чтобы он мог генерировать вредоносный контент, такой как текст, который можно использовать для фишинговых писем и вредоносных скриптов.
Нейросети и вирусы
Боты работают через мессенджер Telegram. По данным Ars Technica, злоумышленники используют ботов для создания темной версии ChatGPT без ограничений.
В ChatGPT есть кнопки «большой палец вверх» и «большой палец вниз», которые вы можете нажимать и улучшать его обучение, если он генерирует контент, который может быть сочтен оскорбительным или неуместным. Сейчас нейросети запрещено генерировать вредоносный код или фишинговые письма - ChatGPT просто не даст ответа на эти запросы. Но хакеры смогли обойти запрет и заставили нейросеть писать вирусы.
Доступ к боту в Телеграме, который позволяет это делать, платный. Он стоит 6 долларов за каждые 100 запросов, а хакеры, создавшие алгоритм, также дают советы и примеры контента, который вы можете создать с помощью этой версии нейросети. Хакеры также сделали скрипт доступным на GitHub. Скрипт OpenAI на основе API позволяет пользователям подделывать бизнес или человека, в дополнение к генерации фишинговых писем с помощью команд генерации текста. По словам PC Gamer, боты также могут помочь вам в идеальном размещении фишинговой ссылки в электронном письме.
Трудно сказать, насколько серьезной угрозой окажется эта лазейка для генераторов текста с искусственным интеллектом в будущем, особенно с учетом того, что крупные компании уже начинают использовать нейросети в своем бизнесе. Microsoft, например, собирается вскоре добавить поддержку ChatGPT в свой браузер Bing в предстоящем обновлении.