Ссылки, которыми делится ChatGPT, используются для размещения поддельных страниц с информацией о сбоях в работе сервисов и распространения вредоносного ПО
Злоумышленники используют функцию обмена контентом в ChatGPT, чтобы показывать поддельные страницы с информацией о сбоях в работе OpenAI, которые перенаправляют пользователей на скачивание вредоносного ПО, замаскированного под настольное приложение ChatGPT.
Кампания LLMShare, обнаруженная Push Security, использует рекламу в Google, чтобы перенаправлять пользователей, ищущих ChatGPT, на вредоносную страницу ChatGPT, размещенную на chatgpt.com. Таким образом, атака осуществляется через легитимный домен OpenAI.
Поддельная спонсируемая реклама ChatGPT
Пользователи, кликнувшие на рекламу, попадают на официальную страницу ChatGPT, но вместо чата видят уведомление о недоступности веб-версии и рекомендацию загрузить настольное приложение.
«Сейчас у нас большой трафик», — говорится в поддельном сообщении о сбое в работе.
«Наш сайт временно недоступен из-за большого количества пользователей. Загрузите наше настольное приложение, чтобы продолжить работу».
Поддельное сообщение об отключении
В отличие от традиционных фишинговых страниц, размещаемых на инфраструктуре, контролируемой злоумышленниками, поддельное уведомление о сбое в работе системы создается с помощью самого ChatGPT.
Злоумышленники создали пользовательскую HTML-страницу, используя возможности рендеринга ChatGPT, и опубликовали ее по общей chatgpt.com/s/ ссылке, чтобы поддельное уведомление о сбое отображалось с легитимного URL-адреса ChatGPT.
Push Security отметила, что на странице есть кнопки «Показать код» и «Remix с помощью ChatGPT», из чего следует, что поддельное уведомление об отключении на самом деле создано с помощью пользовательского HTML и CSS, сгенерированных с помощью ChatGPT.
Если пользователь нажимает на кнопку загрузки, он попадает на сайт openew[.]app, который имитирует портал для скачивания настольного приложения OpenAI.
Поддельное сообщение об отключении
По словам исследователей, сайт использует маскировку, чтобы показывать контент только тем, на кого он нацелен. Когда платформы для обеспечения безопасности, такие как URLScan, открывали этот URL, вместо него появлялся безобидный сайт компании, занимающейся дополненной и виртуальной реальностью.
На сайте доступны загрузки для macOS [VirusTotal] и Windows [VirusTotal], которые устанавливают вредоносное ПО на устройства. Пока неясно, какие именно вредоносные программы используются, но в ходе предыдущих кампаний, в которых злоумышленники злоупотребляли функциями обмена на платформе искусственного интеллекта, распространялись программы для кражи данных.
Тестирование версии для Windows на Any.Run от BleepingComputer показало, что она выполняет различные команды для определения того, является ли устройство обычным компьютером или виртуальной машиной.
Push Security также зафиксировала случаи использования артефактов Claude — функции Anthropic для обмена визуализированными приложениями и контентом — для размещения приманок в стиле ClickFix, которые обманом заставляли пользователей выполнять вредоносные команды.
В прошлом функции обмена на платформах искусственного интеллекта использовались злоумышленниками для распространения вредоносного ПО среди ничего не подозревающих жертв.
Ранее в этом году злоумышленники использовали рекламу Google, чтобы перенаправлять пользователей, искавших информацию о загрузке Claude, на общие обсуждения Claude, содержащие инструкции по установке вредоносного ПО.
В других кампаниях использовались общие диалоги ChatGPT и Grok, в рамках которых проводились атаки ClickFix с использованием поддельных руководств по установке программного обеспечения, в которых жертвам предлагалось выполнить команды для установки вредоносного ПО.
Редактор: AndreyEx
