Мошенники используют чат-боты для обмана на сайтах знакомств
Хакеры стали использовать интеллектуальные чат-боты для кибермошенничества и кражи данных — об этом предупредили эксперты. Один из таких ботов — программа LoveGPT, которую злоумышленники применяют для того, чтобы проворачивать аферы на сайтах знакомств. Подробности о новой схеме и способах защиты — в материале «Известий».
Научили плохому
Согласно данным Европола (Европейского подразделения Интерпола), сегодня в преступной среде используется несколько вариантов искусственного интеллекта (ИИ) на основе больших языковых моделей. Один из них — чат-бот LoveGPT. С его помощью мошенники могут создавать поддельные профили как в Tinder, так и в других приложениях для знакомств, чтобы затем выманивать деньги и ценные данные у пользователей дейтинговых сервисов. Как отмечают специалисты ИТ-компании Avast, LoveGPT не просто искусно создает вводящие в заблуждение профили на многочисленных дейтинговых сервисах, чат-бот также может вовлекать в беседу ничего не подозревающих людей, обходить меры безопасности и умело скрывать свою онлайн-активность.
При этом LoveGPT способен вести разговоры, которые эксперты в области кибербезопасности называют устрашающе аутентичными.
«LoveGPT может обсуждать ваши любимые фильмы, сопереживать вашим повседневным трудностям и даже делиться вымышленными воспоминаниями, которые задевают за живое, — предупреждают специалисты Avast. — Он не просто имитирует человеческое взаимодействие, он создает настолько искренние разговоры, что даже самые проницательные из нас могут быть одурачены».
Обман на автомате
Как говорит в беседе с «Известиями» руководитель группы исследований и разработки технологий машинного обучения в «Лаборатории Касперского» Владислав Тушканов, основное применение больших языковых моделей (LLM), на которых основаны чат-боты, помимо развлечений, — это автоматизация.
— К сожалению, любой инструмент может быть использован как с благими намерениями, так и во вред, несмотря на то что разработчики LLM прикладывают все усилия, чтобы исключить их зловредное применение, и продолжают совершенствовать защиту, — говорит эксперт.
По словам Тушканова, злоумышленники часто стремятся автоматизировать свои процессы, чтобы иметь возможность общаться с большим количеством потенциальных жертв. Эксперт программных продуктов компании «Код безопасности» Максим Александров дополняет, что любовные аферисты не стали исключением: использование ИИ позволяет им сэкономить время и увеличить охват атакуемой аудитории.
В частности, чат-боты могут применяться для выполнения рутинных операций: они позволяют мошенникам начинать диалог, отвечать на общие вопросы, собирать первичную информацию о потенциальных жертвах, а также сравнивать характер их ответов и реакции на сообщения, что в дальнейшем позволяет выстраивать правильную линию для мошеннических действий.
— Вне зависимости от того, какие технологии использует злоумышленник, его основная цель — уговорить жертву совершить определенное действие, — рассказывает Владислав Тушканов. — Это может быть покупка билетов в театр на поддельном сайте, просьба перевести деньги «на билеты», чтобы приехать на свидание, или попытка выудить откровенные фото (возможно, для последующего шантажа).
Однако, как отмечает эксперт, для того чтобы уговорить человека на этот последний шаг, с ним нужно познакомиться и какое-то время потратить на общение. А чат-боты, как показывают исследования, могут быть достаточно убедительными для автоматизации начальных стадий взаимодействия с потенциальными жертвами. Кроме того, злоумышленники могут использовать нейросети для генерации уникальных фото для профилей на сайтах дейтинговых сервисов.
Признаки фальши
Понять, что на сайте знакомств с вами общается чат-бот, а не живой человек, может быть весьма непросто, если только изначально не относиться к любым перепискам с незнакомыми людьми как к подозрительным. Для проверки Максим Александров предлагает прикинуться «ботом первых поколений» — к примеру, использовать фразы, не соответствующие диалогу.
— Живого человека это введет в ступор и вынудит переспрашивать, а вот чат-бот, скорее всего, продолжит ненавязчивый диалог, будто ничего не произошло, — объясняет собеседник «Известий».
В свою очередь, Владислав Тушканов отмечает, что текст, сгенерированный чат-ботами, может выглядеть неестественно: они часто одобрительно повторяют только что сказанное, пишут длинные и достаточно формальные сообщения, не используют современный сленг, а также могут не знать про последние, даже очень известные, события и явления.
Кроме того, стоит внимательно присмотреться к фотографии профиля виртуального собеседника или собеседницы, чтобы убедиться, что снимок не создан нейросетью. Особое внимание нужно уделить пальцам, волосам, ушам и деталям фона. Но главное, о чем стоит помнить, — это цель мошенника. Она состоит в том, чтобы заставить потенциальную жертву выполнить какие-либо действия, от перевода денег до перехода на вредоносный сайт.
— Поэтому на дейтинговых сервисах стоит сохранять бдительность и прекращать общение, если вам кажется, что что-то идет не так, — говорит эксперт. — Кроме того, следует с осторожностью подходить к раскрытию личных данных и отправке личных фотографий, когда общаетесь с незнакомцами в Сети. Наконец, важно использовать защитные решения, которые подстрахуют при переходе по фишинговым ссылкам.
Трансформация знакомств
По мнению Максима Александрова, перспективы использования чат-ботов мошенниками на сайтах знакомств сегодня являются очень обширными: сферы применения ИИ растут, как и его качество. Поэтому чем больше чат-боты будут «тренироваться» на дейтинговых сервисах, тем сложнее их будет вычислить в дальнейшем. Если же вас уже обманули при знакомстве в Сети, собеседник «Известий» рекомендует применять такой же алгоритм, как и при любом другом интернет-мошенничестве.
— Необходимо поменять пароли во всех сервисах, где это возможно, заблокировать банковские карточки, чтобы злоумышленник не смог ими воспользоваться, и написать заявление в полицию, — советует специалист.
Кроме того, как отмечает Александров, можно пожаловаться в администрацию дейтингового сервиса для того, чтобы она заблокировали мошенника. Между тем чат-боты на сайтах знакомств используют не только злоумышленники — в этой практике есть исключения со знаком «плюс», говорит директор АНО «Спортивно-методический центр «Кафедра киберспорта» Виктория Береснева.
В качестве примера собеседница приводит историю московского программиста Александра Жадана, который прославился тем, что защитил диплом, написанный при помощи ChatGPT. Однако этим молодой человек решил не ограничиваться: нейросети помогли ему не только получить высшее образование, но и найти спутницу жизни.
— Программист настроил чат-бот в приложении для знакомств таким образом, чтобы нейросеть искала девушку, идеально соответствующую его характеру и кругу интересов. В итоге, перебрав 5239 кандидаток, нейросеть все-таки нашла жену для молодого человека, — заключает специалист.
Дмитрий Булгаков
Фото: pixabay
По материалам: “Известия”
