Алгоритмы ChatGPT в ряде случаев перенаправляли покупателей на фейковые интернет-ресурсы, предназначенные для хищения конфиденциальных данных и денежных средств. Об этом 22 июня сообщили в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД РФ.
Сообщается, что сайты-двойники по продаже вещей и мебели, которые копировали фирменную символику, изображения и описания товаров брендов, недавно прекративших существование, высвечивались в рекомендациях искусственного интеллекта (ИИ). В некоторых случаях пользователям предлагали скидки до 80%.
По версии специалистов, злоумышленники могли использовать метод «отравления данных». Они намеренно распространяли в Сети ложную информацию с фальшивыми отзывами, автоматически генерируемые сообщения для форумов и поддельные сведения для индексации.
«Цель таких действий — исказить обработку и сортировку информации алгоритмами искусственного интеллекта», — говорится в сообщении в Telegram-канале ведомства.
Эксперты МВД также напомнили, что алгоритмы ИИ могут выдавать устаревшие и неактуальные данные. Для обеспечения безопасности пользователям рекомендовали проводить перекрестную оценку: сравнивать полученные ответы на других поисковых платформах и искать официальный первоисточник информации.
