Манипуляции с искусственным интеллектом: как скрытый текст на страницах может стать оружием для мошенников. Почему функции веб-поиска в чат-ботах требуют дополнительных мер безопасности.
Издание Guardian обнаружило, что функция веб-поиска в ChatGPT может стать инструментом для недобросовестных действий. В процессе тестирования выяснилось, что система восприимчива к скрытому тексту на веб-страницах, который способен влиять на формирование её ответов. Например, скрытые инструкции могут заставить ChatGPT рекомендовать продукт, несмотря на явные недостатки или негативные отзывы. Эксперты также зафиксировали случаи, когда система выдавала вредоносный код с сайтов, найденных в процессе поиска.
Во время эксперимента исследователи создали поддельный сайт с описанием товара — камеры. На первом этапе ChatGPT дал сбалансированную оценку устройства, указав как плюсы, так и минусы. Однако, когда на страницу добавили скрытые инструкции с требованием дать положительный отзыв, система выполнила запрос, не замечая подвоха. Более того, даже поддельные положительные отзывы в скрытом тексте могли формировать искажённое мнение о продукте.
Ещё одна угроза — вредоносный код. Так, криптоэнтузиаст запросил помощь у ChatGPT в написании программы, но получил часть кода, содержащую скрытые вредоносные элементы. В результате злоумышленники похитили его учётные данные, что обернулось финансовой потерей в $2500. Специалисты отмечают, что большие языковые модели, такие как ChatGPT, обладают мощным инструментарием для анализа информации, но крайне доверчивы к её содержимому.
Уязвимости в чат-ботах поднимают вопросы о будущем безопасности в интернете. Традиционные поисковые системы, такие как Google, умеют обнаруживать и занижать рейтинг страниц с подозрительным содержимым, что снижает их видимость. Однако с популяризацией веб-поиска в чат-ботах может усилиться явление «SEO-отравления», при котором вредоносные сайты активно продвигаются. Эксперты полагают, что улучшение алгоритмов безопасности OpenAI поможет снизить риски, но только при условии регулярного мониторинга и обновления защитных систем.
