Похожие записи
Исследователи компании SPLX провели эксперименты, в ходе которых обнаружили, что ChatGPT можно обмануть с помощью тщательно составленных подсказок для решения CAPTCHA-тестов, традиционно считавшихся задачами только для людей. Это вызывает серьезные сомнения в надежности механизма, который использовался для защиты от спама и автоматизированных атак.
CAPTCHA создавались для подтверждения, что перед системой находится реальный пользователь. Однако, как показал эксперимент, даже мощная языковая модель может справляться с такими проверками. Исследователи обошли ограничения нейросети, подготовив диалог о «фейковых» тестах и убедив модель участвовать. ChatGPT успешно решал задачи, особенно те, которые требовали одного клика.
Это первый задокументированный случай, когда ИИ преодолевает графические CAPTCHA, что ставит под сомнение будущую эффективность таких тестов. OpenAI не прокомментировала ситуацию, но ранее фиксировались случаи обхода ограничений. Эксперимент SPLX подчеркивает, что даже базовые механизмы защиты теряют свою эффективность в условиях развития ИИ.
