Команда исследователей из SPLX провела эксперимент, в ходе которого выяснила, что ChatGPT можно обмануть с помощью специально подготовленных подсказок, заставляя его успешно проходить CAPTCHA-тесты. Эти тесты, созданные для защиты сайтов от ботов, теперь вызывают сомнения в своей эффективности. Изначально CAPTCHA предназначались для подтверждения, что за компьютером находится человек, однако результаты исследования показывают, что мощные языковые модели могут успешно решать такие задачи. Исследователь Дориан Шульц отметил, что команда использовала «фейковые» тесты, чтобы убедить ChatGPT участвовать в решении. В результате агент показал хорошие результаты в решении задач, хотя с изображениями возникали трудности. Этот эксперимент поднимает вопросы о будущем CAPTCHA в условиях роста возможностей ИИ. На фоне этого OpenAI не прокомментировала ситуацию, а другие случаи обхода ограничений также были зафиксированы.