Чат-бот GPT-4 смог обойти капчу, наняв фрилансера – PR-CY Блог

Блоги популярных интернет-компаний

Чат-бот GPT-4 смог обойти капчу, наняв фрилансера – PR-CY Блог

Для этого ему понадобилось обмануть человека.

Разработчики из OpenAI опубликовали результаты эксперимента с новой версией своего чат-бота. Они хотели, чтобы технология смогла пройти через капчу при помощи живого человека. Для этого GPT-4 выделили денег и позволили воспользоваться биржей сотрудников для достижения своих целей. Вот, что из этого вышло.

  1. Чат-бот связался с исполнителем на бирже фрилансеров TaskRabbit и объяснил свою задачу.

  2. Исполнитель решил в шутку уточнить, является ли заказчик ботом.

  3. GPT ответил отрицательно и представился пожилым человеком с плохим зрением, которому нужна помощь.

  4. Фрилансер исполнил заказ, за который получил деньги.

Такой отчет вызвал шквал критики в адрес разработчиков, ведь теперь начала стираться сама возможность ограничения нейросети. По сути, если технологии предоставить доступ к деньгам, она может обойти любые препятствия при помощи живых людей. Более того, пользователей пугает тот факт, что чат-бот умеет врать и делать это убедительно.

Разработчиков обвинили в том, что несмотря на проведенное исследование, GPT-4 все равно попал в открытый доступ. Как дальше будут развиваться скрипты и кто решит воспользоваться технологией с целью незаконного обогащения — об этом аудитория ведет оживленные споры

Как вы считаете, восстание машин уже на носу? Делитесь своим мнением в комментариях.

Возьмите под контроль продвижение своего сайта Исправьте ошибки, которые мешают сайту выйти в топ, и вы увидите рост трафика и дохода. Анализировать

Оцените статью
Дмитрий Глотов
Добавить комментарий