350 000 ИИ-«приманок» из Австралии переигрывают мошенников
Одна компания в Австралии создала необычную рабочую силу: 350 000 агентов на основе искусственного интеллекта, единственная задача которых — отнимать время у мошенников. Фирма Apate.ai названа в честь греческой богини обмана, а её боты устроены так, что обманываются лишь на вид. Каждый агент выдаёт себя за обычного человека — молодого или пожилого, мужчину или женщину — с разными акцентами, на нескольких языках и со своим характером, сообщает китайское научное издание Guokr.
Цель — не общественность, а сама мошенническая индустрия. Когда поступает звонок от мошенника или фишинговый сайт запрашивает данные, отвечает ИИ-персона. Она болтает, колеблется, просит уточнить, забывает пароль, путает цифру. Задача — как можно дольше удерживать мошенника, что стоит преступной операции времени и денег, а реальным людям даёт более спокойную телефонную линию. Тот же подход распространяется на инвестиционное мошенничество и поддельные сайты, где боты заполняют формы правдоподобной, но бесполезной информацией.
Скайм-бейтинг не нов. Годами энтузиасты отвечали на мошеннические письма замысловатыми историями и вымышленными личностями, делясь результатами в сети. Отличие здесь — масштаб. Один человек может вести одно-два собеседования одновременно; сеть из сотен тысяч программных агентов может вести множество сразу, круглосуточно, на нескольких языках. Компания утверждает, что персоны достаточно разнообразны, чтобы мошенник не мог легко отличить одну от другой.
Идея находится на неудобном стыке безопасности и этики. Защитники подхода утверждают, что мошенники — преступники, наживающиеся на страхе и замешательстве, и что замедление их защищает жертв. Критики могут спросить, не рискует ли автоматизированный обман, даже против злоумышленников, нормализовать практику, или не может ли бот, выдающий себя за уязвимого пожилого человека, вызвать ответные действия против реальных людей. Отчёт не решает эти вопросы, и технология ещё молода.
Для обычных пользователей практический урок проще. Лучшая защита от мошеннического звонка остаётся прежней: положите трубку, не сообщайте коды или банковские данные и сообщите о номере. ИИ-приманка не отменяет необходимости в этой осторожности. Но она добавляет новый слой в старую гонку вооружений — ту, в которой мошенникам теперь приходится гадать, человек ли вообще на другом конце провода.
Что делает историю заметной, так это экономика. Мошеннические операции полагаются на объём; если достаточно звонков принимают боты, которые никогда не платят, стоимость каждого успешного мошенничества растёт. Это та же логика, что стоит за спам-фильтрами и приложениями для блокировки звонков, применённая к разговору, а не к доставке. Сработает ли это в масштабе, зависит от того, как быстро мошенники научатся распознавать синтетические голоса.
Для глобальных читателей этот случай — напоминание о том, что первая массовая роль ИИ может быть не в написании эссе или генерации картинок, а в центре обычных транзакций, включая нечестные. Следующие несколько лет покажут, станут ли автоматизированные приманки стандартным инструментом банков и телеком-компаний или останутся умным экспериментом одной компании с классическим именем.