Поделиться
Google выпустил ИИ для Android, узнающий мошенников по ходу разговора
Google запускает средства распознавания мошенничества на основе искусственного интеллекта, которые будут работать сугубо локально.
«Срочно кинь мне на телефон 500 тысяч, я потом все объясню»
Google выпустил инструмент, призванный защитить пользователей устройств на базе Android от мошенников. Система на базе искусственного интеллекта должна будет выявлять в содержании пользовательской переписки вероятные попытки спровоцировать владельца устройства на совершение действий, о которых он или она потом будет сильно сожалеть.
«Эти [новые] функции нацелены на попытки разговорных манипуляций, которые сперва выглядят безвредно, но постепенно могут привести к очень опасным ситуациям, - говорится в описании Google. - Все большее число телефонных мошенников используют различные методы спуфинга для сокрытия своих реальных номеров, чтобы выдавать себя за пользующийся доверием бизнес».
Разработка ИИ-моделей для пресечения мошенничества велась в партнерстве с финансовыми учреждениями - больше них о мошенниках и их уловках не знает никто.
Информация от банков позволила обучить ИИ распознавать характерные для мошенников особенности в диалогах и предупреждать пользователей о вероятных попытках их атаковать в режиме реального времени.
Что особенно интересно, модели работают сугубо локально, прямо на самих устройствах. Благодаря этому переписка останется конфиденциальной, по крайней мере, до тех пор, пока пользователь не решит пометить сообщения собеседника как спам или вероятное мошенничество. В этом случае, данные отправителя сомнительных сообщений и самые последние диалоги с ним будут загружены в базы Google и телеком-операторов.
Функция распознавания мошенников будет включена по умолчанию в Google Messages, но только в отношении тех телефонных номеров, которые не находятся в списке контактов пользователя.
Кроме этого, функция распознавания мошенничества будет реализована и для голосовых звонков. Произнесенные слова будут анализироваться «на лету», и, если ИИ заподозрит неладное, устройство начнет сигнализировать об этом всеми доступными способами. Записи аудио при этом не производится, и анализ голосовой информации также осуществляется на самом устройстве.
Своевременный сигнал
Бета-версия распознавания голосового мошенничества была развернута в конце 2024 г. для ограниченного количества англоязычных пользователей смартфонов Google Pixel.
Для моделей Pixel 9 использовалась модель Gemini Nano; для устройств Pixel 6, 7 и 8 эту модель пришлось сделать еще более компактной.
В ближайшее время эта система будет распространена по всем версиям смартфонов Google Pixel, начиная с версии 9.
В своем пресс-релизе Google отмечает, что только за 2024 г., используя «продвинутую тактику», а также возможности генеративных ИИ мошенники смогли похитить у мобильных пользователей во всем мире более одного триллиона долларов. В большинстве случаев злоумышленники использовали как раз текстовую переписку в мессенджерах и голосовое общение.
«Идею реализовать систему оповещения о попытках мошенничества на базе искусственного интеллекта можно только приветствовать. Мошенники нередко используют проверенные методы психологического и даже гипнотического воздействия на жертву, но просто даже своевременный сигнал тревоги может освободить ее от контроля злоумышленников» , - говорит Анастасия Мельникова, директор по информационной безопасности компании SEQ.
По словам эксперта, остается лишь убедиться в том, что языковые модели, функционирующие локально на смартфонах, будут действительно эффективны в распознавании мошеннических уловок.
На первом этапе новые инструменты для борьбы с мошенничеством будут доступны жителям США, Великобритании и Канады. Со временем планируется расширить ареал и на другие языковые регионы.
Короткая ссылка
