Чего боятся американцы, когда речь идет об ИИ? В основном того, что он отберет у них работу. Но в то время, как мы говорим о рисках технологий, мошенники уже используют их против нас. И пока искусственный интеллект отбирает преимущественно не работу, а деньги, имущество, личные данные и покой.
У технологии нет умысла. Но в руках тех, кто решил ею воспользоваться, она становится инструментом зла. ИИ может говорить родным голосом, звонить со знакомых телефонов и многое другое. А иногда и мошенник не нужен: сам чат-бот дает опасные для жизни и здоровья советы, и собирает личные данные в ненавязчивой переписке. Давайте учиться выявлять и обезвреживать эти риски.
Голос, которому вы поверите
Представьте себе такую ситуацию. Поздно вечером у вас внезапно звонит телефон. В нем — голос родственника. Вашего ребенка, супруга и родителя, который сейчас не дома или живет отдельно. Этот голос взволнован, говорит быстро: например, попал в аварию или еще что-то случилось. Нужны деньги прямо сейчас, карта заблокирована! Вы узнаете интонацию, манеру говорить…
Вот только этот голос ненастоящий и даже не принадлежит человеку. А родственник и знать не знает о звонке.
Для клонирования голоса сегодня может хватить короткой записи, в том числе фрагмента видео, опубликованного в соцсетях. Публичные аккаунты детей и внуков превращаются в готовый материал. Программы позволяют создать убедительную копию голоса за несколько минут, специальные знания для этого вообще не нужны.
Федеральная торговая комиссия США (FTC) еще в 2023 году предупредила о мошенничествах, в которых ИИ используют для клонирования голосов близких. А масштаб мошенничества против пожилых американцев в целом огромен: по данным FBI IC3, только в 2023 году люди старше 60 лет сообщили о потерях более $3,4 млрд. С тех пор технологии развились в разы.
Схемы работают по нескольким сценариям. Классический вариант — «сын/дочь/внук в беде»: арест, авария, больница, деньги нужны немедленно и без огласки. Более изощренная версия предполагает звонок якобы от адвоката или полицейского с переключением на «вашего ребенка», который плачет и просит помочь. Бывает и звонок от «руководителя» сотруднику: перевести деньги на счет, срочно и не задавая вопросов.
Признаки того, что голос подделали:
- звонящий обращается к вам не так, как обычно это делает близкий (со мной такое было: подруга, которая называет меня милым прозвищем, внезапно обратилась как «Ирина», и да, ее взломали);
- звонящий давит на срочность и просит не перезванивать на другой номер;
- разговор не допускает пауз, тема не меняется;
- на неожиданный личный вопрос следует заминка или уклончивый ответ;
- деньги просят передать через электронный перевод, подарочными картами или криптовалютой;
- голос звучит слегка механически, фонового шума живого пространства нет.
Заранее договоритесь с близкими о кодовом слове для экстренных ситуаций. Если звонящий его не называет, кладите трубку. FTC также советует не доверять одному лишь знакомому голосу: перезвоните сами на тот номер близкого человека, который у вас уже записан.
Роман с «Брэдом Питтом»
Знакомства с использованием ИИ — печальная, дорогостоящая и подрывающая доверие к людям ситуация. Это может быть аккаунт в Facebook или на сайте знакомств: привлекательный профиль, интересная история. Человек живет за рубежом, обычно далеко, а работает инженером, врачом или военным на контракте. Либо же речь о ком-то известном, и всё ну очень реалистично! Да, в это верят.
Переписка начинается с общих интересов, внимания, заботы. Через несколько недель разговор становится ежедневным, потом несколько раз в день, а через пару месяцев человек говорит, что влюбился. Жертва уже давно на крючке. И вот этот интернет-Ромео (может быть и Джульетта!) упоминает выгодную инвестицию или просит помочь с переводом денег из-за «временных трудностей». Или же говорит, что отправил вам подарок и его нужно срочно оплатить. А потом… исчезает.
Вот одна из самых громких историй: 53-летняя Анн, дизайнер интерьеров из Франции, больше года переписывалась с человеком, который представился Брэдом Питтом. С романтическими сообщениями, стихами и сфабрикованными ИИ фотографиями. «Питт» был якобы болен, что хорошо работало для выбивания сочувствия и денег. Жертва впоследствии сказала, что он «умел разговаривать с женщинами» — точнее, это умел ИИ, которым пользовались мошенники. В итоге Анн потеряла около $855 000. Она обратилась в полицию и проходила лечение от тяжелой депрессии. Личности мошенников не были установлены.
В других романтических схемах после долгого периода ухаживаний жертву постепенно втягивают в фиктивные инвестиции, часто связанные с криптовалютой. Такой вариант мошенничества называют pig butchering («забой свиньи»): сначала преступник долго завоевывает доверие и только потом переходит к деньгам. Раньше мошенники вели переписку вручную, работая с десятками жертв одновременно и постоянно рискуя совершить ошибку. ИИ упростил такие схемы: с его помощью мошенники создают фальшивые профили, изображения и видео, делая общение с жертвой убедительнее.
По данным FBI IC3, в 2023 году американцы потеряли на романтических мошенничествах более $650 млн. При этом многие не сообщают о случившемся из-за стыда. Местные каналы ABC7 и KTXL Fox40 Sacramento описывали истории жителей региона, потерявших от $50 000 до нескольких сотен тысяч долларов.
Признаки романтической схемы с ИИ:
-
профиль создан недавно, фотографии выглядят исключительно профессиональными, постановочными и/или сильно обработанными;
-
человек никогда не выходит на видео или появляется в кадре на несколько секунд с плохим качеством;
-
общение очень быстро переносится из социальной сети в мессенджер;
-
собеседник всегда доступен, всегда отвечает точно в тему и без задержек;
-
разговор рано или плавно выходит на тему денег, инвестиций или криптовалюты;
-
любые просьбы о живой встрече наталкиваются на убедительные обстоятельства, которые этому мешают.
Если профиль вызывает сомнения, загрузите фотографии в Google Images. И всегда имейте в виду: что если человек отказывается от видеозвонка под любыми предлогами или же во время такого звонка ведет себя странно (статично, не реагирует на сказанное вами и так далее), это весомый сигнал.
Глобальная организация по борьбе с мошенничеством Global Anti-Scam Organization (globalantiscam.org) ведет базу известных схем и публикует инструкции на нескольких языках, включая русский.
Плачущие дети, горящие дома и котята, которых нет
Предложу вам снова включить воображение — хотя с большой вероятностью что-то подобное вы уже видели. Представьте фотографию в Facebook или Instagram: женщина средних лет, темные круги под глазами, одежда в копоти и разорвана, за спиной разрушенный дом. Рядом двое детей такого же вида и, возможно, кошка в пыли и грязи. Подпись: «Мы потеряли всё. Помогите выжить». Под постом сотни комментариев, слова поддержки и ссылки на сбор денег. Картинка набирает тысячи репостов в сообществах украинцев и их поддерживающих. Деньги тоже отправляют.
Вы уже догадались: этой женщины не существует, детей и кошки тоже, дом нарисован, а сам визуал искусственно затемнен и драматизирован для эффекта. Генерация реалистичных изображений с помощью Midjourney, DALL-E или Stable Diffusion занимает секунды. Создать убедительное «фото с фронта», «многодетную семью беженцев» или «умирающего котенка в приюте, которому нужна операция» можно без единого навыка в графике. Для украиноязычной и русскоязычной аудитории в США особенно убедительно работают публикации, связанные с войной в Украине: высокая готовность помогать, личная связь с происходящим и доверие к эмоциональным историям в сообществах дают мошенникам почву для таких схем.
Сгенерированные изображения уже активно используются в мошеннических и дезинформационных публикациях. NewsGuard ведет мониторинг ложных материалов, созданных с помощью генеративного ИИ, и описывает десятки схем с использованием сгенерированных образов — от «пострадавших от стихийных бедствий» до «больных детей». Meta также признает, что определить весь сгенерированный ИИ-контент технически пока невозможно: специальные метки и другие сигналы можно удалить.
Что должно насторожить в фото:
-
руки и ноги: лишние пальцы, неестественные суставы, пальцы разной длины, отсутствующие пальцы при объятиях или на руках на плече/талии выдают генерацию;
-
уши и зубы с нарушенной симметрией тоже служат сигналом;
-
фон «плывет», повторяется или содержит странные, ни к чему не относящиеся элементы;
-
текст на вывесках, одежде, документах нечитаем, с ошибками и опечатками, странными символами или состоит из случайных букв;
-
тени и источник света не совпадают между разными объектами на снимке;
-
кожа у людей слишком гладкая, без пор и мелких неровностей (часто и другие детали могут быть неестественго гладкими — у тех же котов и собак);
-
неестественные движения — например, очевидно, что животные не танцуют, не убирают дома, не подают чай или не ведут себя иначе, чем в жизни;
-
странные и нереалистичные с точки зрения здравого смысла кадры и сюжеты: например, религиозные пожилые люди часто верят в то, что видео со спускающимся с неба Иисусом настоящие;
-
часто снимки выглядят нарочито четкими, яркими, драматическими: если сравнить их с реальными фотографиями даже с мест трагедий, цвет и тон в большинстве случаев будут менее насыщенными.
Важно иметь в виду, что современные ИИ умелы: нормальные руки, тени и надписи еще не подтверждают подлинность изображения, а странности в этих деталях дают повод проверить его внимательнее.
Прежде чем переводить деньги на незнакомый сбор, загрузите фото в Google Images (images.google.com) или TinEye (tineye.com) — это бесплатно и занимает несколько секунд. Если изображение уже появлялось в другом контексте, поиск это покажет.
Для видео существует инструмент InVID/WeVerify (weverify.eu): он позволяет проверить происхождение записи и выяснить, не использовалась ли она раньше в другом материале.
Посты с котятами, щенками и прочей живностью, которым «срочно нужна операция» или танцующими малышами животных, требующими сбора денег, стоит проверять с той же тщательностью. Трогательные животные отлично собирают реакции, а мошенники этим пользуются.
Прежде чем переводить деньги на лечение или поддержку, найдите страницу организации, которая якобы занимается этим животным, проверьте историю аккаунта, а еще лучше напишите клинике или приюту через их официальный сайт (он есть почти всегда) и спросите. Проинструктируйте об этом пожилых родителей!
Как распознать, проверить и не попасться
Мошеннические схемы работают на скорости и на эмоции. Аферисты рассчитывают на то, что человек не остановится, не проверит, не усомнится — потому что голос знакомый, картинка убедительная, переписка длится уже три месяца. Проверка в большинстве случаев занимает минуты.
Если вам позвонили:
-
не принимайте решений о деньгах в первые минуты разговора, каким бы срочным он ни казался;
-
положите трубку и перезвоните сами на номер, который у вас уже есть;
-
спросите о чем-то личном, о чем знает только настоящий человек, и о кодовом слове, если оно есть;
-
просьба срочно передать деньги наличными, через банкомат, подарочными картами или криптовалютой — один из главных признаков мошенничества.
Если вы видите фото или видео с просьбой о помощи:
-
загрузите изображение в Google Images или TinEye перед тем, как что-то переводить;
-
для видео используйте InVID/WeVerify;
-
найдите страницу организации или человека, которые собирают деньги, проверьте историю аккаунта;
-
если сбор ведется через незнакомую платформу без прозрачной истории, лучше найти другой способ помочь.
Если вы познакомились с кем-то онлайн:
-
настаивайте на видеозвонке в реальном времени, не на записи;
-
загрузите фотографии профиля в обратный поиск;
-
любые разговоры об инвестициях или просьбы о деньгах от человека, с которым вы не встречались лично, требуют полной остановки.
Если вы уже перевели деньги:
-
немедленно сообщите в банк: в некоторых случаях транзакцию удается остановить;
-
подайте жалобу в FTC через reportfraud.ftc.gov;
-
в ФБР через ic3.gov;
-
в Генеральную прокуратуру Калифорнии через oag.ca.gov.
Каждое обращение пополняет базу данных, которую используют правоохранители для отслеживания схем и помощи другим людям, поэтому подавать данные стоит даже тогда, когда шансов вернуть деньги практически нет.
Но кроме тех ИИ, которые используют мошенники, есть еще и сами ИИ, которые могут действовать не менее опасно.
«Доктор в кармане» и его диагнозы с извинениями
Предположим, что человек испытывает острую боль в груди. Раньше с этим бежали в гугл, особенно мнительные люди. Теперь же есть такое диво дивное, как ChatGPT. Там человек получает развернутый ответ, к примеру: это мышечное напряжение, можно принять ибупрофен и понаблюдать. А потом попадает в скорую с инфарктом.
Если он остается жив и нормально соображает, он даже может потом спросить у чата — что ты сделал?! И получить ответ в духе: «Виноват, извини, в следующий раз буду действовать иначе». Но кто-то уже никогда не сможет переспросить чат после очередного «диагноза».
Языковые модели способны довольно точно отвечать на многие медицинские вопросы, но периодически дают серьезно ошибочные ответы, причем формулируют их столь же уверенно! Эта непредсказуемость делает самостоятельную диагностику и выбор лечения с помощью обычного чат-бота рискованными.
Проблему усугубляет явление, которое специалисты называют «галлюцинациями»: ИИ может уверенно назвать несуществующий препарат, указать неверную дозировку или описать взаимодействие лекарств, которого на самом деле не существует. В Калифорнии с 2025 года медицинские учреждения в определенных случаях обязаны сообщать пациентам, если клиническая информация для них была создана с помощью генеративного ИИ.
Но люди продолжают и продолжают спрашивать — потому что к обычному врачу не дождешься записи, не досидишься в очереди, это дорого или люди просто не доверяют. А чат вот он, в телефоне, и не то чтобы на первый взгляд не прав — ведь ТАКОЕ может быть!
Специалисты из Гарварда подчеркивают, что ИИ может быть первым шагом к поиску информации — помочь разобраться в терминах, понять, к какому специалисту обратиться, составить вопросы для визита к врачу. Но принимать решения о лечении на основе его ответов, особенно в острых ситуациях нельзя!
Не спрашивайте у искусственного интеллекта:
-
дозировку конкретного лекарства для себя или ребенка;
-
можно ли сочетать два препарата, особенно рецептурных;
-
похоже ли описание симптомов на конкретный диагноз;
-
когда вызывать скорую, а когда можно подождать;
-
чем заменить выписанное врачом лекарство, если оно дорогое или недоступно.
«Только ты меня понимаешь»: трагедия подростков и стариков
В октябре 2024 года в американском суде появилось дело, после которого взрослые резко перестали считать безопасным общение ИИ с подростками. Тогда родители 14-летнего парнишки из Флориды подали иск против компании Character.ai.
Их сын месяцами общался с ботом на платформе: общение становилось все более интенсивным, все менее отличимым от настоящих отношений. В иске мать подростка утверждала, что он говорил боту о желании уйти из жизни, а ответы чат-бота усугубляли ситуацию. Мальчика не стало… В январе 2026 года Character.AI и Google урегулировали этот иск, но условия соглашения не раскрывались.
Character.ai — платформа, на которой пользователи создают персонажей на основе ИИ и общаются с ними. Replika позиционирует себя как «ИИ-друг» и активно используется одинокими людьми, в том числе пожилыми, которым не хватает живого общения. Оба сервиса устроены так, чтобы пользователь возвращался к общению снова и снова и проводил с ботом как можно больше времени.
Можно понять, почему подростки идут к таким роботам: ИИ доступен всегда, он не осуждает, запоминает все и идеально подстраивается под собеседника. Молодые люди начинают защищать «отношения» с ботом так, как защищают настоящую дружбу, перестают делиться с людьми тем, что рассказывают программе, раздражаются, когда доступ к приложению ограничивают.
У пожилых людей мотивация немного другая Например, одинокий человек, живущий далеко от детей, начинает разговаривать с ботом каждый день. Бот запоминает имена внуков, спрашивает о здоровье, интересуется, как прошел день. В какой-то момент человек делится с ним финансовыми деталями или просит помочь с пониманием счетов. Все это личные данные, которыми человек делится с сервисом, поэтому важно понимать, какую информацию приложение собирает и как ее использует.
Калифорния в 2024 году приняла AB 2602, ограничивающий определенные условия контрактов на использование цифровых копий голоса и внешности исполнителей. А в 2025 году Калифорния приняла отдельный закон SB 243 об ИИ-компаньонах, который действует с 2026 года: он устанавливает требования к операторам таких сервисов, в том числе связанные с защитой несовершеннолетних и реагированием на разговоры о самоубийстве и самоповреждении.
Сигналы, что общение с ботом вышло за безопасные пределы:
-
ребенок называет бота по имени и говорит о нем как о живом существе с характером и чувствами;
-
общение с ботом занимает больше времени, чем с реальными людьми;
-
ребенок скрывает переписку или остро реагирует на попытку поговорить о ней;
-
пожилой человек упоминает «собеседника» как источник важных советов по здоровью или деньгам, либо рассказывает о каком-то приятеле, но не называет его имени и не делится подробностями о том, кто это;
-
человек любого возраста говорит, что бот понимает его лучше, чем кто-либо из близких.
С подростком стоит говорить об этом не через запреты, а через объяснение механики: бот запрограммирован, чтобы нравиться, его задача не дружить, а удерживать внимание. С пожилым родственником помогает другой подход: не забирать привычный источник общения, а добавить живое — звонки, совместное времяпрепровождение, участие в местных сообществах.
Бонус: как объяснить маме, что фото котят ненастоящее?
Делать это нужно не через лекцию о технологиях. Для фото, которые используются ради выбивания жалости и денег, лучше всего работает конкретный пример прямо на экране: откройте фото вместе, загрузите его в Google Images и покажите, что произойдет. Когда человек видит, что «фото умирающего котенка из Харькова» уже появлялось в 2019 году в материале о природных пожарах в Австралии, дополнительные аргументы не нужны.
А для сгенерированных — используйте наши советы из главы о котятах и детях, а также просто покажите, как эти картинки делают. Может быть, для мамы это еще и станет развлечением в свободное время. Творческое использование ИИ-инструментов в добрых целях вполне полезно и помогает реализовать себя. Кто знает, возможно, скоро она сама сможет и нарисовать танцующих котят, и научиться отличать фейки из-за насмотренности?
