Современная война начнется с фейковых роликов и звонков

Стоимость обмана критически снизилась, а стоимость проверки растёт с каждым днем

Ночью звонит телефон. На экране высветилось — мама. Голос родной, с привычной интонацией тревоги: случилась беда, нужно срочно помочь, понадобится крупная сумма, лучше перевести прямо сейчас. Вы вскакиваете, сердце в горле, мозг в полусне ищет решение. Утром же выясняется: звонил не близкий человек. Звонила технология. С сегодняшними инструментами такой сценарий уже не фантастика.

Второй сюжет: политик, которому вы доверяете, появляется в прямом эфире популярного интернет-канала и неожиданно отвергает прежние убеждения. Вчера говорил о защите природы, сегодня легко жертвует экологией. Вчера был за твёрдость перед врагом, а сегодня туманно призывает сложить оружие. Кадр снят качественно, мимика естественная, голос узнаваем. Но что, если это тщательно срежиссированная имитация, цель которой поколебать ваш внутренний компас? Не просто посеять сомнение, а разорвать ткань доверия, на которой держится общество.

Образ врага в XXI веке — не только человек с оружием. Это сценарист и режиссер. В одном из нашумевших азиатских сериалов был показан антикризисный сценарий про попытку захвата Тайбэя. Первая волна атаки — не танки и не десант, а медиаудар. Фейковые ролики с «обращением» лидеров, противоречащие друг другу, создают туман войны. Параллельно идут звонки и сообщения от «сыновей» и «отцов» с просьбой срочно перевести деньги, разбивая внимание и ресурсы. Несколько часов хаоса — и важные люди принимают решения в режиме паники.

Добавлю третий, самый болезненный сценарий. Сегодня любой порноролик можно «пересобрать», приклеив к телам чужие лица и добившись пугающей естественности. Или сгенерировать ваш голос так, что даже близкие не отличат подмену. Представьте: утром вам пишет знакомый, коллега или родственник с вопросом, почему вы произнесли в эфире призывы к религиозной или национальной вражде. Или присылают ссылку на видео с вашим лицом в унизительном контексте. Вы ничего такого не делали, но уже опоздали на полшага — эмоции окружающих обогнали факты. Раньше компромат искали, теперь его производят. Мишенью может стать любой из нас.

Почему я поднимаю этот вопрос здесь и сейчас? Искусственные интеллект дал дешёвый и массовый инструментарий имитации, который убирает прежние барьеры. Стоимость обмана критически снизилась, а стоимость проверки растёт с каждым днем. Уже близок тот день, когда мы будем видеть лица и слышать голоса, но не будет уверенности, кто на самом деле перед нами.

Почему? Социальные сети уже наводнили «синтетические ролики», в которых животные ведут себя как люди, младенцы читают лекции, а давно ушедшие актёры вдруг записывают новые обращения. Мы улыбаемся и пролистываем дальше, но вместе со смехом стирается граница между игрой и подлогом. Смех становится тренировкой привыкания. То, что сегодня было фокусом, завтра ощущается нормой.

Проблема не в шутках, а в лёгкости переноса их языка в серьёзные контексты — политику, деньги, репутацию. Алгоритмы поощряют крайнее правдоподобие, потому что оно удерживает внимание и приносит выручку. Каждая безобидная «говорящая кошка» по миллиметру расшатывает наши фильтры доверия. Мы не обязаны перестать смеяться. Но и терять доверие мы не обязаны.

Когда казалось, что цифровой мир всё измерит и проверит, многие решили: институты доверия и репутации потеряют вес: “Всё же протоколируется, ключи подтверждаются, логи не врут”. Появление ИИ вернуло эти темы на самый верх. Теперь любой сигнал может быть синтетическим, любая биография — сшита из чужих следов. И как только подделка подешевела, доверие снова стало самым дорогим активом.

Доверие не живёт в коде — оно рождается в человеческих отношениях. И в нынешних условиях его еще сложнее строить. Реального общения меньше: мессенджеры, соцсети и ленты новостей образуют закрытые пузыри. Навыки живой речи, публичных выступлений, аргументации деградируют — и у политиков, и у нас с вами. На этом фоне ценность офлайн-коммуникации растёт в разы: поймать взгляд, услышать ноту в голосе, понять или прочувствовать ключевые паузы, осознать ответственность за слово.

В “больших сделках” это я уже вижу ежедневно. Если на кону миллиарды или власть, люди предпочитают личную встречу, хотят убедиться, что перед ними — то самое лицо принимающее решение, что риски разделены и ответственность персональна. Богатым проверять проще — перелёты, сопровождение, независимые проверки для них это не роскошь. А вот для людей и организаций с меньшими ресурсами цена такой проверки бьёт сильнее.

Если будет расти стоимость доверия, пострадают именно уязвимые. Значит, задача — сделать проверку дешёвой по умолчанию и не превращать жизнь в тотальный паспорт-контроль. Ответ очевиден: удешевить проверку должно стать стандартом по умолчанию. Не показ номера, а доказательство происхождения звонка на уровне протоколов связи. Не красивая аватарка, а проверяемые атрибуты роли: кто вправе говорить от лица банка, университета, компании. Не бесконечные «согласия с условиями», а интерфейсы, которые поощряют паузу и второй канал проверки.

И тут важно обратиться к депутатам и властям! Задумайтесь об ответственности денежных платформ — если на сервисе легко клонировать личности и выманивать деньги, то часть убытков должна возвращаться к тому, кто на этом зарабатывает. При этом нужно сохранить право на легальную анонимность там, где это защищает уязвимых и свободу обсуждения.

НО! Технологии без культуры не спасут. Нужны простые бытовые ритуалы безопасности: не переводить деньги по входящему звонку, перезванивать по своему сохранённому контакту, подтверждать критичные решения по второму каналу, договариваться в семье о код-слове на случай тревожных сообщений. В организациях — важно фиксировать норму «беру 20-30 минут на проверку и возвращаюсь с ответом», чтобы пауза не считалась слабостью.

Университеты должны идти первыми. В базовую грамотность пора включить не только цифровую гигиену, но и практики решений под давлением: отличать срочность от важности, не путать правдоподобное с истинным, уметь держать паузу перед действием. Репутация снова становится долгой игрой — суммой последовательных, проверяемых поступков, а не эффектных роликов.

Государство задаёт нижний уровень доверия там, где ставки максимальны — финансы, критические сервисы, безопасность. Рынок и профессиональные сообщества обеспечивают конкуренцию удостоверяющих центров и удешевление проверок. Платформы отвечают за дизайн, который снижает вероятность обмана, а не раздувает её ради метрик удержания.

Вернусь к вопросу смеха и шуток в социальных сетях. Мы не обязаны перестать смеяться. Мы обязаны перестать верить на слово экрану. Доверие не автоматизируется — его придётся выращивать. Так мы шаг за шагом возвращаем себе устойчивость в эпоху дорогих иллюзий и дешёвых подделок. Это не та победа, о которой снимают героическое кино. Но именно из таких тихих побед складывается фундамент современного общества.

Учитесь думать, критически мыслить, сомневаться. Качайте главную мышцу.

Источник: страница Нуркена Халыкбергена в Facebook. Публикуется с разрешения автора.

ДЕЛИТЕСЬ СВОИМ МНЕНИЕМ И ОБСУЖДАЙТЕ СТАТЬЮ НА НАШЕМ КАНАЛЕ В TELEGRAM!