Снегопад на Камчатке, созданный искусственным интеллектом, символизирует нечто тревожное: мы больше не можем доверять никаким изображениям в Интернете
В 2012 году ураган «Сэнди» обрушился на Карибское море и достиг побережья Нью-Йорка. Там остались наводнения, перебои с электроснабжением и впечатляющие фотографии. Из всех них была особенно потрясающая, которая стала вирусной, но была одна проблема: она была поддельной. Он был не единственным, кто проник в сети.
Это изображение было лишь еще одним примером того, что мы видели до и после: великие явления и события в конечном итоге порождают потоки контента, некоторые из которых нереальны.
Есть много причин, по которым люди используют это время для распространения поддельных изображений, но, по крайней мере, раньше получение достоверных изображений и видео было дорогостоящим. Только опытные пользователи таких приложений, как Photoshop или Final Cut/Premiere, могли добиться убедительных результатов, но ИИ, как мы знаем, изменил все это.
Мы уже давно предупреждаем об этой проблеме: различать реальное и созданное искусственным интеллектом становится все труднее. и в наши дни мы стали последним ярким примером этой тенденции.
Анатомия дипфейка
На полуострове Камчатка, на крайнем востоке России, выпал исторический снежный покров. По данным Синьхуа, это худший показатель за последние десятилетия, когда уровень снега в различных районах превышает два метра.
Петропавловск-Камчатский, административный, промышленный и научный центр Камчатского края, особенно сильно пострадал от этих последствий, и жители региона распространили в сети изображения того, что уже окрестили «снежным апокалипсисом». Те изображения, которые были распространены в новостных и социальных сетях и которые были реальными — часто более «приземленными» и гораздо менее впечатляющими — контрастируют с другими, которые теоретически также отображали состояние различных точек в регионе, но на самом деле созданы с помощью искусственного интеллекта.
Этим видео, например, несколько дней назад поделился Линус Экенстам, влиятельный человек, который часто делится новостями и мыслями об искусственном интеллекте. Он публиковал это видео и утверждал, что оно было реальным, но вскоре несколько пользователей указали, что на самом деле видео было создано искусственным интеллектом.
Экенштам утверждал, что теоретическая ошибка ИИ, на которую он указал пользователю, не была таковой, и что там, где он живет, есть столбы возле уличных фонарей. Поэтому он пытался доказать, что для него видео было реальным, но другие указывали, что это не так. Окончательное доказательство: пользователь дал ссылку на предполагаемое оригинальное видео, которое, по-видимому, было создано в аккаунте TikTok, предназначенном именно для распространения контента, созданного искусственным интеллектом, который кажется реальным.
Главное в этом фальшивом видео — то, что оно впечатляющее, но не чрезмерно впечатляющее. Это в некоторой степени правдоподобно, и когда изображение и собственное движение камеры настолько убедительны, трудно поверить, что «возможно, это создано искусственным интеллектом».
С этим снежным штормом, пережитым на Камчатке, в сетях были опубликованы необычные изображения, гораздо более типичные для голливудского антиутопического фильма, чем для реального природного явления. Априори изображения могут быть даже связными, но при более внимательном — и, прежде всего, более критическом — рассмотрении нам будет легче понять, что, возможно, эти изображения не так реальны, как кажутся.
Фактически, самые яркие изображения, которыми делятся в социальных сетях и которые, например, собирают тысячи ретвитов и X-лайков, контрастируют с изображениями, опубликованными в традиционных СМИ, которые, как мы уже говорили, гораздо менее яркие и более приземленные.
Некоторые СМИ, такие как OndaCero или OKDiario, опубликовали в своих цифровых СМИ или в своих аккаунтах в социальных сетях некоторые изображения и видео, созданные искусственным интеллектом, не осознавая, что на самом деле эти видео возникли из вышеупомянутого аккаунта в TikTok, которому удалось распространить их как лесной пожар.
Дискуссии о возможности того, что определенные изображения могут быть реальными, были частыми, например, на Reddit, где пользователи, например, делились потрясающим снимком, который при детальном анализе выглядел так, как будто он был создан искусственным интеллектом.
Поток «гражданской журналистики», который может быть благонамеренным и временами очень важным, контрастирует здесь с ролью СМИ, которые несут огромную ответственность. выступать в качестве надежных источников информации.
Даже они (и мы) могут попасть в ловушку, и здесь еще раз лучше всего начать опасаться того, что мы видим на наших экранах, потому что это может быть поддельный контент. Видео, появляющиеся в некоторых СМИ, таких как Sky News или на переднем крае, сочетаются с другими, которые (по крайней мере, априори) кажутся реальными, но которые на данный момент также требуют тщательного изучения.
Наш мозг предает нас, и технологии это знают
Существует несколько хорошо изученных психологических феноменов и когнитивных искажений, которые объясняют, почему в прошлом мы верили фейковым новостям, а теперь то же самое происходит и с фейками.
Неважно, знаем ли мы (или, по крайней мере, подозреваем) рационально, что эти изображения и видео являются поддельными: технологии и, прежде всего, искусственный интеллект именно используют эти предубеждения. Среди них следует отметить следующие:
- Предвзятость подтверждения: мы верим в то, что соответствует тому, во что мы уже верим. Наш мозг ищет не столько правду, сколько внутреннюю последовательность, поэтому, если новость усиливает нашу идеологию, мы снижаем уровень потенциальной критики, но если она противоречит, мы анализируем ее с помощью лупы или сразу отбрасываем. Проблема здесь в том, что ИИ может создавать контент, созданный на заказ и адаптированный к каждому повествованию.
- Эффект иллюзорной правды: здесь случается, что «если я видел это много раз, это будет правдой». Повторение усиливает ощущение правдивости, а не реальной правдивости, и это то, чем, например, в полной мере пользуются социальные сети, машины для повторения булл. Опять же, искусственный интеллект облегчает массовое производство одной и той же лжи с минимальными вариациями.
- Мы верим тому, что видим: это то, что некоторые называют перцептивным реализмом. Мы слишком полагаемся на визуальные эффекты, и отсюда знаменитая поговорка «картинка стоит тысячи слов». Изображения обрабатываются намного быстрее, чем внешние, а критическое мышление приходит после эмоциональной реакции, как хорошо утверждал Дэниел Канхеман в своей знаменитой книге «Думай быстро, думай медленно».
- Когнитивная нагрузка: в связи с вышесказанным критическое мышление утомляет, и это заставляет нас, когда мы устали, отвлечены или в спешке, использовать мысленные ярлыки. Знаменитый и вызывающий беспокойство doomscrolling очень хорошо использует эту уловку, и как фейковые новости, так и глубокие фейки созданы так, чтобы в них было легко поверить, а не анализировать.
Конечно, это еще не все. Искусственный интеллект уже генерирует убедительные результаты, но, кроме того, — особенно в текстовом виде — его безопасность при их передаче и выражении вызывает предвзятость власти. Как будто это кажется более надежным, чем если бы это сказал нам эксперт-человек, которому, несмотря ни на что, не так легко умело поделиться своими знаниями.
Контент, созданный с помощью искусственного интеллекта, также использует преимущества тех великих явлений и событий, которые максимизируют эмоциональное воздействие, и, кроме того, есть тот факт, что когда многие люди делятся этим, это потому, что «это должно быть правдой» и потому что мы часто верим, что в эти мистификации попадают другие, а не мы.
Редактор: AndreyEx
