Как искусственный интеллект меняет работу с визуалом и почему наши методы проверки информации должны развиваться так же быстро, как технологии? Об этом в колонке для thefix.media рассказывает итальянский журналист Альберто Пулиафито. С разрешения платформы мы публикуем перевод текста. А вы можете подписаться на еженедельную рассылку the Fix на английском языке, чтобы следить за возможностями европейского медиарынка.
Иллюстрация, авторство которой приписывают американскому художнику Дэвиду Сутеру, очень хорошо объясняет концепцию «обрамления».
Мы видим на картинке, как мужчина убегает от вооружённого преследователя. Оператор фиксирует эту сцену, но жёсткое кадрирование показывает лишь один её фрагмент без контекста. Поэтому в видоискателе жертва и агрессор меняются местами.
Непонятно, есть ли у этой сцены режиссёр, который управляет фокусом съемки. Мы не знаем, кто в кадре: актёры или случайные прохожие. Неизвестно вообще ничего кроме факта: технология не просто влияет на реальность, а обрамляет и даже изменяет её.
Какая связь между этим рисунком и медиа?
Мы так или иначе меняем новость, пока рассказываем её аудитории, – как минимум потому, что выбираем, что сказать, а что опустить. Злого умысла здесь может не быть, но какие-то моменты попадают в «видоискатель», а какие-то остаются за кадром – поскольку не вписываются в контекст истории или не совпадают с нашей точкой зрения.
Простой, но эффектный образ, приведённый в начале текста, – предупреждение и напоминание журналистам всего мира. Фото или видео, попавшее в распоряжение редакции, не может служить источником информации. Никогда. Как минимум, до тех пор, пока не доказана правдивость и точность контента. Это аксиома, которая появилась ещё до генеративных инструментов ИИ – и не утратила актуальности по сей день.
Фальшивки всюду. Изучаем технологию фейков и её историю
Проверка подлинности фотографии или видео обязательна: важно убедиться, что изображение не подделано и не искажено. Также стоит уточнять даже очевидные вещи. Например, точно ли на снимке интересующий нас человек, а не двойник? Действительно ли существует указанная в геотеге локация? Перекрёстный анализ источника изображения, даты и местоположения – это часть глубинной проверки.
Начиная с 1800 года, художники и фотографы вручную раскрашивали или ретушировали снимки; часто для того, чтобы улучшить внешний вид объекта или удалить нежелательные элементы.
В XIX веке появились новые техники: мультиэкспозиция и комбинированная печать. Многократное экспонирование фотопластин или объединение нескольких негативов во время печати позволяло создавать составные изображения.
Не забудем об аэрографии – технике, с использованием небольшого инструмента с воздушным приводом для распыления краски, чернил или красителя на поверхность (холст, бумага, фотография). Аэрограф смешивает пигмент или краситель со сжатым воздухом, после чего мелкодисперсную жидкость можно наносить с высокой степенью точности. Аэрография позволила художникам изменять, ретушировать или корректировать внешний вид изображений.
Начиная с 1900-х годов техники типа осветления, затемнения и маскировки подарили фотографам инструмент для манипулирования экспозицией и контрастом. Затем появился монтаж – и профессионалы стали штамповать составные изображения, используя части нескольких снимков или фото целиком.
С начала века мы вступили в эпоху цифровых фото и видео. Программы вроде Adobe Photoshop максимально упростили процесс редактирования. Возникло множество дополнительных техник: цветокоррекция, выравнивание, заливка.
Горизонт невиданных прежде возможностей раскинулся и перед кинематографистами. Цифровое ПО позволяло добавлять различные визуальные эффекты и анимированную графику. Причём со съёмкой на «зелёнке» легко управлялся даже человек с базовыми технологическими знаниями.
Когда же наступили 2010-е, в наши жизни ворвались дипфейк-технологии и генеративно-состязательные сети (GANs). С дипфейками всё просто: алгоритмы машинного обучения поставили на поток генерацию гиперреалистичных фото и видео. Они фабрикуются при наложении лица одного человека на тело другого и совершенствуются за счёт глубокого синтеза.
А вот генеративные состязательные сети работают хитрее, поскольку обучают две нейронные сети соревноваться друг с другом при производстве визуального контента. На выходе продукт получается более реалистичным и качественным, хотя для его производства многим программам – той же Midjourney, например – не нужны фото или видео, достаточно текстовых вводных.
Да что там, даже Bing вполне сгодится для опытов с визуальными «обманками» – достаточно лишь перевести его ИИ (к слову, далёкий от совершенства) в творческий режим! Ставим Bing задачу: «Создай изображение гиперреалистичной лошади, которая скачет по заброшенному современному городу». Итог – четыре слайда, которые можно изменять снова и снова с помощью сети.
Источник – thefix.media.
Правда, «нейронка» живёт по собственным законам: например, она может добавить на картину всадника, который в задаче не фигурировал. А вот Midjourney, для сравнения, куда больше преуспела в создании гиперреалистичных фото. Настолько, что её контент трудно отличить от настоящих снимков: «фэйк» очевиден, только если изначально знать, куда смотреть и на какие детали обращать внимание.
Впрочем, это лишь вопрос времени. Скоро, очень скоро разницу между реальным и искусственным контентом определить на глаз будет нереально.
Фальшивые изображения Трампа только начало большой беды
В марте 2023 года Эллиот Хиггинс, основатель проекта журналистских расследований Bellingcat, создал серию фальшивых фото. Используя генеративную программу искусственного интеллекта Midjourney, он «арестовал» Дональда Трампа. После чего запостил целый тред на эту тему в Twitter. Чуть раньше ту же манипуляцию Хиггинс проделал, отправив в «заключение» Владимира Путина.
Эти изображения попали на главные страницы газет: кто-то, как Washington Post, опубликовал изображение смартфона с твитом Хиггинса. Другие, как la Repubblica, иллюстрировали поддельными снимками статьи.
И вот в чём парадокс. Хиггинс не скрывал шутливую суть контента. Тогда как некоторые из снимков вовсе не реалистичны, если посмотреть внимательно. Но, как и следовало ожидать, изображения разошлись по миру безо всякого контекста.
Хиггинс утверждал: вброс, им совершённый, спровоцирует воспитательный эффект. Мол, аудитория подумает дважды, прежде чем делиться фотографией. Но я с таким посылом не соглашусь. Мы как журналисты не имеем права так обращаться с фальшивыми изображениями – даже если это шутка.
Очевидно, случай с Трампом – только начало большой беды. Изображение Папы Римского в одежде от Balenciaga завирусилось по миру буквально за час. Социальные сети уже пестрят гиперреалистичными фото из вымышленных вселенных – например, селфи из времён Ветхого Завета. Плодятся фейки в различных областях нынешних реалий: так, набрал популярность тред в Twitter, посвященный «Великой Каскадии» – воображаемому землетрясению силой 9,1 балла и последовавшему за ним цунами в 2001 году…
Источник – thefix.media.
Проще говоря, фотографии и видео окончательно теряют документальную ценность. Соответственно, прежде чем их публиковать, следует получить неопровержимые доказательства подлинности. А заодно готовить себя к ещё более ужасным провокациям – скажем, гиперреалистичным и правдоподобным видео прямых трансляций.
Так если надумаете делиться каким-то интересным визуалом в соцсетях, пожалуйста, делайте это с осторожностью!
Перевод и адаптация текста – Сергей Скичко.
