Век машин. Определяем нейросетевые фейки с первой (почти) попытки

Сегодня многие могут примерить на себя роль блогера, отдавая текстовый контент на откуп языковым моделям. Как поймать такого деятеля и справедливо осудить за нейротексты? У нас есть несколько советов.

Осторожно: сугубо авторский текст!

Тексты

1. Проводите фактчекинг

Языковые модели взяли из человеческой речи главное — они фантазируют! Выдуманные или искаженные факты, так называемые «галлюцинации» ИИ будут первой уликой в нашем деле. Чат-бот не краснеет, уверенно выдавая «левые» даты и события, не имеющие отношения к реальности. Стоит пару раз пробить такие эпизоды в авторитетных источниках — и всё: жулик взят с поличным.

2. Обращайте внимание на клише

Это несложно: весь мусор в духе повсеместно используемых «безусловно», «важно понимать» и прочих «следует отметить», после которых ничего важного не следует — есть маркер нейросетевого произведения. Умножьте их на два, вставьте «можно считать», приложите ещё дешевых, ничего не значащих фразочек, добавьте воды, кипятите до готовности. В этом ИИ-автор похож на бедолагу-студента, набивающего нужное число слов в своей слабой работе.

3. Отмечайте стерильность

В чем нейросети переплюнули своих мясных оппонентов, так это в умении гладко стелить: идеально выверенные, четко структурированные предложения без намёка на стиль обязаны вызвать ваши подозрения.

4. Ищите пробелы в терминологии

Большие языковые модели перелопатили огромное количество литературы, чтобы стать теми, кто они есть. Но узкоспециализированные термины могли попросту не оказаться в этих массивах и тут могут подставить своего кожаного мешка: бойтесь доверять узкие области ИИ-братьям, и глумитесь над теми, кто таким образом уже подставился!

5. Идентифицируйте автора

Что это за криейтор-креатор? Какие ещё тексты у него в загашнике? Сколько он таких штампует в неделю? Участвует ли в обсуждениях? Давно ли на слуху? Много ли откликов?

6. Пользуйтесь ИИ-детекторами

Кто, если не Электроник, лучше всех рассекретит машину? Не нужно спрашивать у ясеня, спросите у сервисов, которые это умеют. Таких много — они отыщут узкие пробелы, невидимые символы и прочие паттерны, которые не позволят сойти подделке за произведённое человеком.

Картинки

1. Найдите в интернете

Как правило, с помощью поиска по картинке можно выяснить, где и когда выкладывали изображение. Не можете найти оригинал — значит, этот Ленин на велоцирапторе всё же сгенерирован. Бывает, вы не можете найти источник, потому что оригинал был выложен на ограниченную аудиторию в соцсетях. Как правило, такая картинка не будет подаваться как сенсация и не заставит вас задуматься, ИИ-продукт ли это.

2. Воспользуйтесь лупой

Снова галлюцинации. ХудожнИИк порой тоже от слова «худо» и косячит в деталях не по-детски: шесть пальцев, косоглазие, очаги резкости на краях, странные контуры, повторяющиеся объекты.

1. Вооружитесь нейродетектором

Есть такой и на картинки. Скормите ему подозрительное изображение и можете насладиться своей прозорливостью.

2. Ищите подвох в метаданных

Скачайте фото, кликните по ней правой кнопкой мыши — «Свойства». Как правило, там окажется информация о камере, дате и месте создания снимка. Можно пробить такую картинку по специализированным сервисам. Или обратиться к другим уликам.

3. Проверьте источник

Если изображение снабдили подписью с информацией об авторе (имя, площадка для фото, ник автора), его можно попробовать отыскать в интернете. Наша задача понять, существует ли такой человек, какие работы у него ещё есть и т. п.

Видео и аудио

1. Смотрите на интонации и паузы

Роботы пока ещё не очень хороши в передаче естественной речи, они могут перегибать с паузами, путать ударения, неестественно сращивать предлоги. Как правило, речь синтезаторов слишком монотонна и однообразна.

2. Обратите внимание на мимику и телодвижения

Ну не всегда нейроактёр попадает в речь. Порой движения его рта зациклены, иногда слишком вялые и не сочетаются с бодрыми интонациями. Активно двигаться человек в фейковом видео тоже не захочет: движения будут минимальные, наверняка неестественные, недостаточно проработанные. Ещё одним фактором может быть фоновый шум. Товарищ Андроид, скорее всего, забьёт на звуки ветра, эхо, шум машин и другие признаки живого видео/аудио.

3. Опять детекторы!

Не все детекторы понимают руссиан лангуаге, но в остальном могут служить хорошим маркером синтезированности продукта.

Общая рекомендация

Ориентируйтесь на контекст и здравый смысл. Сегодня много контента существует, чтобы просто вас удивить или даже шокировать. Не стоит искать новости на сайте ИА «Панорама», верить поцелую Брежнева и… хотя, постойте.

В общем, хотите верьте, хотите не верьте. И да, меня написала нейросеть. Всё вокруг синтезировано, вас не существует. Успехов!

А если вы считаете, что вас не обманет ни один искусственный интеллект — проверьте себя с помощью нашего теста! Кто победит, вы или ИИ?

+1