Это поддельная фотография сгенерированная искусственным интеллектом (AI) приложения Midjourney. Для создания поддельных фотографий и дипфейковых видео больше не требуются специальные навыки и оборудование. Очень подробные, сенсационные фейк-изображения заполонили Твиттер и другие социальные платформы в последние дни на фоне новостей о том, что Дональду Трампу могут быть предъявлены уголовные обвинения.
Эксперты по дезинформации предупреждают, что эти изображения являются предвестниками новой реальности: волны фальшивых фотографий и видеороликов наводняют социальные сети после крупных новостных событий и еще больше смешивают факты и вымысел в критические для общества моменты.
Хотя возможность манипулировать фотографиями и создавать поддельные изображения не нова, инструменты генерации изображений AI от Midjourney, DALL-E и других проще в использовании. Они могут быстро создавать реалистичные изображения с детализированным фоном в массовом масштабе с помощью простой текстовой подсказки от пользователей.
Инструменты ИИ могут помочь нам создавать контент, узнавать о мире и (возможно) избавить нас от более рутинных задач в жизни — но они не идеальны. Доказано, что они способны галлюцинировать информацию, использовать чужие работы без согласия и встраивать социальные условности, включая извинения, чтобы завоевать доверие пользователей.
Например, некоторые чат-боты ИИ, такие как боты-«компаньоны», часто разрабатываются с целью вызвать сочувствие. Это делает их особенно правдоподобными. Несмотря на наше благоговение и удивление, мы должны критически относиться к этим инструментам — или рисковать быть введенными в заблуждение.
Сэм Альтман, генеральный директор OpenAI (компании, подарившей нам чатбота ChatGPT), заявил, что он «обеспокоен тем, что эти модели могут быть использованы для масштабной дезинформации». Как человек, изучающий, как люди используют технологии для получения информации, я тоже так считаю.
Дезинформация будет расти благодаря доступности приложений ИИ для всех
Инструменты машинного обучения используют алгоритмы для выполнения определенных задач. Они «учатся» по мере получения данных и соответствующим образом уточняют свои ответы. Например, Netflix использует ИИ для отслеживания понравившихся вам передач и предлагает другие для дальнейшего просмотра.
Хотя многие из нас изучают и развлекаются с новыми инструментами ИИ, эксперты подчеркивают, что эти инструменты хороши лишь настолько, насколько хороши их базовые данные, которые, как мы знаем, несовершенны, необъективны и иногда даже предназначены для обмана. Если раньше орфографические ошибки предупреждали нас о мошенничестве по электронной почте или лишние пальцы отмечали изображения, созданные ИИ, то теперь усовершенствования системы усложняют задачу отличить факт от вымысла.
Эти опасения усиливаются в связи с растущей интеграцией ИИ в приложения для повышения производительности. Microsoft, Google и Adobe объявили о внедрении инструментов ИИ в ряд своих сервисов, включая Google Docs, Gmail, Word, PowerPoint, Excel, Photoshop и Illustrator.
Проверка фактов и источников — наша главная защита
Так как поддельные изображения сегодня все труднее отличить от настоящих, лучшим способом борьбы с визуальной дезинформацией является повышение осведомленности и просвещение пользователей, считают эксперты.
Эти советы помогут вам сориентироваться в информационном ландшафте, насыщенном искусственным интеллектом.
1. Задавайте вопросы и проверяйте информацию в независимых источниках.
При использовании генератора текстов ИИ всегда проверяйте исходные материалы, упомянутые в выходных данных. Если источники существуют, спросите себя, насколько честно и точно они представлены, не были ли упущены важные детали.
2. Скептически относитесь к контенту, который попадается вам на глаза.
Если вам попалось изображение, которое, по вашему мнению, может быть сгенерировано искусственным интеллектом, подумайте, не кажется ли оно слишком «идеальным», чтобы быть реальным. Или, может быть, какая-то деталь не соответствует остальному изображению (это часто является сигналом к разгадке). Проанализируйте текстуры, детали, цвет, тени и, что очень важно, контекст. Обратный поиск изображений также может быть полезен для проверки источников.
Новые комментарии: