Насколько хорошо люди могут обнаружить ИИ?

По мере развития ИИ, изображения и текст, созданные с помощью ИИ, становятся все более неотличимыми от контента, созданного человеком. Будь то в виде реалистичных видео-обманов, искусства или сложных чат-ботов, эти творения часто оставляют людей в недоумении, могут ли они отличить реальность от того, что создано ИИ.

Изучаем, насколько точно люди могут обнаружить контент, созданный с помощью ИИ, и сравниваем эту точность с их восприятием своих способностей.

Человеческая способность обнаружить ИИ

Технология ИИ развивалась стремительно в последние годы, создавая визуальное искусство, статьи, музыку и генерируя очень реалистичные человеческие лица. С появлением инструментов seperti ChatGPT для генерации текста и DALL-E для создания изображений, контент ИИ стал частью повседневной жизни. То, что когда-то казалось явно машinelike, теперь часто неотличимо от работы человека.

По мере того, как контент ИИ становится более совершенным, растет и задача его обнаружения. Исследование 2023 года показывает, насколько трудно различать контент ИИ и человеческий контент. Исследователи обнаружили, что лица, сгенерированные ИИ, могут фактически выглядеть более человеческими, чем реальные лица, явление, известное как гиперреализм.

В исследовании участникам было предложено различать лица, созданные ИИ, и реальные человеческие лица. Удивительно, что те, кто хуже обнаруживал лица ИИ, были более уверены в своей способности их обнаружить. Этот чрезмерный оптимизм усилил их ошибки, поскольку участники последовательно неправильно определяли лица, сгенерированные ИИ, как более человеческие, особенно когда лица были белыми.

Исследование также показало, что лица ИИ часто воспринимались как более знакомые, пропорциональные и привлекательные, чем человеческие лица — атрибуты, которые повлияли на неправильную оценку участниками. Эти результаты подчеркивают, как контент ИИ может использовать определенные психологические предубеждения, делая более трудным для людей точно определить, что реально, а что искусственно создано.

В связанном исследовании, в котором приняли участие 100 участников из разных возрастных групп, результаты показали, что более молодые участники лучше определяли изображения, сгенерированные ИИ, в то время как более старшие люди испытывали больше трудностей. Интересно, что также была обнаружена положительная корреляция между уверенностью участников и точностью, хотя распространенные неправильные определения были связаны с тонкими артефактами, такими как неестественные детали в шерсти животных и человеческих руках.

Почему ИИ трудно обнаружить?

Существует несколько причин, почему людям трудно различать контент, созданный человеком, и контент, сгенерированный ИИ. Одна из причин заключается в растущей реалистичности ИИ, особенно в том, что известно как сильный и слабый ИИ.

Слабый ИИ относится к системам, предназначенным для выполнения конкретных задач — таких как генерация текста или изображений — и хотя они имитируют поведение человека, они не обладают истинным пониманием или сознанием. Примерами слабого ИИ являются чат-боты и генераторы изображений. С другой стороны, сильный ИИ представляет собой гипотетические системы, которые могут мыслить, учиться и адаптироваться как человек в широком спектре задач.

В настоящее время инструменты, с которыми большинство людей взаимодействуют ежедневно, попадают в категорию слабого ИИ. Однако их способность имитировать человеческую креативность и рассуждения продвинулась так далеко, что различать контент, созданный человеком, и контент, сгенерированный ИИ, становится все более трудным.

Инструменты, такие как модели GPT от OpenAI, были обучены на огромных наборах данных, что позволяет им генерировать естественный и связный язык. Аналогично, генераторы изображений были обучены на миллионах визуальных входных данных, что позволяет им создавать правдоподобные изображения, которые тесно имитируют реальность.

Кроме того, ИИ теперь может воспроизводить не только внешний вид, но и стиль и тон человеческих творений. Например, текст, написанный ИИ, может имитировать нюансы профессионального письма, принимая соответствующий тон, структуру и даже черты личности в зависимости от контекста. Эта адаптивность делает более трудным для людей полагаться на свою интуицию, чтобы определить, написал ли текст человек или машина.

Другой проблемой является отсутствие явных признаков. Хотя ранний контент, сгенерированный ИИ, часто был идентифицируемым по неуклюжей грамматике, странным артефактам изображений или слишком простым структурам, современный ИИ стал более умелым в устранении этих признаков. В результате даже люди, знакомые с технологией, находят трудным полагаться на предыдущие закономерности для обнаружения творений ИИ.

Кейсы: Люди, обнаруживающие контент, сгенерированный ИИ

Проблемы обнаружения контента, созданного ИИ, были подтверждены в нескольких исследованиях.

Учителя в одном исследовании правильно определили эссе, сгенерированные ИИ, только 37,8%-45,1% времени, в зависимости от их уровня опыта. Аналогично, участники в другом исследовании смогли определить контент, сгенерированный GPT-2 и GPT-3, только 58% и 50% времени, соответственно, демонстрируя ограничения человеческого суждения при различении ИИ и человеческой работы.

Дальнейшие исследования, проведенные Университетом штата Пенсильвания, показали, что участники смогли различать текст, сгенерированный ИИ, только 53% времени, едва лучше, чем случайное угадывание. Это подчеркивает, насколько сложно для людей обнаружить контент ИИ, даже когда им представлен бинарный выбор между человеческим и ИИ-написанным текстом.

В специализированных областях, таких как научные аннотации и заявления на медицинскую резиденцию, профессионалы с годами опыта правильно определили контент, сгенерированный ИИ, только 62% времени. Оценщики определили заявления на резиденцию, написанные ИИ, на уровне 65,9%, подчеркивая растущую сложность ИИ и проблемы, связанные с полаганием на человеческое восприятие для обнаружения.

Другое исследование показало, что люди неправильно определили GPT-4 как человека 54% времени, указывая на то, что даже продвинутые пользователи испытывали трудности с обнаружением. Инструкторы колледжа определили эссе, сгенерированные ИИ, правильно 70% времени, в то время как студенты сделали это на уровне 60%. Несмотря на эти более высокие показатели, значительная маржа ошибки остается, иллюстрируя сложности точного обнаружения контента ИИ в академии.

Факторы, влияющие на точность обнаружения ИИ

Несколько факторов влияют на то, насколько хорошо люди могут определить контент, сгенерированный ИИ. Одним из них является сложность контента, который анализируется. Короткие отрывки текста, сгенерированного ИИ, как правило, труднее обнаружить, поскольку для читателя есть меньше контекста, чтобы определить необычную фразу или структуру.

Напротив, более длинный текст может предоставить больше возможностей для читателя заметить несоответствия или закономерности, которые сигнализируют о участии ИИ. То же самое принцип применяется к изображениям — простые картинки могут быть более трудными для различения от реальных, в то время как высоко сложные сцены иногда могут раскрыть тонкие признаки генерации ИИ.

Наконец, тип модели ИИ, используемой для генерации, также может повлиять на точность обнаружения. Например, модель GPT-3 от OpenAI производит более убедительный текст, чем более старые версии, в то время как новые инструменты генерации изображений, такие как MidJourney, создают более реалистичные визуальные эффекты, чем их предшественники.

Психологические последствия обнаружения ИИ

Трудность обнаружения контента, сгенерированного ИИ, поднимает важные психологические и социальные вопросы. Одним из них является то, насколько доверие люди имеют к тому, что они видят и читают.

ИИ становится лучше в имитации человеческой креативности, поэтому создание и распространение дезинформации становится проще, поскольку люди могут непреднамеренно потреблять контент, произведенный машиной с определенной программой. Это особенно тревожно в областях, таких как политический дискурс, где фабрикованные глубокие обманы или вводящие в заблуждение статьи могли бы повлиять на общественное мнение.

Кроме того, многие люди имеют чрезмерную уверенность в обнаружении контента, сгенерированного ИИ, что может привести к ложному чувству безопасности. На самом деле, даже эксперты в области ИИ не застрахованы от того, чтобы быть обманутыми сложными машинными творениями. Это явление известно как “иллюзия объяснительной глубины”, где люди переоценивают свое понимание сложной системы просто потому, что они знакомы с ее основными принципами.

Будущее обнаружения ИИ: Можно ли улучшить?

Учитывая проблемы, что можно сделать, чтобы улучшить способность людей обнаружить контент, сгенерированный ИИ? Одним из возможных решений является разработка инструментов обнаружения ИИ. Как и ИИ стал лучше в генерации контента, исследователи также работают над созданием систем, которые могут определить, было ли что-то создано машиной.

Образование — еще одно потенциальное решение. Повышая осведомленность о ограничениях человеческого суждения и сложности ИИ, люди могут стать более осторожными и критичными при оценке контента. Курсы, которые учат людей, как обнаружить контент, сгенерированный ИИ, такие как анализ необычных закономерностей в тексте или обнаружение несоответствий в изображениях, могли бы помочь улучшить точность обнаружения со временем.

Невидимая сложность обнаружения ИИ

По мере того, как ИИ стирает границу между человеческим и машинным контентом, становится все более трудным для людей точно определить творения ИИ.

Хотя многие люди считают, что они имеют сильную способность обнаружить ИИ, реальность такова, что большинство людей лишь немного лучше, чем случайное угадывание, при различении реального и машинного контента. Этот разрыв между восприятием и реальностью подчеркивает сложность современного ИИ и необходимость технологических решений и повышения осведомленности для навигации в этом новом цифровом ландшафте.

В ближайшие годы, по мере того, как ИИ будет продолжать совершенствоваться, людям придется определить, насколько хорошо они могут обнаружить ИИ, и насколько это важно. По мере того, как машины будут все больше интегрироваться в повседневную жизнь, фокус может сместиться от обнаружения к пониманию того, как сосуществовать с ИИ, чтобы сохранить доверие, креативность и человеческую аутентичность.