Когда человек спрашивает ИИ о погоде, формуле или расписании, ошибка обычно остаётся ошибкой информации. Когда он спрашивает о другом человеке, компании, конфликте или спорной публикации, ИИ всё чаще делает нечто принципиально другое: не просто пересказывает факты, а оценивает участников.

Он может сказать, что человек «манипулирует», «обижен», «пытается оправдаться», «действует из коммерческого интереса», «заслуживает большего доверия» или, наоборот, что источник ненадёжен. Иногда такие выводы могут быть разумными. Проблема возникает тогда, когда модель превращает непроверяемую интерпретацию в уверенное заключение.

Представим обычный спор двух людей. Есть публичные действия, документы, переписка и длинная история отношений. Независимый наблюдатель может аккуратно сказать: «Вот подтверждённые факты. Вот версия первой стороны. Вот версия второй. Мотивы участников достоверно неизвестны». Но генеративная система склонна достраивать связный рассказ. Если в истории есть конфликт, потеря статуса и сарказм, она может сделать следующий шаг: «значит, человек обижен». После этого все его аргументы уже воспринимаются через созданную машиной психологическую рамку.

Именно здесь ИИ перестаёт быть простым информационным помощником и становится репутационным арбитром.

Арбитром — потому что его ответ влияет на то, кому пользователь будет доверять. Но без процедуры арбитража — потому что у человека, которого система оценивает, обычно нет нормального механизма участия в этом процессе. Он не знает, что именно модель сказала конкретному пользователю, не видит полной доказательной базы, не может заранее возразить и не имеет гарантии, что исправление одной ошибки изменит будущие ответы другим людям.

Для человека это новая форма репутационного риска. Раньше спорное мнение имело понятного автора: журналиста, блогера, конкурента или комментатора. Можно было посмотреть, кто говорит, какие у него интересы и на чём основан вывод. ИИ выглядит иначе. Пользователь часто воспринимает его как нейтрального синтезатора множества источников, хотя часть итогового суждения могла быть создана самой моделью.

Право уже начинает сталкиваться с этим переходом.

В мае 2026 года суд в Мюнхене признал, что Google может нести прямую ответственность за неверные утверждения, созданные AI Overview. Ключевой смысл решения не только в конкретной ошибке: суд отличил обычную выдачу ссылок от нового текста, который система сама сформировала из источников. Обзор решения Библиотеки Конгресса США.

В июле 2026 года немецкая комиссия по надзору за СМИ отдельно заявила применительно к Google и Perplexity, что ответы генеративных систем следует рассматривать как собственный контент поставщиков, а не как простую передачу чужих сообщений. Решение ZAK. В связанном правовом исследовании сформулирован ещё более общий принцип: когда ИИ смешивает, сокращает и заново формулирует сведения, итоговое высказывание приобретает самостоятельный характер. Исследование немецких медиарегуляторов.

У OpenAI был другой ранний исход. В деле Walters v. OpenAI ChatGPT выдумал ложные обвинения против реального человека, но суд в Джорджии в 2025 году вынес решение в пользу OpenAI: получатель понимал, что сведения неверны, компания предупреждала о возможных ошибках, а истец не доказал необходимые элементы и ущерб. Это не общий иммунитет ИИ, а пример того, насколько сильно результат зависит от конкретных обстоятельств.

Perplexity показывает ещё одну разновидность проблемы. В споре с Dow Jones и New York Post издатели утверждают, что система не только использовала их материалы, но и генерировала выдуманный текст, после чего приписывала его этим изданиям. В судебных документах прямо зафиксированы примеры, где Perplexity создавал сведения, которых не было в процитированной статье. Материалы дела.

Все эти случаи пока в основном касаются проверяемых ложных утверждений. Но следующий правовой вопрос сложнее: что делать с недоказанной репутационной интерпретацией, которая формально выглядит как оценочное суждение?

Фраза «человек был осуждён за преступление» проверяется. Фраза «он пишет это из обиды и уязвлённого самолюбия» намного труднее опровергается. Но вторая фраза тоже способна резко снизить доверие к человеку и ко всему, что он говорит.

Поэтому проблема будущего шире обычных «галлюцинаций». ИИ получает власть не только ошибаться в фактах, но и задавать рамку, через которую миллионы людей будут понимать факты.

При этом маловероятно, что человечество просто откажется от таких систем. Они слишком сильно сокращают стоимость поиска, анализа, программирования, обучения и повседневной интеллектуальной работы. Даже если конкретный продукт провалится или Google однажды изменит стратегию, сама функция никуда не исчезнет: её продолжат ChatGPT, Claude, Perplexity, новые конкуренты и будущие агентные системы. Отказ от всей категории уже означал бы потерю слишком большой полезности.

Следовательно, практический ответ — не «не пользоваться ИИ», а учиться пользоваться им зрелее.

Для спорных репутационных вопросов полезно требовать от системы:

• отделить подтверждённые события от интерпретаций;
• показать источники ключевых утверждений;
• явно назвать то, чего она не может знать;
• перечислить альтернативные объяснения поведения;
• не превращать психологический мотив в факт без прямых оснований;
• при высокой цене ошибки получить второе мнение другой системы или человека.

Здесь особенно важен концепт «Не все ИИ одинаково полезны»: разные системы действительно по-разному работают с неопределённостью и спорными мотивами. А Conceptica помогает увидеть сам механизм ошибки: убедительная интерпретация легко создаёт ощущение, что понимание уже достигнуто.

Для футуриста этот сдвиг означает появление новой общественной инфраструктуры. Раньше репутацию формировали люди, СМИ, профессиональные сообщества и поисковые алгоритмы. Теперь между ними и конечным человеком появляется активный интерпретатор, который способен самостоятельно производить оценки.

Главный вопрос будущего поэтому звучит не «может ли ИИ ошибаться?». Конечно, может. Вопрос другой: какие права, обязанности и стандарты проверки должны появиться у системы, которая массово влияет на человеческую репутацию, доверие и понимание конфликтов?