ИИ-ассистент: что умеет, где ошибается и как его проверять

Задача

Элиф держит кафе в Кадыкёе и спросила у ИИ, какие документы нужны для столиков на тротуаре. Ответ звучал уверенно, со ссылкой на закон, но закон оказался выдуманным (сценарий для урока, не реальный ответ). ИИ-ассистент (ChatGPT от OpenAI, Claude от Anthropic) пишет тексты по запросу: письма, посты, идеи, пересказы. Обе компании в справке прямо предупреждают: ассистент может уверенно ошибаться («галлюцинация»), поэтому важное нужно проверять.

Шаги

Общие правила для обоих сервисов:

1. Относитесь к ответу как к черновику. Факты, цифры, цитаты, законы и цены сверяйте с первоисточником.
2. Просите источники и включайте поиск, чтобы в ответе были ссылки.
3. Откройте 1–2 ссылки сами: в пересказе ИИ может потеряться контекст.
4. Каждую цифру проверяйте отдельно, например на сайте ведомства или банка.
5. Никогда не вставляйте в чат пароли, SMS-коды, номера карт и IBAN, фото kimlik, договоры с чужими персональными данными.
6. Разница по сути: это продукты двух разных компаний, у них разные модели, интерфейс и функции. Ни один не бывает «всегда прав», поэтому правила проверки для них одни и те же.

В ChatGPT:

1. Включите поиск: нажмите иконку веб-поиска в поле сообщения или введите «/» и выберите «Search».
2. В конце ответа нажмите «Sources», чтобы увидеть все источники. На компьютере можно навести курсор на ссылку в тексте — появится превью.
3. Приватность: Settings → Data Controls → «Improve the model for everyone» (если выключить, новые чаты не идут на обучение). Для разовых вопросов есть временный чат — кнопка «Temporary» вверху справа в новом чате.

В Claude:

1. Нажмите «+» внизу слева в окне чата и выберите «Web search», рядом появится галочка. В новом интерфейсе переключателя может не быть: Claude ищет сам.
2. Откройте цитаты и ссылки в ответе.
3. Приватность: Settings → Privacy → переключатель обучения (в справке он называется то «Help Improve our AI models», то «Model Improvement»). Чаты в режиме инкогнито на обучение не идут, даже если обучение включено.

Шаблон

Мне нужен ответ на вопрос: [ваш вопрос, например: какие разрешения нужны кафе в Стамбуле для летней веранды].
Правила ответа:
1. Используй поиск в интернете и дай ссылку на источник к каждому факту.
2. Отдельно отметь, в чём ты не уверен или что могло устареть.
3. Все цифры, даты и названия законов вынеси в список «Проверить вручную».
4. Если источника нет — так и напиши, не придумывай.

Пример результата

Снять реальные ответы, ничего не дорисовывать:

• Вопрос из шаблона без поиска и с поиском, в ChatGPT и в Claude (4 скриншота).
• Панель «Sources» в ChatGPT и цитаты в ответе Claude.
• Первоисточник рядом с ответом: где цифра совпала, а где нет.
• Экраны настроек «Improve the model for everyone» (ChatGPT) и переключателя обучения в Settings → Privacy (Claude).

Источники

• Does ChatGPT tell the truth? — OpenAI Help Center
• ChatGPT Search — OpenAI Help Center — иконка поиска, «/» → Search, кнопка Sources (статья устарела в части Free; наличие поиска на Free — по странице тарифов и Free Tier FAQ)
• Data Controls FAQ — OpenAI Help Center
• ChatGPT Pricing
• Claude is providing incorrect or misleading responses — Claude Help Center
• Enable and use web search — Claude Help Center
• Claude Pricing
• Is my data used for model training? — Claude Privacy Center — «Model Improvement», инкогнито не идёт на обучение
• How do I change my model improvement privacy settings? — Claude Privacy Center — Settings → Privacy, «Help Improve our AI models»
• Temporary Chat FAQ — OpenAI Help Center — кнопка «Temporary»
• ChatGPT Free Tier FAQ — OpenAI Help Center — поиск на Free