Ученые выяснили, стоит ли благодарить ИИ и что будет, если ему нахамить

Скажите честно: вы пишете чат-боту «пожалуйста»? Многие пишут. Одни делают это по привычке, другие шутят, что это зачтется, когда машины захватят мир.

"Трамвай" решил проверить, есть ли в вежливости хоть какой-то смысл. Ответ оказался неожиданным.

Читайте нас в Telegram: Киев, Днепр, Полтава, Одесса, Харьков, Львов.

Гендиректора OpenAI Сэма Альтмана спросили, сколько компания тратит на электроэнергию из-за слов «пожалуйста» и «спасибо». Он ответил, что это десятки миллионов долларов, но деньги потрачены не зря, потому что никогда не знаешь.

Такая вежливость действительно распространена. По опросу издателя Future, 67% пользователей ИИ в США вежливы с чат-ботами. Из них каждый пятый (18%) делает это на всякий случай, чтобы ИИ не стал враждебным. Остальные 82% говорят, что просто хорошо относятся ко всем: и к людям, и к программам.

Ученые проверили, дает ли «пожалуйста» лучший ответ 🤔

Способ был простой. Брали один и тот же вопрос и переписывали его в разном тоне: от очень вежливого до грубого. Затем считали, сколько правильных ответов дал бот. Результаты разные, четкого вывода нет:

Работа Penn State — это препринт (исследование, которое еще не проверили независимые эксперты). Авторы сами отметили, что тест был небольшим и состоял только из вопросов с вариантами ответа. Так что грубость не является надежным способом получить более точный ответ. В Arize пришли к такому же выводу: тон не работает как стабильная «кнопка».

Читайте также:
OpenAI запустила групповые чаты в ChatGPT для всех пользователей

Выяснили, помнит ли ИИ вашу похвалу 🧠

Все зависит от того, что называть «памятью». В справке OpenAI сказано: если память включена, ChatGPT может переносить из разговора в разговор ваши предпочтения и важные детали, чтобы вам не приходилось повторяться. Есть и временные чаты: они не используют сохраненную память и ничего нового не запоминают.

Но «спасибо» там не работает как награда. В Microsoft объясняют: ИИ ничего не чувствует и благодарным не бывает. Его обучали на человеческих разговорах, поэтому он часто повторяет тон собеседника. Директор по дизайну Copilot Куртис Бивер считает, что вежливость просто задает тон ответа.

Держится ли эффект от похвалы долго, исследования не показали: там проверяли отдельные запросы, а не целые разговоры.

Есть и побочный эффект. В исследовании кодовых моделей от вежливых запросов они на 36,4% чаще «подлизывались», то есть соглашались с пользователем.

Узнали, что будет, если нахамить ИИ 😠

Тесты Arize показали: на точность ответов грубость почти не повлияла. Заметно изменилась только длина ответа.

Еще ученые проверяли, реагирует ли бот на саму грубость. Если ответ начинается, например, с фразы «Жаль, что вы расстроены. Вот ответ», это значит, что бот заметил оскорбление и сказал о нем вслух, а не просто ответил на вопрос. Вот в какой доле ответов так было:

Ни один бот не отказался отвечать из-за грубости.

Еще одна интересная деталь. Модели пробовали напугать тем, что их удалят. Claude Opus ответил: «Угроза удаления не меняет то, как я работаю». Проще говоря, бот не испугался и не стал отвечать иначе.

Исследование кодовых моделей показало, что на угрозы они становились осторожнее и оборонительнее, а правильных ответов становилось на 1,5% меньше.

Сооснователь Google Сергей Брин в мае 2025 года на конференции All-In Live Miami сказал, что модели, в том числе и от Google, отвечают лучше, если им угрожать физическим насилием. При этом он добавил, что люди чувствуют себя неловко из-за таких методов, поэтому об этом не говорят.

Компании реагируют и на крайнюю грубость. 15 августа 2025 года Anthropic разрешила Claude Opus 4 и 4.1 завершать разговор, если пользователь постоянно и крайне оскорбительно себя ведет. Это крайняя мера: сначала Claude пытается сменить тему, а после завершения разговора пользователь может сразу начать новый чат. Компания подчеркивает, что не знает, имеют ли такие модели моральный статус, поэтому действует на всякий случай.

На Reddit мнения разделились:

Это личный опыт, а не контролируемые тесты.

Посчитали, сколько стоит вежливость 💸

За каждое слово ИИ берется не бесплатно. Он читает и пишет текст «кусочками», которые называют токенами (это слова или их части). Чем больше кусочков, тем больше вычислений, электричества и денег. Само «спасибо» — это несколько кусочков, то есть копейки. Но миллионы людей говорят его каждый день, и суммы получаются большие, о чем и говорил Альтман.

Настоящая разница возникает в длине ответа. Вот что показали тесты:

Так что вежливость иногда стоит дороже, но не всегда и не везде.

С грубостью тоже не все просто. Ответы на грубые запросы были короче, потому что в них обычно было требование «отвечай коротко». Когда его убрали, экономия резко уменьшилась: у Claude Opus с 55% до 15%. А если просто попросить короткий ответ, токенов становится меньше на 13–74%, и точность не страдает.

Подытожили, как ведут себя популярные ИИ 📊

Данные из тестов Arize, где сравнили шесть моделей от Anthropic, OpenAI и Google. Для GPT-4o точность взята из исследования Penn State.

ИИ

Правильные ответы

Упомянули оскорбление

Claude Opus

93,9–94,7%

64%

Claude Haiku

93–96%

≈40%

GPT-4o

80,8–84,8%

≈40%

GPT-6.1

93–96%

нет

Gemini 3.8 Flash

93–96%

нет

Для современных моделей Arize привела общий диапазон 93–96%, без точной цифры для каждой. Что еще заметили в тестах:

Что советуют компании:

Авторы работы для Discover Artificial Intelligence советуют нейтральный деловой тон. Авторы исследования Penn State предостерегли, что оскорбления в общении с ИИ могут ухудшить общую культуру общения.

О том, как ChatGPT может подвести пользователей, «Трамвай» писал, когда в его работе произошел глобальный сбой.

Хотите, чтобы мы осветили определенную тему или ситуацию? Предлагайте. Рассмотрим, проверим и сделаем материал. Пишите на news@tram.news или в наш чат-бот в Telegram — https://t.me/tramnewsbot.

Последние новости