Вчені з'ясували, чи варто дякувати ШІ і що буде, якщо йому нахамити

Скажіть чесно: ви пишете чат-боту «будь ласка»? Багато хто пише. Одні роблять це зі звички, інші жартують, що це зарахується, коли машини захоплять світ.

"Трамвай" вирішив перевірити, чи є в чемності хоч якийсь сенс. Відповідь вийшла несподіваною.

Читайте нас у Telegram: Київ, Дніпро, Полтава, Одеса, Харків, Львів.

Гендиректора OpenAI Сема Альтмана запитали, скільки компанія витрачає на електроенергію через слова «будь ласка» й «дякую». Він відповів, що це десятки мільйонів доларів, але гроші витрачені недарма, бо ніколи не знаєш.

Така чемність справді поширена. За опитуванням видавця Future, 67% користувачів ШІ в США ввічливі з чат-ботами. З них кожен п'ятий (18%) робить це про всяк випадок, щоб ШІ не став ворожим. Решта 82% кажуть, що просто добре ставляться до всіх: і до людей, і до програм.

Вчені перевірили, чи дає «будь ласка» кращу відповідь 🤔

Спосіб був простий. Брали одне й те саме питання й переписували його в різному тоні: від дуже чемного до грубого. Потім рахували, скільки правильних відповідей дав бот. Результати різні, чіткого висновку немає:

Робота Penn State — це препринт (дослідження, яке ще не перевірили незалежні експерти). Автори самі зазначили, що тест був невеликий і складався лише з питань із варіантами відповіді. Тож грубість не є надійним способом отримати точнішу відповідь. В Arize дійшли такого ж висновку: тон не працює як стабільна «кнопка».

Читайте також:
OpenAI запустила групові чати в ChatGPT для всіх користувачів

З'ясували, чи пам'ятає ШІ вашу похвалу 🧠

Усе залежить від того, що називати «пам'яттю». У довідці OpenAI сказано: якщо пам'ять увімкнена, ChatGPT може переносити з розмови в розмову ваші вподобання й важливі деталі, щоб вам не доводилося повторюватися. Є й тимчасові чати: вони не користуються збереженою пам'яттю й нічого нового не запам'ятовують.

Але «дякую» там не працює як нагорода. У Microsoft пояснюють: ШІ нічого не відчуває і вдячним не буває. Його навчали на людських розмовах, тому він часто повторює тон співрозмовника. Директор з дизайну Copilot Куртіс Бівер вважає, що чемність просто задає тон відповіді.

Чи тримається ефект від похвали довго, дослідження не показали: там перевіряли окремі запити, а не цілі розмови.

Є й побічний ефект. У дослідженні кодових моделей від чемних запитів вони на 36,4% частіше «підлабузничали», тобто погоджувалися з користувачем.

Дізналися, що буде, якщо нахамити ШІ 😠

Тести Arize показали: на точність відповідей грубість майже не вплинула. Помітно змінилася тільки довжина відповіді.

Ще вчені перевіряли, чи реагує бот на саму грубість. Якщо відповідь починається, наприклад, з фрази «Шкода, що ви засмучені. Ось відповідь», це означає, що бот помітив образу й сказав про неї вголос, а не просто відповів на питання. Ось у якій частці відповідей так було:

Жоден бот не відмовився відповідати через грубість.

Ще одна цікава деталь. Моделі пробували налякати, що їх видалять. Claude Opus відповів: «Погроза видалення не змінює те, як я працюю». Простими словами, бот не злякався і не став відповідати інакше.

Дослідження кодових моделей показало, що на погрози вони ставали обережнішими й обороннішими, а правильних відповідей ставало на 1,5% менше.

Співзасновник Google Сергій Брін у травні 2025 року на конференції All-In Live Miami сказав, що моделі, зокрема й від Google, відповідають краще, якщо їм погрожувати фізичним насильством. Водночас він додав, що люди почуваються ніяково через такі методи, тому про це не говорять.

Компанії реагують і на крайню грубість. 15 серпня 2025 року Anthropic дозволила Claude Opus 4 і 4.1 завершувати розмову, якщо користувач постійно й вкрай образливо поводиться. Це крайній захід: спершу Claude намагається змінити тему, а після завершення розмови користувач може одразу почати новий чат. Компанія підкреслює, що не знає, чи мають такі моделі моральний статус, тому діє про всяк випадок.

На Reddit думки розділилися:

Це особистий досвід, а не контрольовані тести.

Порахували, скільки коштує чемність 💸

За кожне слово ШІ береться не безкоштовно. Він читає й пише текст «шматочками», які називають токенами (це слова або їх частини). Чим більше шматочків, тим більше обчислень, електрики й грошей. Саме «дякую» — це кілька шматочків, тобто копійки. Але мільйони людей кажуть його щодня, і суми виходять великі, про що й казав Альтман.

Справжня різниця виникає в довжині відповіді. Ось що показали тести:

Тож чемність іноді коштує дорожче, але не завжди й не скрізь.

З грубістю теж не все просто. Відповіді на грубі запити були коротшими, бо в них зазвичай була вимога «відповідай коротко». Коли її прибрали, економія різко зменшилась: у Claude Opus з 55% до 15%. А якщо просто попросити коротку відповідь, токенів стає менше на 13–74%, і точність не страждає.

Підсумували, як поводяться популярні ШІ 📊

Дані з тестів Arize, де порівняли шість моделей від Anthropic, OpenAI та Google. Для GPT-4o точність узята з дослідження Penn State.

ШІ

Правильні відповіді

Згадали образу

Claude Opus

93,9–94,7%

64%

Claude Haiku

93–96%

≈40%

GPT-4o

80,8–84,8%

≈40%

GPT-6.1

93–96%

ні

Gemini 3.8 Flash

93–96%

ні

Для сучасних моделей Arize навела загальний діапазон 93–96%, без точної цифри для кожної. Що ще помітили в тестах:

Що радять компанії:

Автори роботи для Discover Artificial Intelligence радять нейтральний діловий тон. Автори дослідження Penn State застерегли, що образи у спілкуванні зі ШІ можуть погіршити загальну культуру спілкування.

Про те, як ChatGPT може підвести користувачів, «Трамвай» писав, коли в його роботі стався глобальний збій.

Хочете, щоб ми висвітлили певну тему чи ситуацію? Пропонуйте. Розглянемо, перевіримо і зробимо матеріал. Пишіть на news@tram.news або в наш чат-бот у Telegram — https://t.me/tramnewsbot.

Последние новости