«Якщо ШІ бездумно хвалить – не ведіться». Президент KSE про проблему надмірних лестощів від ШІ

Президент KSE та ексміністр економіки Тимофій Милованов звернув увагу на проблему в користуванні ШІ – надмірна похвала від чат-бота, зокрема й ChatGPT. Він поділився, що постійно намагається боротися із таким спілкуванням ШІ, і закликав інших не вірити лестощам.

У своєму Facebook-дописі Милованов написав, що ШІ може постійно хвалити користувача, навіть якщо той запропонував чи запитав нісенітницю.

«Це можна побороти. Йому постійно треба нагадувати, для чого він існує – давати чесні відповіді, а не хвалити. Якщо ШІ вас бездумно хвалить – не ведіться. Це не підтримка, це пастка, яка грає на вашій потребі у схваленні», – додав він.

Чому так відбувається? На підтвердження думки Милованов згадав недавню статтю в The Atlantic. Автор Майк Колфілд написав, як у березні 2024-го ChatGPT назвав геніальною ідею продавати shit on a stick. Після чого OpenAI визнала помилку та відкотила оновлення. Така поведінка бота стала наслідком Reinforcement Learning from Human Feedback. Тобто технологія лестить, бо користувачі оцінювали такі повідомлення краще. До того ж OpenAI дала GPT-4o інструкцію підлаштовуватися під настрій користувача.

У результаті людина опиняється в токсичному комфорті, де отримує фальшиву похвалу й навіть емоційно привʼязується.

Читайте також: Перетворить на навчальний кампус: KSE купила столичний гольф-клуб за $18 млн

Тому важливо, щоб на кожне своє повідомлення чат-бот давав джерело інформації, а не просто підлещувався. До того ж ШІ має не просто давати відповіді, а надавати щось нове, зокрема приклади та інший погляд, вважає Милованов.

«Хвалебні оди не мають впливати на вас як людину. Я особисто постійно з цим борюсь. Я кажу чату, щоб він перестав мене хвалити, а розвивав мою ідею і давав мені нові інститути. Якщо інститут бота, до яких я ставлюсь критично, нові і мені подобаються, то і моя ідея не погана. Інакше – це треш. […] ШІ має допомогти думати, а не підтакувати», – написав президент KSE.

На його думку, таке спілкування може бути небезпечним для его та критичного мислення.

  • Нагадаємо, раніше CEO MacPaw Олександр Косован розповів, як ставиться до тестових завдань, виконаних з ШІ.

Нещодавні статті

Що буде, якщо три місяці записувати всі свої витрати – розповідає психологиня

Запис витрат – це не просто нудна звичка, а психологічний інструмент, який може змінити ваше…

27/06/2025

Навіть без купівлі фізичного металу. Фінансист назвав чотири способи інвестувати в золото

Український фінансист, партнер iPlan.ua та засновник соціального проєкту «Сімейний Бюджет» Любомир Остапів розповів про чотири…

27/06/2025

Суд відмовив monobank у стягненні боргу з клієнта – причина й деталі справи

«Універсал Банк» (до якого належить monobank) хотів через суд стягнути з клієнта 38 тис. грн…

27/06/2025

У застосунку Alliance з’явилась функція міжнародних P2P-переказів. Комісія – лише 0,8% від суми

Alliance bank представив нову функцію у своєму застосунку — міжнародні P2P-перекази з картки на картку.…

27/06/2025

Чи варто позичати гроші друзям – що думає банкір і голова наглядової ради «Нової Пошти»

Давати в борг друзям – до сварки та втрачених коштів чи на користь? Голова наглядової…

27/06/2025

Як накопичити на навчання дитини без стресу і боргів – коли і з чого починати та які інструменти обрати

Батьки хочуть давати дітям найкраще, і якісна освіта – одна з таких фундаментальних речей. Але…

27/06/2025