«Якщо ШІ бездумно хвалить – не ведіться». Президент KSE про проблему надмірних лестощів від ШІ

Президент KSE та ексміністр економіки Тимофій Милованов звернув увагу на проблему в користуванні ШІ – надмірна похвала від чат-бота, зокрема й ChatGPT. Він поділився, що постійно намагається боротися із таким спілкуванням ШІ, і закликав інших не вірити лестощам.

У своєму Facebook-дописі Милованов написав, що ШІ може постійно хвалити користувача, навіть якщо той запропонував чи запитав нісенітницю.

«Це можна побороти. Йому постійно треба нагадувати, для чого він існує – давати чесні відповіді, а не хвалити. Якщо ШІ вас бездумно хвалить – не ведіться. Це не підтримка, це пастка, яка грає на вашій потребі у схваленні», – додав він.

Чому так відбувається? На підтвердження думки Милованов згадав недавню статтю в The Atlantic. Автор Майк Колфілд написав, як у березні 2024-го ChatGPT назвав геніальною ідею продавати shit on a stick. Після чого OpenAI визнала помилку та відкотила оновлення. Така поведінка бота стала наслідком Reinforcement Learning from Human Feedback. Тобто технологія лестить, бо користувачі оцінювали такі повідомлення краще. До того ж OpenAI дала GPT-4o інструкцію підлаштовуватися під настрій користувача.

У результаті людина опиняється в токсичному комфорті, де отримує фальшиву похвалу й навіть емоційно привʼязується.

Читайте також: Перетворить на навчальний кампус: KSE купила столичний гольф-клуб за $18 млн

Тому важливо, щоб на кожне своє повідомлення чат-бот давав джерело інформації, а не просто підлещувався. До того ж ШІ має не просто давати відповіді, а надавати щось нове, зокрема приклади та інший погляд, вважає Милованов.

«Хвалебні оди не мають впливати на вас як людину. Я особисто постійно з цим борюсь. Я кажу чату, щоб він перестав мене хвалити, а розвивав мою ідею і давав мені нові інститути. Якщо інститут бота, до яких я ставлюсь критично, нові і мені подобаються, то і моя ідея не погана. Інакше – це треш. […] ШІ має допомогти думати, а не підтакувати», – написав президент KSE.

На його думку, таке спілкування може бути небезпечним для его та критичного мислення.

  • Нагадаємо, раніше CEO MacPaw Олександр Косован розповів, як ставиться до тестових завдань, виконаних з ШІ.

Нещодавні статті

«Історія Аріни», дівчинки з Ірпеня: United24 створила документальний проєкт з ефектом повного занурення

Державна фандрейзингова платформа України UNITED24 створила документальний проєкт з ефектом повного занурення «Історія Аріни», у…

06/06/2025

ChatGPT тепер переглядатиме пошту, календарі і не тільки – OpenAI тестує Connectors. Що відомо

Компанія OpenAI запустила в бета-версії новий інструмент для ChatGPT – Connectors. Він дозволяє ШІ-боту безпечно…

06/06/2025

Як Claspo.io допомагає створювати поп-апи і віджети, що змінюють підхід до залучення клієнтів на сайтах

Як зробити так, щоб сайт не просто залучав відвідувачів, а й ефективно конвертував їх у…

06/06/2025

Як збільшити шанси сайту потрапити до ChatGPT та AI Overview – поради і застереження від СЕО Site24

Засновниця і СЕО Site24 Катерина Золотарьова поділилась порадами щодо того, як збільшити  шанси сайту потрапити…

06/06/2025

«Багато в чому можемо повчитися». Які українські компанії цікавлять польську Euvic Group і чому

Віцепрезидент польського IT-консорціуму Euvic Group, який вже купив п’ять українських аутсорс-компаній, Лукаш Чернецький розповів про…

06/06/2025

Як працює культура експериментів у Mate academy і як тут онбордять новачків – Chief of Growth

Співзасновник і Chief of Growth в Mate academy Максим Лисак розповів про культуру експериментів у…

06/06/2025