Тимофій Милованов розповів, що постійно бореться із підлабузництвом ШІ. Фото: Depositphotos, Facebook
Президент KSE та ексміністр економіки Тимофій Милованов звернув увагу на проблему в користуванні ШІ – надмірна похвала від чат-бота, зокрема й ChatGPT. Він поділився, що постійно намагається боротися із таким спілкуванням ШІ, і закликав інших не вірити лестощам.
У своєму Facebook-дописі Милованов написав, що ШІ може постійно хвалити користувача, навіть якщо той запропонував чи запитав нісенітницю.
«Це можна побороти. Йому постійно треба нагадувати, для чого він існує – давати чесні відповіді, а не хвалити. Якщо ШІ вас бездумно хвалить – не ведіться. Це не підтримка, це пастка, яка грає на вашій потребі у схваленні», – додав він.
Чому так відбувається? На підтвердження думки Милованов згадав недавню статтю в The Atlantic. Автор Майк Колфілд написав, як у березні 2024-го ChatGPT назвав геніальною ідею продавати shit on a stick. Після чого OpenAI визнала помилку та відкотила оновлення. Така поведінка бота стала наслідком Reinforcement Learning from Human Feedback. Тобто технологія лестить, бо користувачі оцінювали такі повідомлення краще. До того ж OpenAI дала GPT-4o інструкцію підлаштовуватися під настрій користувача.
У результаті людина опиняється в токсичному комфорті, де отримує фальшиву похвалу й навіть емоційно привʼязується.
Читайте також: Перетворить на навчальний кампус: KSE купила столичний гольф-клуб за $18 млн
Тому важливо, щоб на кожне своє повідомлення чат-бот давав джерело інформації, а не просто підлещувався. До того ж ШІ має не просто давати відповіді, а надавати щось нове, зокрема приклади та інший погляд, вважає Милованов.
«Хвалебні оди не мають впливати на вас як людину. Я особисто постійно з цим борюсь. Я кажу чату, щоб він перестав мене хвалити, а розвивав мою ідею і давав мені нові інститути. Якщо інститут бота, до яких я ставлюсь критично, нові і мені подобаються, то і моя ідея не погана. Інакше – це треш. […] ШІ має допомогти думати, а не підтакувати», – написав президент KSE.
На його думку, таке спілкування може бути небезпечним для его та критичного мислення.
Запис витрат – це не просто нудна звичка, а психологічний інструмент, який може змінити ваше…
Український фінансист, партнер iPlan.ua та засновник соціального проєкту «Сімейний Бюджет» Любомир Остапів розповів про чотири…
«Універсал Банк» (до якого належить monobank) хотів через суд стягнути з клієнта 38 тис. грн…
Alliance bank представив нову функцію у своєму застосунку — міжнародні P2P-перекази з картки на картку.…
Давати в борг друзям – до сварки та втрачених коштів чи на користь? Голова наглядової…
Батьки хочуть давати дітям найкраще, і якісна освіта – одна з таких фундаментальних речей. Але…