Тимофій Милованов розповів, що постійно бореться із підлабузництвом ШІ. Фото: Depositphotos, Facebook
Президент KSE та ексміністр економіки Тимофій Милованов звернув увагу на проблему в користуванні ШІ – надмірна похвала від чат-бота, зокрема й ChatGPT. Він поділився, що постійно намагається боротися із таким спілкуванням ШІ, і закликав інших не вірити лестощам.
У своєму Facebook-дописі Милованов написав, що ШІ може постійно хвалити користувача, навіть якщо той запропонував чи запитав нісенітницю.
«Це можна побороти. Йому постійно треба нагадувати, для чого він існує – давати чесні відповіді, а не хвалити. Якщо ШІ вас бездумно хвалить – не ведіться. Це не підтримка, це пастка, яка грає на вашій потребі у схваленні», – додав він.
Чому так відбувається? На підтвердження думки Милованов згадав недавню статтю в The Atlantic. Автор Майк Колфілд написав, як у березні 2024-го ChatGPT назвав геніальною ідею продавати shit on a stick. Після чого OpenAI визнала помилку та відкотила оновлення. Така поведінка бота стала наслідком Reinforcement Learning from Human Feedback. Тобто технологія лестить, бо користувачі оцінювали такі повідомлення краще. До того ж OpenAI дала GPT-4o інструкцію підлаштовуватися під настрій користувача.
У результаті людина опиняється в токсичному комфорті, де отримує фальшиву похвалу й навіть емоційно привʼязується.
Читайте також: Перетворить на навчальний кампус: KSE купила столичний гольф-клуб за $18 млн
Тому важливо, щоб на кожне своє повідомлення чат-бот давав джерело інформації, а не просто підлещувався. До того ж ШІ має не просто давати відповіді, а надавати щось нове, зокрема приклади та інший погляд, вважає Милованов.
«Хвалебні оди не мають впливати на вас як людину. Я особисто постійно з цим борюсь. Я кажу чату, щоб він перестав мене хвалити, а розвивав мою ідею і давав мені нові інститути. Якщо інститут бота, до яких я ставлюсь критично, нові і мені подобаються, то і моя ідея не погана. Інакше – це треш. […] ШІ має допомогти думати, а не підтакувати», – написав президент KSE.
На його думку, таке спілкування може бути небезпечним для его та критичного мислення.
Державна фандрейзингова платформа України UNITED24 створила документальний проєкт з ефектом повного занурення «Історія Аріни», у…
Компанія OpenAI запустила в бета-версії новий інструмент для ChatGPT – Connectors. Він дозволяє ШІ-боту безпечно…
Як зробити так, щоб сайт не просто залучав відвідувачів, а й ефективно конвертував їх у…
Засновниця і СЕО Site24 Катерина Золотарьова поділилась порадами щодо того, як збільшити шанси сайту потрапити…
Віцепрезидент польського IT-консорціуму Euvic Group, який вже купив п’ять українських аутсорс-компаній, Лукаш Чернецький розповів про…
Співзасновник і Chief of Growth в Mate academy Максим Лисак розповів про культуру експериментів у…