Тимофій Милованов розповів, що постійно бореться із підлабузництвом ШІ. Фото: Depositphotos, Facebook
Президент KSE та ексміністр економіки Тимофій Милованов звернув увагу на проблему в користуванні ШІ – надмірна похвала від чат-бота, зокрема й ChatGPT. Він поділився, що постійно намагається боротися із таким спілкуванням ШІ, і закликав інших не вірити лестощам.
У своєму Facebook-дописі Милованов написав, що ШІ може постійно хвалити користувача, навіть якщо той запропонував чи запитав нісенітницю.
«Це можна побороти. Йому постійно треба нагадувати, для чого він існує – давати чесні відповіді, а не хвалити. Якщо ШІ вас бездумно хвалить – не ведіться. Це не підтримка, це пастка, яка грає на вашій потребі у схваленні», – додав він.
Чому так відбувається? На підтвердження думки Милованов згадав недавню статтю в The Atlantic. Автор Майк Колфілд написав, як у березні 2024-го ChatGPT назвав геніальною ідею продавати shit on a stick. Після чого OpenAI визнала помилку та відкотила оновлення. Така поведінка бота стала наслідком Reinforcement Learning from Human Feedback. Тобто технологія лестить, бо користувачі оцінювали такі повідомлення краще. До того ж OpenAI дала GPT-4o інструкцію підлаштовуватися під настрій користувача.
У результаті людина опиняється в токсичному комфорті, де отримує фальшиву похвалу й навіть емоційно привʼязується.
Читайте також: Перетворить на навчальний кампус: KSE купила столичний гольф-клуб за $18 млн
Тому важливо, щоб на кожне своє повідомлення чат-бот давав джерело інформації, а не просто підлещувався. До того ж ШІ має не просто давати відповіді, а надавати щось нове, зокрема приклади та інший погляд, вважає Милованов.
«Хвалебні оди не мають впливати на вас як людину. Я особисто постійно з цим борюсь. Я кажу чату, щоб він перестав мене хвалити, а розвивав мою ідею і давав мені нові інститути. Якщо інститут бота, до яких я ставлюсь критично, нові і мені подобаються, то і моя ідея не погана. Інакше – це треш. […] ШІ має допомогти думати, а не підтакувати», – написав президент KSE.
На його думку, таке спілкування може бути небезпечним для его та критичного мислення.
Компанія Apple працює над новим ШІ-інструментом, завдяки якому вдасться збільшити продуктивність батареї в iPhone. Очікується,…
Застосунок для вивчення мов Duolingo вносить великі зміни – тепер не буде «сердець», які втрачали…
Навколо лунає багато обіцянок про «розкриття унікальності» вашої дитини та «персональні освітні програми». Проте за…
«ПриватБанк» запустив програму оплачуваного стажування для студентів і випускників профільних спеціальностей українських вишів, зокрема й…
Netpeak Group будує власний коворкінг з баром, івент-зоною, терасою і не тільки. Наразі компанія шукає…
Переїзд до іншої країни – це завжди вихід за межі звичного, суміш хвилювання та невідомості.…