ШІ може перетворити суспільство на «фабрику людей», застерігає професорка Гарварду

Штучний інтелект може змінити не лише ринок праці чи спосіб ведення бізнесу, а й сам принцип функціонування суспільства. Історикиня та професорка Гарварду Джилл Лепор вважає, що розвиток ШІ разом із концентрацією цифрової інфраструктури в руках великих корпорацій створює передумови для появи так званої «штучної держави» — системи, у якій дедалі більше рішень ухвалюють машини, а не люди. Про це Лепор розповіла у подкасті The New York Times Hard Fork.

Головне

• Джилл Лепор вважає, що світ поступово рухається до «штучної держави», де частину функцій традиційної держави перебирають технологічні корпорації.
• У такій системі рішення дедалі частіше ухвалюються за допомогою машин, а цифрова інфраструктура, через яку люди отримують інформацію та спілкуються, контролюється приватними компаніями.
• Лепор називає цей процес своєрідним «фабричним виробництвом суспільного життя» — із сортуванням, сегментацією, ізоляцією та відчуженням людей.
• Вона попереджає, що ШІ прискорює цей процес: люди вже звертаються до чатботів із політичними питаннями, алгоритми впливають на інформацію, яку вони бачать, а системи ШІ використовують для ухвалення рішень і масового аналізу даних.
• На думку історикині, твердження, що розвиток ШІ неминучий, а технології автоматично зміцнюють демократію, є хибними.

Що таке «штучна держава»

У новому епізоді Hard Fork Лепор розповіла про концепцію «штучної держави», яку детальніше досліджує у своїй майбутній книзі The Rise and Fall of the Arti­fi­cial State.

Йдеться про можливий поступовий відхід від традиційної моделі держави, у якій рішення залежать від волі громадян, до системи, де дедалі більше функцій перебирають приватні корпорації, що контролюють цифрову інфраструктуру.

«Уряд здійснюється не за згодою людей, а машинами, які ухвалюють рішення», — пояснила Лепор.

При цьому самі машини та інфраструктура належать корпораціям.

За словами історикині, до повноцінної «штучної держави» світ ще не дійшов. Однак окремі її елементи вже формуються навколо нас.

Читайте також: «Друкарський верстат і радіо допомагали поширювати ідеї людей, а ШІ може створювати абсолютно нову культуру»: Ювал Ной Харарі про загрози ШІ

До чого тут ШІ

Лепор підкреслює, що «штучна держава» виникла не виключно через розвиток штучного інтелекту. Однак ШІ суттєво прискорює цей процес.

Цифрові платформи вже визначають, як люди отримують новини, дізнаються про вибори та формують політичні погляди. Раніше цю роль значною мірою виконували телебачення і радіо, а тепер дедалі більше — соціальні мережі та алгоритми.

ШІ додає до цього новий рівень. Люди звертаються до Chat­G­PT із питаннями про те, за кого голосувати, політичні повідомлення створюються за допомогою ШІ, а державні та бізнесові рішення дедалі частіше ухвалюються із залученням алгоритмів.

Окреме питання — спостереження. ШІ дозволяє обробляти величезні масиви даних, які збираються про людей, і тим самим посилює можливості систем стеження.

«Фабричне виробництво» суспільного життя

Ще у 2024 році Лепор описувала концепцію «штучної держави» у The New York­er.

Тоді вона назвала її своєрідним «фабричним виробництвом суспільного життя» — процесом, що передбачає сортування та сегментацію людей, їхню ізоляцію й відчуження та зрештою руйнування людських спільнот.

На думку історикині, цифрове середовище, у якому сьогодні проходить значна частина нашого життя, саме по собі має потужний ізолюючий ефект.

Із розвитком ШІ цей ефект може посилюватися: замість розмови з сусідом, місцевим чиновником чи фахівцем людина дедалі частіше може звернутися до чатбота. Замість живого обговорення суспільних проблем — отримати персоналізовану відповідь алгоритму.

Чи справді розвиток ШІ неминучий?

Лепор окремо критикує популярну в Кремнієвій долині ідею про те, що розвиток ШІ неможливо зупинити, а спроби його регулювати лише завадять інноваціям.

Вона називає таку позицію «хибною передумовою».

За її словами, прихильники цієї думки фактично повторюють аргументи, які вже звучали під час появи персональних комп’ютерів, інтернету та соціальних мереж.

Ще одна поширена теза полягає в тому, що технології зрештою завжди сприяють демократії. Але, на думку Лепор, це не означає, що нинішні загрози для демократії, які створює ШІ, зникнуть самі собою.

«Хто вирішив, що ми маємо так жити?»

Саме це питання, за словами Лепор, стало одним із поштовхів до її дослідження.

Сьогодні людина може зателефонувати в компанію й замість оператора спілкуватися з ШІ, зайти на сайт і отримати відповідь від чатбота або звернутися до алгоритму з питанням, яке раніше обговорила б із іншою людиною.

Для Лепор проблема не лише в самій технології, а в тому, що такі зміни часто подають як неминучі.

«Хто вирішив, що це спосіб, у який ми маємо жити?» — запитує історикиня.

Читайте також: «Припиніть будувати машини, які люди не можуть контролювати» — Сандерс ШІ-гігантам