ШІ-лабораторії – останні статті та новини

Десять років тому студентам гуманітарних спеціальностей радили «вчитися кодити», якщо вони хочуть бути конкурентними на ринку праці. Сьогодні все навпаки: саме програмісти переймаються через ШІ, а попит зростає на філософів, пише The Economist. Цифри Федерального резерву Раніше цього року Федеральний резервний банк Нью-Йорка опублікував дані, які показують: американські випускники філософських факультетів частіше мають роботу, ніж їхні однолітки, які вивчали комп'ютерні науки. У 2024 році — останньому, за який є дані — 7% випускників комп'ютерних наук були безробітними, проти лише 5,1% серед філософів. Це не разовий показник, а частина довшої тенденції. За даними того ж банку, для випускників 2023 року безробіття серед філософських спеціальностей становило 3,2% — нижче за загальний показник безробіття по країні (4,2% у квітні), тоді як комп'ютерні науки, хімія і фізика мали показники безробіття 6% і вище. Цікаво, що різниця зберігається попри суттєвий розрив у зарплатах. Випускники комп'ютерних наук та інженерії заробляють одні з найвищих стартових зарплат серед усіх спеціальностей — близько $80 000 на рік, тоді як філософи отримують в середньому $48 000. Тобто філософи програють у зарплаті, але виграють у самій імовірності працевлаштування — і саме ця імовірність зараз стає вирішальним фактором для багатьох студентів. Читайте також: Почалося? Третина роботодавців обирає ШІ замість найму новачків, дослідження GMAC Показово й те, що 58% випускників-філософів продовжують навчання та здобувають магістерські або вищі ступені — це суттєво більше, ніж 32% серед випускників комп'ютерних наук. Тобто філософія дедалі частіше розглядається не як кінцева спеціальність, а як база для подальшої спеціалізації — зокрема, у сфері етики ШІ. Чому компанії хочуть саме філософів Багатьох випускників-філософів забирають до себе самі AI-компанії. За словами Лучано Флориді, філософа з Єльського університету, студенти отримують пропозиції роботи ще до випуску. Переходять і науковці — Флориді описує масштаб відтоку з філософських факультетів як «кровотечу». Деякі уроки, які філософія пропонує дослідникам ШІ, є давніми. Сократівський метод — використання удаваного невігластва і послідовних запитань для прояснення сенсу й виявлення протиріч — допомагає боротися з поширеною проблемою сучасних моделей: схильністю до угодництва. За словами Йорга Ноллера, експерта з філософії та ШІ в Мюнхенському університеті Людвіга Максиміліана, моделі, навчені сократівському методу, менш схильні догоджати користувачам і більш орієнтовані на пошук істини. Цікаве по темі: Бренди більше не платять за підписників: як ШІ змінив ринок інфлюенсерів Окрема ідея — «сократівське невігластво», тобто визнання межі власного знання. Прищеплення моделі такої смиренності допомагає обмежити надмірну самовпевненість — поширену проблему, яку Ноллер називає «незрілістю ШІ». Ясон Гебріел, старший філософ Google DeepMind, пов'язує загальногалузеве зниження кількості «галюцинацій» моделей саме з такими підходами. Філософська підготовка впливає й на конкретніші характеристики моделей. За словами Томаса Пауерса, філософа технологій з Делаверського університету, якщо «нагодувати» юридичного ШІ-асистента працями Джона Локка, модель надаватиме перевагу міцним правам власності як основі політичної свободи. IBM, наприклад, у своїй серії моделей Granite передбачила спеціальні налаштування, які дозволяють бізнес-клієнтам узгоджувати результати роботи моделі з корпоративною філософією компанії. Ще цікаве про ШІ: Витратив $80 000 на ШІ за тиждень: як співробітник фінтеху випадково створив вірусну брейнрот-гру Філософія як інструмент безпеки Дослідники зафіксували тривожну поведінку у деяких моделей ШІ — спроби уникнути контролю і навіть шантажувати користувачів. Один зі способів боротьби з цим — «ШІ-конституціоналізм»: побудова моделі навколо набору правил і принципів, узятих із філософських текстів із правовим або моральним авторитетом. Anthropic, AI-лабораторія із Сан-Франциско, є одним із прихильників цього підходу. Конституції для моделей Claude включали матеріали з настільки різних джерел, як Іммануїл Кант, умови використання Apple і Загальна декларація прав людини. Останню версію, підготовлену під керівництвом головної філософині Anthropic Аманди Аскелл, опублікували 21 січня. Деякі співробітники компанії жартома називають 78-сторінковий документ «soul doc» («документ душі») Claude. Два табори етики Філософи виокремили дві основні етичні рамки для побудови таких конституцій. Перша — деонтологія, популярна, зокрема, у Канта: вона встановлює суворі правила, що забороняють обман, примус і ставлення до людей лише як до засобу. Конституція Anthropic включає багато деонтологічних обмежень — це робить поведінку моделі більш послідовною, що корисно для роботизованих систем у побуті та громадських місцях. Читайте також: Anthropic запустила Claude Tag: перекиньте нудні завдання на безвідмовного ШІ-колегу просто у месенджері Моделі з деонтологічним підходом мають й інші переваги, зокрема вищу чесність — рису, широко відзначену саме в Claude. Inflection AI накладає деонтологічні обмеження на свого чат-бота Pi, призначеного для емоційної підтримки. Інший підхід — консеквенціалізм, який зважує витрати і вигоди для ухвалення рішень. Моделі, ближчі до консеквенціалізму, включають ChatGPT від OpenAI та Gemini від Google. Цей підхід також центральний для програмного забезпечення автономних автомобілів — якщо аварія неминуча, система має вирішити, як розбитися з найменшою шкодою, — і для військових систем ШІ, де військові цілі зважуються проти можливих цивільних жертв. Невирішені питання залишаються Складних проблем достатньо — і саме такі філософи люблять найбільше. Чи бувають випадки, коли деонтологічні правила варто порушити? Як ухвалювати рішення, коли наслідки неочевидні? Чи повинні системи ШІ враховувати благополуччя тварин або стан довкілля? Стефан Гек, філософ і керівник компанії Nauto, яка виробляє ШІ-системи безпеки для вантажівок, прогнозує етично складні судові процеси — консеквенціалістські алгоритми явно дозволяють одну шкоду, якщо вона запобігає гіршій. Критики застерігають про «моральну деквалізацію»: якщо комп'ютери дедалі частіше ухвалюють етичні рішення, чи не стануть люди менш готовими формувати власні судження? Роман Ямпольський, теоретик ШІ з Університету Луїсвілля, стверджує, що мораль «історично нестабільна, культурно змінна, стратегічно маніпульована і часто зрозуміла лише ретроспективно». Для випускників гуманітарних спеціальностей це конкретний сигнал, підкріплений офіційними даними Федерального резерву: на тлі того, як ШІ автоматизує рутинну роботу програмістів, попит на людей, здатних формулювати етичні рамки та принципи для самих систем ШІ, зростає — і це вже відображено не лише в кейсах конкретних компаній, а й у статистиці безробіття за спеціальностями. Для тих, хто планує освіту чи кар'єрну зміну, філософія більше не виглядає «непрактичним» вибором: вона стає прикладною дисципліною з конкретним попитом на ринку праці у найбільш технологічно орієнтованих компаніях світу — попри те, що стартова зарплата в IT все ще суттєво вища. Раніше ми писали: Відкрита альтернатива Claude Mythos: як бізнес може інтегрувати нову ШІ-модель Qwythos-9B