Про що думає штучний інтелект? Дослідники Anthropic почали це з’ясовувати

Дослідники ШІ взялися з’ясувати, чому чатботи зі штучним інтелектом такі розумні – як вони здатні вловлювати доволі складні ідеї людини та інтуїтивно надавати правильні (хоча й не у всіх випадках) відповіді. Іншими словами – про що та як саме «думає» ШІ.

Дослідники з компанії Anthropic вже провели низку тестів, пише Fast Company. Однак розгадати логіку ШІ навряд буде простим завданням – річ у тім, що великі мовні моделі «мислять» не в надто людський спосіб. Їхні вихідні дані формуються з мільярдів математичних сигналів, що працюють від комп’ютерів високої потужності та швидкості. Але більша частина цієї діяльності залишається для дослідників ШІ невидимою або незбагненною.

Водночас найкращий спосіб контролювати щось – зрозуміти, як це працює. Наприклад, про можливості ядерної фізики було відомо задовго до того, як створили першу атомну бомбу та побудували першу АЕС. Досі даних про те, як мовна модель формує відповідь на запит людини, було небагато, а свіже бачення цього процесу запропонували фахівці Anthropic.

Команда компанії створила дослідницький інструмент, який може стежити за моделями даних та потоками інформації в LLM. Цей своєрідний «мікроскоп ШІ» спостерігає, як штучний інтелект пов’язує між собою слова та поняття через послідовні міркування від ідеї, яку людина вклала в запит, до відповіді. У такий спосіб науковці намагаються зрозуміти, чому штучний інтелект, наприклад, використовує саме ці слова в реченнях і саме в тій послідовності, у якій він це робить.

Читайте також: На фоні швидкого розвитку ШІ. CEO Anthropic зробив різкий прогноз щодо роботи програмістів

Так дослідники й виявили, що «хід думок» ШІ відрізняється від людського. Вони попросили мовну модель вирахувати суму двох чисел – 36 і 59. Замість того, щоб виконувати додавання покроково, як це робили б люди, ШІ використав два типи логіки. Спершу він вирахував приблизні варіанти відповіді, а потім – який із них міг би бути правильним із найбільшою ймовірністю. Цікаво, що суму чатбот Claude (а саме з ним експериментували) на виході назвав вірну.

Науковці також намагалися визначити, чим керуються ШІ-моделі, що підтримують багато мов. Вони дійшли висновку, що штучний інтелект спирається на вхідні дані, тобто на слова, які використала в запиті людина, а також на універсальні концепції, що присутні практично в усіх мовах світу. Ба більше, Claude показав, що може збирати дані різними мовами й інтерпретувати їх так, щоб відповідь була зрозумілою користувачу.

Також дослідники довели, що ШІ може думати наперед, або певною мірою імпровізувати. Так, чатбот Claude в межах експерименту попросили написати вірш. Коли один із його рядків закінчувався словами grab it (з англійської – схопи), то за кілька рядків він додав слово rabbit (з англійської – кролик), а потім «заповнив» проміжок між ними. Коли ж дослідники змінювали якесь слово наприкінці рядка, ШІ переписував вірш так, щоби й риму витримати, і надати віршу цілісний контекст.

Втім, можливості ШІ, як і способи його мислення, ще належить ретельно досліджувати. Адже це один зі способів визначити, які ризики можуть нести такі системи, та як їх правильно скеровувати. Як зазначив начальник дослідницької групи Anthropic Джошуа Бетсон, якби науковці розуміли, що відбувається всередині ШІ, їм самим було б набагато комфортніше працювати з його розробкою.

• Нагадаємо, раніше топменеджерка Cisco пояснила, чому вчитися кодувати – хороша порада, попри дедалі більше поширення ШІ, також в розробці програмних продуктів.