Як працює перший в Україні сервіс на базі великих мовних моделей на платформі «Дія.Engine», запущений Міністерством молоді та спорту. Фото: Depositphotos
Міністерство молоді та спорту України стало перший відомством у нашій країні, що запустило сервіс
Особливості розробки MC.today пояснили в пресслужбі українського провайдера хмарних сервісів для AI/ML De Novo. Раніше головними проблемами були складність порядку та обмежені терміни подання заяв на міжнародні обміни. Через помилки в заповненні форм заявники часто римували низькі бали, через що втрачали шанси на перемогу в конкурсах, до того ж можливості виправлення помилок не було. Тобто заяви можна було тільки відкликати.
Зараз помічник на основі штучного інтелекту автоматично:
Інструкцію можна переглянути на YouTube-каналі міністерства:
Для реалізації цього рішення використали великі мовні моделі, які кастомно налаштовували з урахуванням доменних даних. ШІ навчали на прикладах правильно оформлених заявок, типових помилках та зворотному зв’язку від експертів. Після цього на базі платформи «Дія.Engine» створили сервіс «Конкурс проєктів міжнародних молодіжних обмінів», у який інтегрували ШІ.
Читайте також: Штучний інтелект у судовій системі – суд у США почав використовувати ШІ-репортерів. Як це працює
У межах підходу retrieval-augmented generation система знаходить у внутрішній базі знань потрібну інформацію та з урахуванням заданого контексту надає рекомендації. Це дозволяє підвищити якість відповідей від ШІ та зменшити прояви «галюцинацій». Обчислення виконуються на інфраструктурі ML Cloud від De Novo, дані не передаються третім сторонам та залишаються в Україні.
Мовна модель аналізує текст за логічними блоками – мета, цілі, опис діяльності, очікувані результати, бюджет тощо, після чого порівнює зміст заявки з вимогами, які містить конкурсна документація. Це допомагає ШІ виявляти неповні або відсутні блоки, знаходити типові помилки, визначати відповідність інформації заявника вимогам.
Загалом навчання мовної моделі тривало 3,5 місяці – стислі терміни пояснюють тим, що в реалізації проєкту вдалися до використання готової LLM. Тож її налаштували відповідно до особливостей заявок. Також розробники створили базу знань і протестували продукт із подальшим ітеративним доналаштуванням.
Щоб у ШІ не виникало проблем із розумінням української мови, команда проєкту обрала готову модель Gemma2-27b від Google, яку можна розгортати в локальній інфраструктурі. Як пояснив керівник напрямку штучного інтелекту «MK-Консалтинг» Олександр Акуленко, важливим завданням є також робота над національною мовною моделлю, яку можна буде використовувати для впровадження подібних сервісів у державному секторі та в бізнесі.
Генеральний директор De Novo Максим Агєєв відзначив, що потужні LLM-моделі потребують добре захищеної програмно-апаратної інфраструктури. Тому в межах проєкту компанія підготувала два IT-середовища: одне для попередніх експериментів, налаштування моделі, тестування інтеграції з «Дія.Engine», друге – для роботи готової моделі. Високу швидкість та якість роботи системи забезпечується інстансами NVIDIA GPU (зокрема, прискорювачами Nvidia H100 та A100), які підходять для машинного навчання і високопродуктивних обчислень. Готове рішення розгорнули на платформі De Novo Tensor Cloud.
Великий європейський лоукостер Ryanair повідомив про введення штрафів для деяких пасажирів. Так, за порушення доведеться…
Операції з картками, банкомати та деякі інші системи «ПриватБанку» не працюватимуть 14 червня. Причина –…
Питання зарплати – одне з найскладніших на співбесіді. Компанія ставить свої умови, а кандидат може…
Питання власного житла на часі для багатьох українців навіть попри виклики сьогодення. Купити квартиру можуть…
Курс євро демонструє значне зростання, тоді як долар – навпаки. Що відбувається з популярними в…
Навіщо створювати сайт знайомств, якщо їх і без того існує чимало? Проте у Normis дещо…