MK-Консалтинг

Міністерство молоді та спорту України стало перший відомством у нашій країні, що запустило сервіс на базі великих мовних моделей (LLM) на платформі «Дія.Engine». Новий інструмент опрацьовує та перевіряє заявки на конкурси проєктів міжнародних молодіжних обмінів, а також надає конкурсантам поради щодо того, як їх оформлювати. Як це працює? Особливості розробки MC.today пояснили в пресслужбі українського провайдера хмарних сервісів для AI/ML De Novo. Раніше головними проблемами були складність порядку та обмежені терміни подання заяв на міжнародні обміни. Через помилки в заповненні форм заявники часто римували низькі бали, через що втрачали шанси на перемогу в конкурсах, до того ж можливості виправлення помилок не було. Тобто заяви можна було тільки відкликати. Зараз помічник на основі штучного інтелекту автоматично: аналізує та перевіряє заповнені розділи виявляє типові помилки та рекомендує, як поліпшити текст; допомагає подавати якісніші та конкурентніші проєкти. Інструкцію можна переглянути на YouTube-каналі міністерства: https://www.youtube.com/watch?v86cMq5Xq7-M Для реалізації цього рішення використали великі мовні моделі, які кастомно налаштовували з урахуванням доменних даних. ШІ навчали на прикладах правильно оформлених заявок, типових помилках та зворотному зв’язку від експертів. Після цього на базі платформи «Дія.Engine» створили сервіс «Конкурс проєктів міжнародних молодіжних обмінів», у який інтегрували ШІ. Читайте також: Штучний інтелект у судовій системі – суд у США почав використовувати ШІ-репортерів. Як це працює У межах підходу retrieval-augmented generation система знаходить у внутрішній базі знань потрібну інформацію та з урахуванням заданого контексту надає рекомендації. Це дозволяє підвищити якість відповідей від ШІ та зменшити прояви «галюцинацій». Обчислення виконуються на інфраструктурі ML Cloud від De Novo, дані не передаються третім сторонам та залишаються в Україні. Мовна модель аналізує текст за логічними блоками – мета, цілі, опис діяльності, очікувані результати, бюджет тощо, після чого порівнює зміст заявки з вимогами, які містить конкурсна документація. Це допомагає ШІ виявляти неповні або відсутні блоки, знаходити типові помилки, визначати відповідність інформації заявника вимогам. Загалом навчання мовної моделі тривало 3,5 місяці – стислі терміни пояснюють тим, що в реалізації проєкту вдалися до використання готової LLM. Тож її налаштували відповідно до особливостей заявок. Також розробники створили базу знань і протестували продукт із подальшим ітеративним доналаштуванням. Щоб у ШІ не виникало проблем із розумінням української мови, команда проєкту обрала готову модель Gemma2-27b від Google, яку можна розгортати в локальній інфраструктурі. Як пояснив керівник напрямку штучного інтелекту «MK-Консалтинг» Олександр Акуленко, важливим завданням є також робота над національною мовною моделлю, яку можна буде використовувати для впровадження подібних сервісів у державному секторі та в бізнесі. Генеральний директор De Novo Максим Агєєв відзначив, що потужні LLM-моделі потребують добре захищеної програмно-апаратної інфраструктури. Тому в межах проєкту компанія підготувала два IT-середовища: одне для попередніх експериментів, налаштування моделі, тестування інтеграції з «Дія.Engine», друге – для роботи готової моделі. Високу швидкість та якість роботи системи забезпечується інстансами NVIDIA GPU (зокрема, прискорювачами Nvidia H100 та A100), які підходять для машинного навчання і високопродуктивних обчислень. Готове рішення розгорнули на платформі De Novo Tensor Cloud. Нагадаємо, компанія Google надала українцям безплатний доступ до курсу AI Essentials – що відомо та як долучитися до програми, можна прочитати тут.