Як працює перший в Україні сервіс на базі великих мовних моделей на платформі «Дія.Engine», запущений Міністерством молоді та спорту. Фото: Depositphotos
Міністерство молоді та спорту України стало перший відомством у нашій країні, що запустило сервіс
Особливості розробки MC.today пояснили в пресслужбі українського провайдера хмарних сервісів для AI/ML De Novo. Раніше головними проблемами були складність порядку та обмежені терміни подання заяв на міжнародні обміни. Через помилки в заповненні форм заявники часто римували низькі бали, через що втрачали шанси на перемогу в конкурсах, до того ж можливості виправлення помилок не було. Тобто заяви можна було тільки відкликати.
Зараз помічник на основі штучного інтелекту автоматично:
Інструкцію можна переглянути на YouTube-каналі міністерства:
Для реалізації цього рішення використали великі мовні моделі, які кастомно налаштовували з урахуванням доменних даних. ШІ навчали на прикладах правильно оформлених заявок, типових помилках та зворотному зв’язку від експертів. Після цього на базі платформи «Дія.Engine» створили сервіс «Конкурс проєктів міжнародних молодіжних обмінів», у який інтегрували ШІ.
Читайте також: Штучний інтелект у судовій системі – суд у США почав використовувати ШІ-репортерів. Як це працює
У межах підходу retrieval-augmented generation система знаходить у внутрішній базі знань потрібну інформацію та з урахуванням заданого контексту надає рекомендації. Це дозволяє підвищити якість відповідей від ШІ та зменшити прояви «галюцинацій». Обчислення виконуються на інфраструктурі ML Cloud від De Novo, дані не передаються третім сторонам та залишаються в Україні.
Мовна модель аналізує текст за логічними блоками – мета, цілі, опис діяльності, очікувані результати, бюджет тощо, після чого порівнює зміст заявки з вимогами, які містить конкурсна документація. Це допомагає ШІ виявляти неповні або відсутні блоки, знаходити типові помилки, визначати відповідність інформації заявника вимогам.
Загалом навчання мовної моделі тривало 3,5 місяці – стислі терміни пояснюють тим, що в реалізації проєкту вдалися до використання готової LLM. Тож її налаштували відповідно до особливостей заявок. Також розробники створили базу знань і протестували продукт із подальшим ітеративним доналаштуванням.
Щоб у ШІ не виникало проблем із розумінням української мови, команда проєкту обрала готову модель Gemma2-27b від Google, яку можна розгортати в локальній інфраструктурі. Як пояснив керівник напрямку штучного інтелекту «MK-Консалтинг» Олександр Акуленко, важливим завданням є також робота над національною мовною моделлю, яку можна буде використовувати для впровадження подібних сервісів у державному секторі та в бізнесі.
Генеральний директор De Novo Максим Агєєв відзначив, що потужні LLM-моделі потребують добре захищеної програмно-апаратної інфраструктури. Тому в межах проєкту компанія підготувала два IT-середовища: одне для попередніх експериментів, налаштування моделі, тестування інтеграції з «Дія.Engine», друге – для роботи готової моделі. Високу швидкість та якість роботи системи забезпечується інстансами NVIDIA GPU (зокрема, прискорювачами Nvidia H100 та A100), які підходять для машинного навчання і високопродуктивних обчислень. Готове рішення розгорнули на платформі De Novo Tensor Cloud.
Айтівець і начальник Управління ІТ Міністерства оборони України Олег Берестовий іде з посади. На цій…
Транснаціональна компанія Visa запустила в Україні технологію, що дозволяє підтверджувати онлайн-покупки за допомогою біометрії –…
Очільник Міністерства цифрової трансформації Михайло Федоров повідомив, скільки податків сплатили резиденти «Дія.City» в І кварталі…
Українські айтівці Влад Кампов та Діма Малєєв запустили власний стартап mentor.sh – платформу для пошуку…
Засновниця та CEO BetterMe Вікторія Рєпа назвала пораду, яку вона хотіла б дати собі 8…
Станіслав Деркач все життя працював у сфері шоубізу, потім кинув собі виклик, пішов у кардинально…