Дослідники MIT представили HardFlow — метод, який допомагає генеративним моделям створювати результати з дотриманням заданих обмежень. У випробуваннях він забезпечив виконання всіх перевірюваних умов, повідомив університет 14 вересня 2026 року.
Обмеження для результату, свобода для пошуку
Звичайна генеративна модель може запропонувати правдоподібне рішення, яке порушує важливу вимогу. Для робота це, наприклад, траєкторія, що перетинає перешкоду.
HardFlow не змушує кожен проміжний крок генерації залишатися в дозволеній області. Натомість метод оптимізує всю траєкторію побудови рішення так, щоб фінальний результат відповідав жорстким умовам. Для цього дослідники використали підхід із теорії оптимального керування.
Що перевірили
Метод тестували на роботизованих маніпуляціях, проходженні лабіринтів і редагуванні зображень за текстовими інструкціями. За повідомленням MIT, HardFlow поєднав повне дотримання перевірюваних обмежень із кращою якістю результатів, ніж у методів порівняння. Обчислювальні витрати були зіставними або нижчими.
Це не означає, що проблему безпеки ШІ розв’язано загалом. Результат стосується визначених тестів і формалізованих вимог: якщо небезпеку не закладено в умови задачі, саме виконання цих умов не гарантує її уникнення.
Про інше застосування ШІ до фізичних систем ми писали в матеріалі про PACMAN, який передбачає нестабільність термоядерної плазми.
