Оптимизацията на сложни инженерни системи често изисква тестване на стотици параметри, а това е скъп и бавен процес. Изследователи от MIT разработиха нов алгоритъм, който ускорява подобни изчисления до 100 пъти. Подходът комбинира класическа байесова оптимизация с т.нар. фондационен модел, обучен върху таблични данни.
Много инженерни задачи имат една и съща фундаментална трудност. Системите са сложни, параметрите са стотици, а всяка проверка на дадена конфигурация може да бъде скъпа или трудоемка.
Типичен пример е проектирането на автомобилна безопасност. Инженерите трябва да интегрират хиляди компоненти, като различните дизайнерски решения влияят различно върху поведението на автомобила при катастрофа. Класическите алгоритми за оптимизация постепенно започват да се затрудняват, когато пространството от възможни комбинации стане твърде голямо.
Екип от MIT предлага нова стратегия за справяне с подобни задачи. Техният метод преосмисля начина, по който се използва добре познатият подход на Байесова оптимизация – алгоритъм, който последователно търси най-добрата конфигурация чрез изграждане на помощен модел, оценяващ кои решения си струва да бъдат изпробвани.
Традиционната Байесова оптимизация разчита на т.нар. сурогатен модел. Той предсказва как най-вероятно ще се държи дадена комбинация от параметри, без да се извършва скъпа реална симулация или тест.
Проблемът е, че този модел трябва да бъде обучаван отново след всяка итерация. Когато броят на параметрите е голям, процесът става тежка изчислителна задача. Освен това при нов тип задача моделът трябва да бъде създаден отначало.
За да преодолеят ограниченията, изследователите са решили да използват генеративен AI модел, специализиран в работа с таблични данни. Този тип система се нарича табличен фондационен модел.
Според авторите, методът може да се разглежда като своеобразен „ChatGPT за електронни таблици“. Вместо текст, входът и изходът на модела са структурирани данни – формат, който е изключително разпространен в инженерните приложения.
Подобно на големите езикови модели, системата е предварително обучена върху огромни масиви от данни. Това ѝ позволява да бъде използвана директно, без необходимост от ново обучение за всяка конкретна задача.
Ключовият елемент на новия алгоритъм е способността му автоматично да открива кои параметри имат най-голямо влияние върху крайния резултат. Така вместо да тества всички възможни комбинации, системата концентрира изчислителните ресурси върху най-значимите променливи.
При автомобилен дизайн, например, могат да съществуват стотици параметри. Но само малка част от тях определят реално дали дадена конструкция ще подобри безопасността при удар.
Алгоритъмът анализира данните и оценява кои параметри – или комбинации от тях – оказват най-силен ефект върху резултата. След това фокусира търсенето именно върху тези области от пространството на решенията.
Изследователите са тествали метода върху 60 стандартни задачи за оптимизация. Част от тях симулират реални инженерни сценарии, включително управление на електроенергийни мрежи и моделиране на автомобилни катастрофи.
В повечето случаи новият подход открива оптималното решение между 10 и 100 пъти по-бързо от петте водещи алгоритъма, използвани днес. Предимството му става особено ясно при задачи с голям брой измерения.
Методът не превъзхожда всички съществуващи решения във всяка ситуация. Например при задачи за планиране на траектория на роботи резултатите не са по-добри от тези на класическите алгоритми. Навярно това се дължи на недостатъчно представени подобни сценарии в обучителните данни на модела, смятат учените.
Следващата стъпка за екипа е да подобри възможностите на табличните модели и да приложи метода към още по-мащабни задачи. Сред примерите са инженерни проблеми с хиляди или дори милиони параметри, като проектирането на сложни индустриални системи или морски съдове.
Според авторите изследването е част от по-мащабна тенденция. Този вид модели започват да се използват не само за език и визуално разпознаване, а и като изчислителни „двигатели“ в научни и инженерни инструменти, които позволяват класически методи като Байесовата оптимизация да работят ефективно в значително по-големи мащаби.
