Военните бързат да внедрят AI от частния сектор

Интеграцията на частни AI алгоритми в операциите на военните е неизбежна
(снимка: CC0 Public Domain)

Американската армия възнамерява да интегрира комерсиални алгоритми за изкуствен интелект от частния сектор в своите операции и се надява, че индустрията може да отговори на неизбежните опасения за сигурността, които ще произтекат от това.

Миналата седмица, на среща на Amazon Web Services във Вашингтон, Йънг Банг – главен заместник-помощник-секретар в армията по придобиване, логистика и технологии – заяви, че би било загуба на време армията да преоткрива системите, които частната индустрия вече е създала.

Тонове от данни

Армията е препълнена с данни, които днешните системи за машинно обучение (ML) са способни да обработват, а създаването на алгоритми за тази цел вече е извършено или е в ход, така че чичо Сам може да се възползва от това, каза Банг, цитиран от The Register.

„Имаме тонове данни… но няма да разработим алгоритми, по-добри от вашите”, каза той на срещата. „Искаме да внедрим генерирани от трети страни AI алгоритми толкова бързо, колкото ги създавате”.

По думите на Банг, армията е най-големият потребител на AI и алгоритми в шестте клона на въоръжените сили на САЩ, защото, за разлика от флота с неговите кораби или военновъздушните сили с техните самолети, „нашият ресурс са нашите хора”.

Тези хора генерират много данни, следователно армията в крайна сметка се оказва най-големият потребител на ML софтуер за обработка на цялата тази информация. Ето защо военните искат да интегрират AI алгоритмите на индустрията като пряк път за справяне с анализа на данни.

Банг също разкри някои допълнителни подробности за позицията на армията по отношение на изкуствения интелект. Армията, каза той, най-накрая достигна точка, в която е възприела напълно модерни софтуерни практики като гъвкава разработка (agile development) и CI/CD, известна още като непрекъсната интеграция и непрекъсната доставка. Тъй като тези практики вече са въведени, армията се надява, че може да ги използва с изкуствен интелект, за да подпомогне обработката на данни.

Справяне с рисковете

Освен обичайните пристрастия и халюцинации, произтичащи от невронните мрежи, има и опасения за сигурността, в зависимост от архитектурата и употребата на тези мрежи – които варират от прескачане на защитните парапети със специални подкани до проблеми със сигурността на стандартните приложения.

Тези опасения трябва да бъдат взети под внимание, преди да се свържат AI моделите към програми, обработващи чувствителна информация и/или подпомагащи препоръките за действие, което е въпрос на живот или смърт. Вместо сама да оцени тези рискове, армията смята, че може да изпрати искане за информация (RFI), за да получи нужните отговори от частния сектор.

„Това е армията, която казва, че имаме нужда от вашата помощ”, каза Банг на аудиторията по време на срещата на AWS във Вашингтон. „Опитваме се да преодолеем неща, които могат да ни попречат да възприемем генерирани от трети страни алгоритми”.

[related-posts]

„Искаме да идентифицирате определени контроли и да кажете „ето някои процеси и инструменти, които имаме и които могат да ви помогнат”, добави Банг. Той допълни, че неговият отдел държи особено, наред с други неща, да разполага с механизми за отхвърляне на данни и модели, които са били “отровени или поставени в капан”, така че да накарат системите да се държат неочаквано лошо. Тези данни могат да бъдат в набора за обучение на AI моделите или предоставени по време на извод.

Определянето на рисковете около използването на машинно обучение от армията беше приоритетен проект за военните тази година, със 100-дневен план за въвеждане на изкуствен интелект, представен през април и съсредоточен върху определянето на пречките за внедряване.

Банг уточни, че след като 100-дневният план бъде завършен, армията ще премине към 500-дневен план, за да приведе в действие всичко, което е научила от тези усилия за оценка на риска. Тук се включват и усилия, които Банг нарича “BreakAI”, въпреки че не уточни какво може да означава това.