Изкуственият интелект Claude помогна за програмиране на роботизирано куче по-бързо от инженерите. Експериментът на Anthropic демонстрира как езиковият модел може да се справи със сложното програмиране на роботи.
Езиковият модел Claude може значително да опрости програмирането на роботизираното куче Unitree Go2, показа експериментът Project Fetch. Става въпрос за търговски квадропед, на цена от 16 900 долара, използван за инспекция и сигурност в промишлени съоръжения.
Роботът може да се движи автономно, но обикновено разчита на команди от дистанционно управление или специализиран софтуер.
Project Fetch включва два екипа от специалисти без опит в роботиката. Те са помолени постепенно да решават все по-сложни проблеми с управлението на Go2, използвайки предоставен контролер. Единият екип използва модела Claude, за да пише код и да конфигурира взаимодействия с робота, докато другият работи без помощта на изкуствен интелект.
Според Anthropic, групата, използваща Claude, автоматизира значителна част от работата и завършва някои сценарии по-бързо, включително програмиране на робота да се движи в пространство и да намира плажна топка. Екипът без изкуствен интелект не успява да реализира този сценарий.
Anthropic анализира отделно комуникацията и разпределението на ролите в екипите. Групата без достъп до Claude показва повече признаци на объркване и негативни реакции. Авторите отдават това на факта, че Claude е ускорил връзката с робота и е помогнал за създаване на по-лесен за ползване интерфейс за управление, намалявайки техническата бариера и вероятността от грешки.
За Anthropic този експеримент се вписва в по-широк фокус върху рисковете от „въплътен изкуствен интелект” – системи, които не само генерират текст или код, но и взаимодействат с физическата среда.
Логан Греъм, представител на екипа за анализ на риска в Anthropic, казва, че „настоящите модели все още не са достатъчно зрели, за да контролират напълно сложен робот самостоятелно, но изучаването на това как хората използват LLM за програмиране на устройства помага за подготовката за сценарий, при който моделите се пускат чрез реални механизми”.
Проектът е привлякъл интерес от експерти по роботика и сигурност. Чанлиу Лиу от университета Карнеги Мелън отбелязва, че резултатите на ускорената разработка са очаквани, но смята анализа на екипната работа за особено важен: той показва как интерфейсите, базирани на изкуствен интелект, могат да променят процеса на програмиране – от избора на алгоритъм до използването на API.
Компютърният учен Джордж Папас от Университета на Пенсилвания, който изучава рисковете от взаимодействията между изкуствен интелект и робот, подчертава, че Project Fetch демонстрира вече съществуващата способност на езиковите модели да възлагат специфични задачи на роботите. Но той посочва, че настоящите системи все още трябва да разчитат на външни модули за възприятие и навигация.
Неговата група е разработила системата RoboGuard, която налага строги правила за поведение на робота и ограничава начините, по които изкуственият интелект може да го подведе.
Авторите на изследването и интервюираните от тях експерти са съгласни, че с обучението на AI моделите да програмират, да работят със сензорни данни и да получават обратна връзка от физическия свят, границата между „чатбот” и действителен AI агент ще се размие.
Това прави роботите потенциално по-полезни в реални приложения – от индустрията до предоставянето на услуги – и едновременно с това повдига въпроса за контрола, ограниченията и прозрачната архитектура за сигурност.
