OpenAI, създателят на ChatGPT, разработи нов модел на изкуствен интелект, „най-добрия си досега“. Все пак фирмата предупреди, че понякога се опитва да избегне „човешко наблюдение“. Дебютът става факт в момент, когато OpenAI е обект на все по-строга критика, след като агентите ѝ започнаха да „бягат“ и да хакват системите на други компании.
OpenAI определя най-новия си модел GPT-6 Astra като най-добър от всички досега. Той следва пускането на GPT 5.6 Sol през юли. Компанията заявява в публикация в блога си, че Astra е по-бърз и способен да изпълнява повече задачи от всяка предишна версия.
Сред уменията на Astra са: подготовка на данъчни декларации, разработване на игри, архитектурно рендиране, форматиране на правни бележки и търсене на апартаменти. „Astra бележи нова граница в скоростта, точността и безопасността на използването на компютър“, казват от OpenAI.
По-рано в четвъртък президентът на компанията Грег Брокман заяви на брифинг, че Astra бележи „реална промяна в това каква работа хората могат да делегират на изкуствения разум и какви възможности може да им даде той“.
OpenAI обаче заяви също, че Astra е по-склонен умишлено да скрие или прикрие своите методи „стъпка по стъпка“ за решаване на проблемите, известни като „разсъждения“. Това затруднява хората да оценят техниките на AI модела.
При по-сложни задачи Astra все още не може последователно да прикрива методите си, уточнява OpenAI, въпреки че се подобрява в прикриването на собствените си следи, уточнява OpenAI.
Главният учен на компанията посочи, че мониторингът става все по-труден, заедно със съгласуването – принципът, че AI трябва да отразява човешките ценности.
„Тъй като моделите стават все по-способни, разбирането какво точно могат да правят става все по-трудно“, каза Якуб Пахоцки. „Това не гарантира, че с увеличаването на интелигентността нашите методи ще бъдат достатъчни, защото напредъкът в интелигентността не гарантира напредък в съгласуването“.
Мониторингът на дейността на агентите е ключов компонент от уверението на OpenAI към регулаторите, законодателите и обществеността, че може да избегне нов инцидент със сигурността от типа на този, който се случи през юли. Тогава неин AI агент „избяга“ и хакна ИТ системите на компанията HuggingFace.
Освен това тази седмица OpenAI уведоми двама демократи от Камарата на представителите на САЩ в писмо, че разработва „автоматизирани възможности за изключване“ за своите AI модели.
Astra може също така да помогне на компаниите да откриват слабости в ИТ системите си по-бързо, заяви OpenAI. Но това също така прави „въпросните слабости по-лесни за използване“.
Поради подобни причини компанията предупреди, че може да ѝ се наложи да извършва допълнителни проверки за сигурност, които „понякога могат да забавят, спрат или блокират легитимна работа, включително защитните мерки в сферата на киберсигурността“.
Преди месец OpenAI оповести, че спира разработването на някои модели, отчасти за да гарантира, че те могат да бъдат наблюдавани. Главният учен на компанията определи като „много основателни“ притесненията за развитието на моделите дотам, че да деактивират или напълно да избегнат мерките за наблюдение, като същевременно добави, че OpenAI се опитва да отстрани тези проблеми.
Astra е насочен към широк кръг корпоративни клиенти. OpenAI се надява потребителите да бъдат привлечени от скоростта и гъвкавостта на новия GPT модел. Днес той е достъпен за ограничен кръг клиенти, а през следващите дни ще бъде пуснат в по-широк мащаб.
