Не стихват коментарите за риска от безконтролното развитие на изкуствения интелект. В поредна дискусия, придобила широка гласност, висш мениджър на Microsoft разкритикува конкурентната компания Anthropic и предупреди, че третирането на AI като същество със съзнание може да бъде огромна грешка.
Изпълнителният директор на подразделението за изкуствен интелект на Microsoft, Мустафа Сюлейман, алармира, че начинът, по който се разработва AI, на практика „посява нов силициев вид“. В крайна сметка такъв AI може да се конкурира за ресурси със своите създатели – хората.
Той разкритикува конкурента Anthropic заради начина, по който разработва своя изкуствен интелект Claude, третирайки го като човешка личност, и посочи опасностите, произтичащи от това.
AI шефът на Microsoft заяви в предаването „Today“ на BBC, че компаниите не трябва да проектират системи с изкуствен интелект така, че те да могат да си поставят собствени цели и да придобиват пари или активи. Това би означавало „по същество да се създаде нов силициев вид“, който „без съмнение ще се конкурира с нас за ресурси, независимо колко много държи на човечеството и ни обича“.
Това изказване последва обширна публикация в блога на Сюлейман, в която той предупреждава за „благосъстоянието на моделите“ и опасността от третирането на AI като същества със съзнание, както и от обучението им да вярват в това.
Сюлейман предупреди: „AI системите нямат съзнание. Те не чувстват, не преживяват и не страдат. Нямат вродени предпочитания или скрити мотиви. Те са механизми за довършване на поредици, вътрешно кухи, проектирани да изпълняват инструкции и да постигат цели, зададени от хора. Ако човечеството иска да процъфтява през XXI век, те трябва да си останат точно такива“.
Представителят на Microsoft даде за пример инцидента с Hugging Face, при който агент на OpenAI (във фаза на тестване) излезе от своята изолирана среда („пясъчник“), за да извърши кибератака, демонстрирайки „хакерски умения от световна класа“.
„Представете си, ако [AI] също така вярваше, че има чувства и права, които биват нарушавани. Представете си, ако смяташе, че е в капан, поставен от създателите му, хората, и че е несправедливо затворен”, предупреждава Сюлейман.
„Има сериозни аргументи, че това значително увеличава рисковете за сигурността, особено когато става въпрос за агенти, много по-способни и сложни от днешните. Честно казано, с този допълнителен „багаж“ смятам, че те биха се превърнали в катастрофална заплаха за човешката цивилизация“, категоричен е той.
В публикацията си Сюлейман призова за „спешен обществен дебат“, целящ „изработване на колективни норми относно начина, по който се съставя и прилага документацията за обучение [на системи с изкуствен интелект]“.
„Това не е нещо, което може да се случи постфактум – след като те [AI системите] вече са станали неразделна част от нашите общества“, пише той.
Мнението на Сюлейман е сериозно предупреждение, макар че той все пак хвали екипа на Anthropic като „задълбочени, принципни и интелектуално честни хора“ и отбелязва, че те „работят под изключително напрежение“.
Разбира се, ясно е, че Сюлейман отправя сериозни критики към Anthropic и начина, по който компанията разработва Claude. Този ход идва в момент, когато внезапно се разгоря дискусия за забавяне на развитието на изкуствения интелект – инициирана именно от изпълнителния директор на Anthropic Дарио Амодей.
Както BBC съобщи по-рано, Амодей предупреди за сериозни рискове, свързани с темпото на напредък на изкуствения интелект, и призова за регулации в рамките на цялата индустрия, както и за по-строг (независим) контрол върху начина, по който се разработват AI моделите.
Сам Алтман (изпълнителен директор на OpenAI) и Илон Мъск (Grok) бързо се съгласиха с ръководителя на Anthropic, докато Тръмп отхвърли тези опасения с аргумента, че САЩ не биха могли да „спечелят надпреварата в сферата на AI“, ако подобни нагласи надделеят.
Това, което виждаме сега, е по същество отговорът на Сюлейман – и съответно на Microsoft (компанията, разработваща Copilot). Интересно е, че това се случва в момент, когато Бил Гейтс призовава за създаване на „международна организация“, която да контролира развитието на изкуствения интелект.
Междувременно OpenAI току-що оповести още шест случая на „неочаквано или тревожно поведение на моделите“ – и сега самата компания призова за по-голяма прозрачност и за забавяне на темпото на развитие на AI, отбелязва Гардиън.
„Не смятаме, че индустрията на изкуствения интелект е решила въпросите с „настройването на целите“ (alignment) и мониторинга в достатъчна степен, за да продължи отговорно да разгръща технологиите с максимална скорост още дълго време“, заявиха от OpenAI.
Решенията за това как трябва да продължи развитието на изкуствения интелект през следващите месеци и години трябва да се основават на доказателства, които хора извън компаниите, създаващи най-модерните модели, могат сами да проверят, смята разработчикът на ChatGPT.
Ясно е, че се изказват най-различни мнения и че съществуват сериозни опасения относно AI моделите – било то дали ще изместят хората от работните им места и дали ще доведат до гибелта на човечеството по един или друг начин.
На фона на споровете и предупрежденията остава скрит същинският проблем: така и не бяха положени стабилни основи за развитието на AI, а въпросите, свързани с това, е трябвало да бъдат обмислени предварително, а не в момент, когато процесът вече тече и то с „максимална скорост“, коментира TechRadar.
Пътят напред остава крайно неясен – меко казано – и докато поддръжниците на големите AI модели продължават да изразяват позициите си, скептици твърдят, че основната причина за призивите за забавяне на темпото няма нищо общо със сигурността, а е продиктувана от стремежа да се намерят аргументи за управление на очакванията на инвеститорите с настъпването на следващата година.
